科技科 ,我国科技发展的资料

《互联网信息服务算法推荐管理规定》系列专家解读(一)

时间:2022-01-16 09:51:05 | 作者:爱科技网 | 点击: 165 次

随着大数据和人工智能技术的快速发展,算法推荐技术在互联网信息服务中得到广泛应用,与此同时算法应用中存在的违法和不良信息传播、侵害用户权益、操纵社会舆论等乱象问题也屡次出现。2021年12月31日,国家互联网信息办公室、工业和信息化部、公安部、国家市场监管总局联合发布《互联网信息服务算法推荐管理规定》(以下简称《规定》)。作为互联网信息服务领域贯彻落实《网络安全法》《数据安全法》《个人信息保护法》的重要举措,《规定》聚焦算法推荐服务乱象问题,构建算法安全治理体系,有效规范了互联网信息服务算法推荐活动。

一、《规定》为应对算法推荐乱象提供指引和规范

(一)聚焦违法和不良信息传播问题,引导算法应用合理规范

当前,算法推荐服务提供者在开展新闻信息推送、热点榜单、信息发布等活动时,存在传播违法和不良信息的乱象:一是利用生成合成类算法自动合成新闻、帖子等,未作显著标识造成虚假信息夸大传播;二是采用定向推送类算法在首页首屏、弹窗等,扎堆推送恶性案件、灾难事故等负面信息诱发社会恐慌;三是利用排序精选类算法生成热搜、榜单等,片面追求流量,大肆炒作娱乐八卦、低俗恶俗等有悖社会主义核心价值观内容。

针对违法和不良信息传播问题,《规定》明确算法推荐服务向上向善的原则,提出算法推荐服务提供者应建立健全用于识别违法和不良信息的特征库、显著标识算法生成合成信息、加强版面页面生态管理、重点环节积极呈现主流价值导向信息等多项措施,鼓励符合主流价值导向的正能量传播。

(二)聚焦侵害用户权益乱象,引导算法应用公正公平

当前,算法推荐服务提供者在开展调度决策、个性化推荐等活动时,存在侵害用户权益的乱象:一是大数据杀熟问题,即根据消费者的偏好、交易习惯等特征,在交易价格等交易条件上实行不合理的差别待遇;二是诱导沉迷网络问题,即设置诱导用户沉迷、过度消费的算法模型,尤其是利用算法推荐诱导未成年人沉迷网络;三是劳动权益保障问题,采用调度决策类算法进行工作调度时,未保障平台内劳动就业者(如网约配送员、网约车驾驶员等)在劳务报酬、休息休假等方面的劳动权益;四是偏见歧视问题,将违法和不良信息关键词记入用户兴趣点,或者设置歧视性、偏见性用户标签来推送信息内容;五是未成年人和老年人权益保障问题,向未成年人推送可能影响身心健康的信息,未充分考虑老年人适老化需求等。  针对侵害用户权益乱象,《规定》明确算法推荐服务公正公平的原则,提出算法推荐服务提供者应定期审核评估算法、加强用户模型和用户标签管理、公开算法推荐服务相关规则、保障用户选择或退出使用算法推荐服务的权利、建立用户申诉渠道等多种措施,保障未成年人、老年人、劳动者权益,引导算法应用遵守社会公德和伦理,遵守商业道德和职业道德。   (三)聚焦操纵社会舆论乱象,引导算法应用公开透明

当前,算法推荐服务提供者在开展个性化推荐、热点榜单、信息发布等活动时,存在操纵社会舆论乱象:一是采用个性化推荐算法按照用户偏好频繁推荐感兴趣的内容,久而久之形成用户意见极化的“信息茧房”;二是利用算法注册虚假账号、雇佣网络水军,实施虚假点赞、转发等流量造假,或者鼓动“饭圈”粉丝互撕谩骂、刷量控评等饭圈乱象;三是利用算法屏蔽信息、过度推荐,操纵干预热搜、榜单或检索结果排序;四是实施自我优待,影响网络舆论、规避监管,如恶意屏蔽其他企业的网址链接等。

针对操纵社会舆论乱象,《规定》明确算法推荐服务公开透明的原则,鼓励算法推荐服务提供者综合运用内容去重、打散干预等策略、增强规则透明度和可解释性;明确规定算法推荐服务禁止行为,如不得利用算法对其他互联网信息服务提供者进行不合理限制等,保障国家安全、公共利益及组织和个人合法权益。

二、《规定》为国家建立算法安全治理体系打下制度基础

(一)强化企业主体责任,建立多方参与的算法推荐服务治理机制

《规定》围绕算法推荐服务,建立政府、企业、行业组织和网民多方参与的治理机制。一是明确政府监管职责。《规定》明确国家网信部门负责统筹协调全国算法推荐服务治理和监督管理工作,工信、公安、市场监管等有关部门依据各自职责负责监督管理工作,同时通过《关于加强互联网信息服务算法综合治理的指导意见》建立网信、宣传、教育、科技等多部门协同联动长效机制,共同开展算法安全治理工作;二是强化企业主体责任。《规定》要求算法推荐服务提供者应当落实算法安全主体责任,建立健全算法安全管理制度和技术措施,配备相应的专业人员和技术支撑;三是鼓励行业自律。《规定》鼓励相关行业组织加强行业自律,建立健全行业准则,督促指导算法推荐服务提供者接受社会监督;四是倡导社会监督。《规定》鼓励广大网民积极参与算法安全治理工作,要求算法推荐服务提供者设置公众投诉举报入口,及时处理网民投诉举报请求。

(二)创新技术监管模式,建立事前事中事后的算法推荐服务监管措施