您的位置:首页 – 政策法规

《互联网信息服务算法推荐管理规定》系列专家解读(一)

发布日期:2022-01-22 浏览次数:531

聚焦算法推荐乱象问题 构建算法安全治理体系

作者:杨建军 中国电子技术标准化研究院党委书记

随着大数据和人工智能技术的快速发展,算法推荐技术在互联网信息服务中得到广泛应用,与此同时算法应用中存在的违法和不良信息传播、侵害用户权益、操纵社会舆论等乱象问题也屡次出现。2021年12月31日,国家互联网信息办公室、工业和信息化部、公安部、国家市场监管总局联合发布《互联网信息服务算法推荐管理规定》(以下简称《规定》)。作为互联网信息服务领域贯彻落实《网络安全法》《数据安全法》《个人信息保护法》的重要举措,《规定》聚焦算法推荐服务乱象问题,构建算法安全治理体系,有效规范了互联网信息服务算法推荐活动。

一、《规定》为应对算法推荐乱象提供指引和规范

(一)聚焦违法和不良信息传播问题,引导算法应用合理规范

当前,算法推荐服务提供者在开展新闻信息推送、热点榜单、信息发布等活动时,存在传播违法和不良信息的乱象:一是利用生成合成类算法自动合成新闻、帖子等,未作显著标识造成虚假信息夸大传播;二是采用定向推送类算法在首页首屏、弹窗等,扎堆推送恶性案件、灾难事故等负面信息诱发社会恐慌;三是利用排序精选类算法生成热搜、榜单等,片面追求流量,大肆炒作娱乐八卦、低俗恶俗等有悖社会主义核心价值观内容。

针对违法和不良信息传播问题,《规定》明确算法推荐服务向上向善的原则,提出算法推荐服务提供者应建立健全用于识别违法和不良信息的特征库、显著标识算法生成合成信息、加强版面页面生态管理、重点环节积极呈现主流价值导向信息等多项措施,鼓励符合主流价值导向的正能量传播。

(二)聚焦侵害用户权益乱象,引导算法应用公正公平

当前,算法推荐服务提供者在开展调度决策、个性化推荐等活动时,存在侵害用户权益的乱象:一是大数据杀熟问题,即根据消费者的偏好、交易习惯等特征,在交易价格等交易条件上实行不合理的差别待遇;二是诱导沉迷网络问题,即设置诱导用户沉迷、过度消费的算法模型,尤其是利用算法推荐诱导未成年人沉迷网络;三是劳动权益保障问题,采用调度决策类算法进行工作调度时,未保障平台内劳动就业者(如网约配送员、网约车驾驶员等)在劳务报酬、休息休假等方面的劳动权益;四是偏见歧视问题,将违法和不良信息关键词记入用户兴趣点,或者设置歧视性、偏见性用户标签来推送信息内容;五是未成年人和老年人权益保障问题,向未成年人推送可能影响身心健康的信息,未充分考虑老年人适老化需求等。

针对侵害用户权益乱象,《规定》明确算法推荐服务公正公平的原则,提出算法推荐服务提供者应定期审核评估算法、加强用户模型和用户标签管理、公开算法推荐服务相关规则、保障用户选择或退出使用算法推荐服务的权利、建立用户申诉渠道等多种措施,保障未成年人、老年人、劳动者权益,引导算法应用遵守社会公德和伦理,遵守商业道德和职业道德。

(三)聚焦操纵社会舆论乱象,引导算法应用公开透明

当前,算法推荐服务提供者在开展个性化推荐、热点榜单、信息发布等活动时,存在操纵社会舆论乱象:一是采用个性化推荐算法按照用户偏好频繁推荐感兴趣的内容,久而久之形成用户意见极化的“信息茧房”;二是利用算法注册虚假账号、雇佣网络水军,实施虚假点赞、转发等流量造假,或者鼓动“饭圈”粉丝互撕谩骂、刷量控评等饭圈乱象;三是利用算法屏蔽信息、过度推荐,操纵干预热搜、榜单或检索结果排序;四是实施自我优待,影响网络舆论、规避监管,如恶意屏蔽其他企业的网址链接等。

针对操纵社会舆论乱象,《规定》明确算法推荐服务公开透明的原则,鼓励算法推荐服务提供者综合运用内容去重、打散干预等策略、增强规则透明度和可解释性;明确规定算法推荐服务禁止行为,如不得利用算法对其他互联网信息服务提供者进行不合理限制等,保障国家安全、公共利益及组织和个人合法权益。

二、《规定》为国家建立算法安全治理体系打下制度基础

(一)强化企业主体责任,建立多方参与的算法推荐服务治理机制

《规定》围绕算法推荐服务,建立政府、企业、行业组织和网民多方参与的治理机制。一是明确政府监管职责。《规定》明确国家网信部门负责统筹协调全国算法推荐服务治理和监督管理工作,工信、公安、市场监管等有关部门依据各自职责负责监督管理工作,同时通过《关于加强互联网信息服务算法综合治理的指导意见》建立网信、宣传、教育、科技等多部门协同联动长效机制,共同开展算法安全治理工作;二是强化企业主体责任。《规定》要求算法推荐服务提供者应当落实算法安全主体责任,建立健全算法安全管理制度和技术措施,配备相应的专业人员和技术支撑;三是鼓励行业自律。《规定》鼓励相关行业组织加强行业自律,建立健全行业准则,督促指导算法推荐服务提供者接受社会监督;四是倡导社会监督。《规定》鼓励广大网民积极参与算法安全治理工作,要求算法推荐服务提供者设置公众投诉举报入口,及时处理网民投诉举报请求。

(二)创新技术监管模式,建立事前事中事后的算法推荐服务监管措施

《规定》提出贯穿算法推荐服务事前事中事后的监管体系。一是分级分类安全管理。《规定》根据算法推荐服务的舆论属性或者社会动员能力、用户规模、处理的数据敏感程度等对服务提供者实施分级分类管理,并对具有舆论属性或者社会动员能力的算法推荐服务提供者提出更严格的管理要求;二是建立算法备案制度。《规定》要求具有舆论属性或者社会动员能力的算法推荐服务提供者在提供服务之日起十个工作日内,对服务提供者的名称、服务形式、应用领域等信息进行备案;三是建立算法安全评估机制。《规定》要求具有舆论属性或者社会动员能力的算法推荐服务提供者应按照国家有关规定开展安全评估;四是开展算法监督检查。《规定》规定网信部门会同有关部门开展算法安全评估和监督检查工作,同时严厉打击算法推荐违法违规行为。

三、小结

互联网信息服务算法安全管理以《规定》为基础,打造政府监管、企业履责、行业自律、社会监督的算法安全多元共治局面,在促进算法健康、有序、繁荣发展,营造风清气正的网络空间,弘扬社会主义核心价值观的道路上迈出了重要的一步。下一步为贯彻落实《规定》可开展以下措施:

一是大力加强《规定》宣传贯彻培训。做好《规定》宣传推广、普及培训,面向互联网企业、人工智能企业、重点行业企业等开展针对性宣传解读,形成共识;鼓励行业组织制定行业自律规则,指导会员加强算法推荐行业自律;针对广大网民当前最关心、反映最强烈的算法安全问题,积极开展算法安全科普培训,形成国家、企业、个人共同参与算法安全治理工作的良好局面。

二是建立算法安全检查评估机制。尽快建立《规定》配套的算法安全检查评估机制,推动算法推荐服务提供者开展算法安全自评估,督促具有舆论属性或者社会动员能力的算法推荐服务者按照国家有关规定开展算法安全评估,建设安全检查评估力量,支撑有关部门对算法推荐服务进行安全检查,督促算法推荐服务提供者及时发现和整改相关问题。

三是开展算法安全技术能力建设。算法推荐技术作为一种新技术模式,面临一些新型技术安全、应用安全甚至伦理安全风险,为支撑《规定》落地实施,亟需加强算法安全技术能力建设,深入研究生成合成、个性化推荐、排序精选、检索过滤、调度决策等算法的安全问题,建设算法推荐服务备案、算法安全评估、算法安全风险监测等平台,提升互联网信息服务算法推荐技术监管能力。

四是加强算法安全标准化工作。基于问题导向、急用先行原则,加快推动算法相关技术标准发布,研究制定算法安全评估、算法分级分类安全管理等标准,进一步发挥标准对算法安全评估等工作的支撑作用;积极开展新技术新应用标准化前瞻研究,围绕人工智能、区块链等新技术新应用带来的安全问题和风险挑战,开展标准化前沿研究和标准化技术文件研制,不断提升标准化工作的引领性、前瞻性。

加强算法治理 建设未成年人友好型的网络空间

作者:林维 中国社会科学院大学副校长、教授、互联网法治研究中心主任

习近平总书记指出:网络空间是亿万民众共同的精神家园,网络空间天朗气清、生态良好,符合人民利益。网络空间乌烟瘴气、生态恶化,不符合人民利益。未成年人的网络生态建设是这一精神家园建设中的重要任务之一。

十余年来,未成年网民的规模呈现不断增长的趋势。据中国互联网络信息中心第48次《中国互联网络发展状况统计报告》显示,截至2021年6月,我国网民规模为10.11亿,6-19岁网民占15.7%,共1.58亿人。同时根据第十次中国未成年人互联网运用调查显示,我国未成年人互联网普及率为99.2%,显著高于71.6%的全国平均普及率。

网络为未成年人带来了崭新的生存方式,也引发了未成年人网络保护的挑战问题,未成年人的网络生活、交往成为其生活交往中无法摆脱、无法分割的一部分,线上线下的二元化生活加快了一元融合的节奏。未成年人的网络参与行为成为社会网络行为的重要构建内容,其在网络生态建设中的主体地位势必应当得到承认和确立。网络强国的未来主体必定是一代又一代成长中的未成年人。无论是网络新技术的发展,还是网络新生活的构建,乃至网络新文化的传承,都依赖一代又一代已经成为网络原住民的未成年人的发展与成长。因此,网络生态建设的任务之一就是要建设一个未成年人友好型的网络空间。

《互联网信息服务算法推荐管理规定》(以下简称《规定》)的制定和实施,为我国未成年人网络权益保护的制度框架提供了重要的组成部分,继《未成年人保护法》《儿童个人信息网络保护规定》《网络信息内容生态治理规定》等法律文件之后,在算法领域构建了未成年人网络权益保护的基本纲领,提供了保护和发展并行的中国方案。

首先,《规定》制定了未成年人保护专条(第十八条),专门针对未成年人权益保护规定了算法推荐服务提供者的一系列义务,要求向未成年人提供服务时,“应当依法履行未成年人网络保护义务,并通过开发适合未成年人使用的模式、提供适合未成年人特点的服务等方式,便利未成年人获取有益身心健康的信息。”在具体禁止性义务层面,该条进一步规定,“算法推荐服务提供者不得向未成年人推送可能引发未成年人模仿不安全行为和违反社会公德的行为、诱导未成年人不良嗜好等可能影响未成年人身心健康的信息,不得利用算法推荐服务诱导未成年人沉迷网络。”

未成年人保护专条从积极义务和消极义务两个方面,构建了算法推荐服务提供者的未成年人保护义务体系。这意味着,算法推荐服务提供者不仅需要筑起保护未成年人免受不良信息侵害的防护墙,还需要为未成年人获取有益信息承担积极主动的社会责任,通过在未成年人模式等专门模式下,建设并不断充实健康向上、适合未成年人身心特点、具备良好使用体验和充分吸引力的内容池,保护和发展并重,为未成年人积极构建风清气朗的网络空间,保证未成年人可以通过网络继续拓展视野、发展自我,建设未成年人友好型的网络空间。

特别需要指出的是,《规定》强调了《未成年人保护法》网络保护专章中确认的不得诱导未成年人沉迷网络的规定。算法作为移动互联网时代的重要技术创新,算法推荐服务的重要特点即在于能够通过判断和预测用户偏好,向用户推送个性化的服务内容。未成年人存在认知、判断能力较弱,价值观尚未成型等特点,针对性过强的算法推送内容有可能引发各种不良效果,亦可能导致沉迷网络现象。针对这一重点问题做出明确的强调和规定,体现了《规定》强化落实算法领域防沉迷义务的坚定态度。

其次,在未成年人保护专条之外,《规定》从内容生态治理、用户标签管理、用户权益保护多个层面对于算法推荐服务构建全流程、深层次的监管框架,为未成年人权益保护构建了多重屏障。

从内容生态治理角度,《规定》不仅提出了原则性要求,更是对于算法技术实现的全过程进行重点环节干预,例如要求“建立健全用于识别违法和不良信息的特征库,完善入库标准、规则和程序”,以及对于算法生成合成信息的显著标识义务,从源头对于信息内容的技术控制提出要求(第九条)。从用户标签管理角度,《规定》要求“加强用户模型和用户标签管理,完善记入用户模型的兴趣点规则和用户标签管理规则,不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息”,这对于防范未成年人接触违法和不良信息尤其重要。与之相对应的是用户权益保护领域,《规定》在《个人信息保护法》关于自动化决策的规定基础之上,进一步要求算法推荐服务提供者“应当向用户提供选择或者删除用于算法推荐服务的针对其个人特征的用户标签的功能”(第十七条)。这一规定在行业合规中需要结合不同场景和服务功能进行分别落实,在未成年人保护领域则应采取最为严格的落实水准,应当为未成年人和其监护人提供充分了解、选择、删除的机制,使其对于针对未成年人自身个人特征的用户标签掌握较为全面的控制和干预的权利,确保未成年人不会因为不恰当的标签设置以及据此进行的算法推荐服务而遭受侵害。

《规定》作为中国首个针对算法推荐服务制定的专门规定,在算法治理领域为国际社会提供了中国道路和方案,在未成年人网络保护领域,也构建了保护和发展并重的双重路径,强化和完善了体系化的制度构建,有助于提升网络空间治理体系和治理能力现代化,为建设未成年人友好型的网络空间提供了重要的制度基石。

健全算法推荐治理机制  推动新技术安全可信发展

作者:王爱华 中国信息通信研究院副总工程师

近年来,大数据、物联网、云计算等新一代信息技术快速发展,数字化、网络化、智能化加速推进,新技术新应用新业态蓬勃兴起。作为数字经济时代的重要底层架构,算法逐步成为影响内容分发、服务提供、资源配置的基础性力量,与此同时,算法也引发了群体歧视、算法合谋、信息茧房等一系列问题,给公众利益、社会稳定和国家安全带来巨大挑战。习近平总书记多次强调,要依法加强网络社会管理,加强网络新技术新应用的管理,确保互联网可管可控。2021年12月31日,国家网信办联合工业和信息化部、公安部、市场监管总局出台《互联网信息服务算法推荐管理规定》(以下简称《规定》),针对当前突出问题,全面搭建了算法综合治理机制,迈出我国新技术新应用立法的重要一步。

一、坚持问题导向,聚焦人民群众反映强烈的算法问题

坚持以人民为中心,是习近平新时代中国特色社会主义思想的重要内容,贯穿于习近平新时代中国特色社会主义思想的各个方面。全面贯彻落实以人民为中心,要求突出问题导向、目标导向,积极回应群众强烈诉求和急难愁盼问题。当前,算法技术广泛渗入互联网应用,深入贴近人民生活,由算法引发的信息茧房、算法歧视、未成年人网络沉迷、骑手安全、不正当竞争等新问题层出不穷,引发社会广泛关注。

《规定》聚焦重点、抓纲带目,对上述新问题、新挑战进行了全面、系统和具体回应,进一步细化用户权利,切实维护用户自主权利。一是强化算法透明度,保障用户知情权。算法透明是实施算法监督、自主选择的重要前提,也是在损害发生后用户进行权利救济的必要保障。《规定》明确了平台应用算法的告知义务,对算法基本原理、目的意图和主要运行机制等的公示义务,并鼓励平台优化对检索、排序、选择、推送、展示等规则的透明度和可解释性。二是赋予用户退出个性化推荐的权利。与《个人信息保护法》《电子商务法》相衔接,《规定》第十七条规定了平台向用户提供不针对其个人特征的选项,或者向用户提供便捷的关闭算法推荐服务选项的义务。三是创新性提出对用户标签的管理权,确保用户对输入数据的适当干预。根据《规定》的要求,用户可选择或删除用于算法推荐服务的针对其个人特征的用户标签,从输入数据层面实现更大自主权。此外,《规定》重点强化对未成年人、老年人、劳动者、消费者等特定群体的权益保护。

二、坚持底线思维,夯实平台算法安全治理的主体责任

当前,人工智能、大数据等新技术新应用体现出重大国家战略意义,关系国家安全和公共利益,这更加要求我们坚持底线思维,着力防范化解算法带来的政治安全、意识形态安全、社会秩序等方面重大风险。在《网络安全法》《数据安全法》《个人信息保护法》等顶层立法框架下,《规定》与近年国家网信办出台的《网络信息内容生态治理规定》《互联网用户公众账号信息服务管理规定》《网络音视频信息服务管理规定》《互联网直播服务管理规定》《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》等互联网信息服务相关法律规范有效衔接、一脉相承。例如,《规定》对《网络信息内容生态治理规定》第十二条个性化算法推荐技术的人工干预和自主选择机制,以及《网络音视频信息服务管理规定》第十条有关深度学习、虚拟现实等新技术新应用的安全评估义务等制度,均作了进一步规定。

基于网络平台的技术、数据优势,强化网络平台在算法运行中的全流程主体责任,成为《规定》的重要内容。一是《规定》以基于风险的规制为基本理念,确立了算法定期审核、评估等要求。重点强调对算法相关的数据、模型等进行评估审查,规定平台应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等内容,应当建立健全安全评估监测、安全事件应急处置等管理制度。二是《规定》注重技术治理手段,并确立了负面清单制度。鼓励平台综合运用内容去重、打散干预等技术策略,积极化解信息茧房,实现信息多样性,同时在不正当竞争、劳动保障、大数据杀熟等方面确立了多项禁止性行为,为算法推荐服务划定底线红线。三是《规定》重点强调在网络信息内容生态治理中的主体责任。要求平台建立健全算法机制机理审核、科技伦理审查、用户注册、信息发布审核等管理制度,不得利用算法操纵榜单、控制热搜等干预信息呈现,在各个重点环节积极呈现符合主流价值导向的信息等。

三、坚持良法善治,推进新技术新应用监管的中国路径

当前,算法等新技术新应用已经成为推动企业数字化转型和国家治理能力现代化的重要力量,推动算法技术应用中的良法善治意义重大。良法善治意味着应坚持从中国实际出发,立足我国基本国情,统筹考虑经济社会发展状况、法治建设总体进程、人民群众需求变化等综合因素,借鉴国际社会有益经验,确保各项制度设计有效落实。《规定》在借鉴国外经验基础上,提出事前监管、区分监管、系统监管等思路,贡献了新技术新应用监管的中国智慧和中国方案。

一是事前监管,确立算法备案、算法评估等制度。《规定》对具有舆论属性或者社会动员能力的算法推荐服务提供者提出了备案要求,要求通过算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息,有效应对算法黑箱问题。针对变更备案信息的要求进一步体现了监管灵活性和敏捷性优势。二是区分监管,确立分级分类的思路。《规定》从全局角度出发,在复杂多变局面下统筹发展和安全、效率和公平、活力和秩序,引导技术向上向善发展。其中,第二十三条确立了算法分级分类的标准,要求根据算法推荐服务的舆论属性或者社会动员能力、内容类别、用户规模、算法推荐技术处理的数据重要程度、对用户行为的干预程度等,对算法推荐服务提供者进行差异化管理。三是系统监管,建立多元共治的局面。《规定》着力完善治理体系,统筹各方建立完整制度链条。优化监管框架,实现事前事中事后全流程、全链条监管,增强监管系统性和权威性;注重充实算法监管力量,培育算法治理的社会性支撑力量,如第三方评估机构、外部专家团队,推动行业自律和出台标准指南;推进公众监督,畅通社会监督和申诉渠道,并切实有效处理公众诉求。

整体来看,在立法目的上,《规定》注重推动算法安全可信和技术创新之间的有效平衡。一方面建立健全算法安全治理机制,构建完善的算法安全监管体系,另一方面,注重推进算法自主创新,促进算法健康、有序、繁荣发展。在治理理念上,《规定》体现个人赋权和系统治理相结合的算法治理趋势。在赋予用户算法知情权、自主选择权等权利的同时,注重从事前、事中、事后全流程对输入数据、算法逻辑等全要素进行系统治理。在行为规范上,注重坚持正确导向和底线思维。强调算法应遵循技术伦理,以主流价值观为引领,强化算法透明度义务规范;同时建立算法运行的负面清单,禁止利用算法影响网络舆论、实施垄断和不正当竞争等行为。下一步,建议进一步健全算法安全治理机制,强化监管执法和多元协同治理,落实平台主体责任,推动数字经济发展行稳致远。

加强算法安全科研攻关 推进算法综合治理

作者:程学旗 中国科学院计算技术研究所副所长

人类社会正加速进入智能化时代,数据是关键生产要素,算法是核心生产力。随着人工智能、大数据等新型信息技术的快速发展,算法与互联网信息服务深度融合,为用户提供个性化、精准化、智能化的信息服务。互联网信息服务算法在加速互联网信息传播、繁荣数字经济、促进社会发展的同时,其不合理应用也影响了正常的传播秩序、市场秩序和社会秩序,给维护意识形态安全、社会公平公正和网民合法权益带来挑战。

为规范互联网信息服务算法应用生态,国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局联合发布《互联网信息服务算法推荐管理规定》(以下简称《规定》)。《规定》是目前我国针对互联网信息服务算法推荐出台的最为系统的专门性部门规章,为规范互联网信息服务算法推荐活动、促进互联网信息服务健康发展、推进网络空间治理提供了重要的制度保障,意义重大,影响深远。

一、坚持主流价值导向,管理好使用好发展好算法应用

《规定》着眼于网络信息内容生态治理,防范互联网信息服务算法滥用风险,保障用户合法权益,充分发挥算法服务正能量传播作用,营造风清气正的网络空间。《规定》从以下三个方面明确了算法治理的总体方向。

(一)坚持正确导向,算法向上向善。《规定》鼓励算法推荐服务提供者使用算法积极传播正能量、抵制违法和不良信息。《规定》鼓励算法正向应用和创新发展,通过人工干预优化算法推荐服务机制,将网络信息内容生态治理和算法治理有机结合,弘扬社会主义核心价值观。

(二)坚持风险防控,推进算法规制。《规定》着眼互联网信息服务中潜在的算法影响网络舆论、算法诱导用户沉迷或过度消费、算法共谋和不正当竞争等算法应用风险,由此引出治理对象,通过算法规制规范互联网信息服务算法推荐活动,维护国家安全和社会公共利益。

(三)坚持规范发展,防止算法滥用。《规定》倡导,提供算法推荐服务应遵循公正公平、公开透明、科学合理和诚实信用的原则,四个基本原则为算法规范发展框定了边界。《规定》在信息服务规范和用户权益保护部分,设置了算法应用的应当行为和禁止行为,明确了算法应用的底线。

二、建立健全科学的监管体系,形成算法治理长效机制

《规定》明确了互联网信息服务算法综合治理的监管体系,构建了涵盖算法分级分类、算法备案管理、算法安全评估、算法风险监测等举措的科学监管体系,逐步形成算法治理长效机制。具体体现在三个方面:

(一)算法分级分类,科学精细治理。《规定》明确了算法治理的对象,即应用算法推荐技术向用户提供信息的算法推荐服务提供者。《规定》将互联网信息服务推荐算法分为生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等五大类,并分别设置了针对性的差异化条款。例如,对于生成合成类算法推荐服务,强调“应做出显著标识”;对于个性化推送类,突出用户的自主选择权等用户权益保护;对于决策调度类,关注算法自动化决策对劳动者、消费者等造成的影响。对算法推荐服务的分级分类管理,体现了科学化、精细化的算法治理基本思路。

(二)算法备案先行,治理有章可循。《规定》要求具有舆论属性或者社会动员能力的算法推荐服务提供者通过互联网信息服务算法备案系统履行算法备案手续,并在对外提供服务的网站、应用程序等的显著位置标明其备案编号。算法备案是《规定》提出的一个重要举措,以算法推荐服务为切入点对其使用的互联网信息服务算法进行备案,将算法和服务作为一个有机整体进行治理。算法自评估报告是算法备案的一项亮点内容,为国家监管部门和算法推荐服务提供者协同推动算法治理工作提供了重要抓手。

(三)算法安全评估,力求标本兼治。《规定》明确了网信部门和电信、公安、市场监管等有关部门对算法推荐服务依法开展安全评估和监督检查的工作职责,并要求算法推荐服务提供者对安全评估和监督检查工作提供必要的数据、技术等支持或协助。算法安全评估着眼于治本,从算法推荐服务的基本原理、目的意图、主要运行机制等方面入手,以“事前”评估的方式排除算法在模型、数据、策略、人工干预等方面的安全隐患;算法监督检查以事中监测的方式发现算法使用过程中的安全风险及算法滥用带来的算法乱象。算法安全评估和监督检查工作覆盖了算法应用的全生命周期,二者相互促进,力求算法治理做到标本兼治。

三、建设算法治理技术支撑体系,促进算法健康有序发展

《规定》的出台,是进一步提升网络综合治理能力的应时应势之举,具有很强的探索性和前瞻性,也标志着我国网络空间治理迈入新的发展阶段。但是,算法综合治理目前仍处于起步阶段,在技术支撑和能力建设方面有待进一步加强。加快推进算法综合治理技术支撑体系建设,是切实保障算法综合治理工作有力有序推进的关键。同时,算法安全既是国家重大需求,也是国际科技前沿,国家科研机构应加大算法安全方面的科技攻关,建设算法安全评估和风险监测的科研创新平台,建设支撑互联网信息服务算法综合治理的技术体系。建议加强如下工作:

(一)优化算法安全科研布局,构建算法治理关键技术联合攻关体系。围绕智能算法安全这一重大创新领域,组建国家重点实验室,形成引领算法安全基础研究的战略力量;充分调动“政产学研用”各方优势力量,探索共建新型研发机构,加大科研攻关力度,研究算法安全内生机理、算法安全风险评估、算法全生命周期安全监测等关键技术问题。

(二)完善算法人才队伍结构,建立算法安全治理人才队伍培养体系。鼓励高校设置并加强算法安全相关专业学科建设,扩大招生和培养规模,加大算法安全治理基础人才培养力度;完善算法安全治理领域成果评价和人才激励机制,提供良好科研生态环境,政策导向与市场优化双管齐下,培养一支高素质算法安全人才队伍。

(三)加强基础科研设施建设,提升算法自主创新和安全可控能力。建设算法安全基础科研设施,促进算法研发工作,支持算法与社会、经济各领域深度结合。加强知识产权保护,提高自研算法产品的推广和使用,增强算法核心竞争力。推进算法安全科学普及工作,提升企业和社会公众的算法安全风险意识,引导社会各界积极参与社会监督,共同推进算法综合治理。