2021年12月24日,由北京航空航天大学法学院、工业和信息化法治战略与管理重点实验室联合主办的“算法治理的中国面向”专题研讨会在北京举行,来自北京部分高校的十余位专家学者围绕互联网信息服务算法的备案、审查、监管等算法治理“中国方案”中的多方面问题进行充分交流。
为加强互联网信息服务算法综合治理,2021年9月国家互联网信息办公室等九部委联合制定了《关于加强互联网信息服务算法综合治理的指导意见》(以下简称《指导意见》),近日国家互联网信息办公室又起草了《互联网信息服务算法推荐管理规定(征求意见稿)》(以下简称《管理规定(征求意见稿)》)。北京外国语大学法学院教授王文华提出,《管理规定(征求意见稿)》和《指导意见》中对于大数据“杀熟”的限制,其实在电子商务法第18条、第77条就有相应规范以及罚则,但电子商务法不可能规定得那么具体,随着新技术、新模式、新业态的出现,对平台滥用算法的行为规范有必要进一步细化,从而实现有效治理。在内容算法管理方面,《管理规定(征求意见稿)》关于对流量造假等不正当竞争手段的禁止以及建立切实有效的算法备案制度的提议值得肯定。在王文华看来,算法治理需要综合法律、商业、科技、传媒等不同学科领域的知识,对算法滥用的法益侵害性尽可能精准评估,才能有效做到平衡各相关方的合法权益。在这方面,欧盟与美国的不同保护模式反映出两种不尽相同的价值取向。我国在对算法滥用行为规定法律责任、进行综合治理时,需要在评估分析算法对于操纵热榜、沉迷上瘾等不同场景的危害性的基础之上,确定较为合理可行的治理政策以及法律责任条款,而对于内容类平台算法滥用,直接的治理方式是规制平台,而长效机制则需要社会共治。
中国传媒大学文化产业管理学院法律系主任郑宁讨论了“文化安全视野下的算法监管”问题,针对在现有算法的监管办法中如何体现文化安全的重要价值进行了分析。算法在文化安全中扮演了重要的角色,需要注意算法控制信息流动、议程设置和信息茧房方面的影响。
中国社会科学院法学研究所教授姚佳认为,“算法治理中的公共利益边界”中的“公共利益”,目前没有一个清晰明确的标准。在互联网领域,“公共利益”的界定标尺可以考虑消费者保护、市场秩序(竞争秩序)、伦理道德以及技术发展等四方面内容。在科技发展中,伦理道德的作用无法被替代,可以作为公共利益的衡量因素;而技术发展本身是否也可以列为公共利益的一部分需要进一步论证。此外,在算法治理制度建构中,可以考虑与反不正当竞争的相关规定相衔接,从而更好地治理恶意刷单、热榜控制等网络领域的不正当竞争行为。
北京科技大学文法学院副教授张凌寒强调了算法治理的重要性,算法安全会引发系统性的风险。而在新冠疫情发生后,我国算法治理的制度建设层面呈现出明显变化,即敢于建立具有中国特色的规范体系,算法备案是相关立法中最具有中国特色的制度。关于算法备案的细则仍在不断的讨论与摸索中,相信未来定能找到一条行之有效的监管道路。
中国人民大学法学院未来法治研究院执行院长张吉豫对互联网信息服务算法备案制度也提出自己的想法。从企业发展的角度来看,上述征求意见稿并没有强制要求训练代码进行数据备案,也没有给企业增加特别重的负担,更多还是从安全和发展并重,促进合作、多元共治的角度进行制度设计,有助于企业的风险防范。在算法备案时要注意坚持比例原则,不一定要深入到原代码级别才能实施更好的监管,结合具体的风险点,在标签层备案可能已然足够。在安全评估制度架构中,企业自评估部分可以考虑和之前出台的安全评估规定结合在一起,在低负担的基础上为监管机构提供更好的指导性接口。
北京理工大学智能科技风险法律防控工信部重点实验室执行主任陈姿含从意大利两起处罚事例讲起,对平台算法的“穿透式监管”进行阐述。我国对于算法的审查监管,采取“规制”视角,并对应着公民权利与反垄断的双重面向。此外还需要鉴别算法,辨别有可能产生在信息透明、关系可持续性、限制竞争方面的问题。关于算法备案制度,陈姿含认为要对算法类型进行区分:一是属于自然存在的算法;二是程序员编写的算法,重点考察算法输入输出层面有无违法行为;三是机器深度学习自动生成的算法,涉及考察对象、责任主体等问题的讨论。
对外经济贸易大学法学院副教授张欣认为,《管理规定(征求意见稿)》的内容具有算法推荐类型全覆盖、算法问责机制更明晰、以价值观设计纠偏“技术中立”、用户权利更健全、治理理念更多元以及监管理念更科学等六个特点。未来算法备案制度发展可能面临一些挑战,比如算法是否可以分级分类,算法备案与审查是形式还是实质,等等。在建构思路方面,张欣提出需明确和细化算法备案的内涵、法律性质、法律责任及分级分类管理评估标准,实现算法备案的制度化和一体化。
中央民族大学法学院副教授朱芸阳提醒大家思考算法治理究竟是从整体层面理解还是从算法推荐层面理解,并赞同从两个不同维度理解算法治理:从算法推荐的角度来说,应当采取底线思维,着重考虑算法的透明化、公平公正、弱势群体(包括未成年人、劳动者)的权益保护、社会公共利益等等;如果将算法治理理解为更大领域的范畴来说,应当站在更宏观的视角考虑如何实现算法生态规范发展,支持算法与社会、经济各领域深度结合,区分不同场景进行规制,注重算法在数字经济中的创新正向作用,鼓励算法创新发展,提升算法创新能力。
北京航空航天大学周瑞珏博士就算法推荐服务中的基本告知义务进行探讨,认为需要评估分析操纵热榜、沉迷上瘾等场景的危害。由于一般用户对于算法理解能力的有限性,即便要求信息服务者尽可能简化算法的基本功能,他们也很难理解这些公示出的内容。从用户知情权保障这一层面来说,告知义务的履行方式应当限定于“是与否”的问题,从而使得消费者更加明晰算法推荐服务到底是什么。
北京航空航天大学法学院助理教授、工业和信息化法治战略与管理重点实验室办公室主任赵精武总结认为,各位专家的讨论碰撞出思维的火花,为算法治理的理论发展与实践应用提供了重要的学理支撑。我国学术界和实务界应当进一步深入剖析算法发展现状和趋势,妥善应对算法带来的风险和挑战,推动算法对社会发展产生正向引领驱动作用,为网络文明建设与国家治理体系现代化贡献力量。
