5月11日，我院教师讲座“算法时代的智能陷阱及其法律规制”在腾讯会议线上举行。此次学术活动由宪法行政法教研室赵伟博士主讲，郭庆珠教授担任评议人，我院教师、本科生、研究生等100余人参加了活动。讲座由郝磊院长主持。

      讲座开始前，郝磊院长首先向大家介绍了赵伟老师研究领域和成果情况。郝院长表示，赵伟老师最近聚焦人工智能时代的算法问题展开了较为集中的研究，今天的讲座是她的阶段性研究成果的呈现，相信通过分享会给我们带来很好的启迪。

      赵伟老师首先从算法时代的崛起谈起，对何为算法、算法的溯源与发展等问题做了清晰界定和细致梳理。其次，以算法推荐系统为例，对算法的主要应用场景做了介绍。再次，结合算法应用场景对算法应用过程中存在的风险和弊端做了讲解。最后，结合我国算法治理规范，对算法法律治理模式和法律机制做了法规范分析和探讨。

      讲座第一部分对算法的基本理论进行了阐述。第一，人工智能产生后，算法从经验中学习，导致算法本身的性质随着时间的推移发生变化，即算法通过大量的数据“喂养”可以实现自主学习和自我更新。第二，通过算法溯源和发展梳理，2017年AlphaGo Zero的问世可以作为算法时代崛起的标志。

      讲座第二部分以算法推荐系统为例，论述了算法的主要应用场景。进入人工智能时代，推荐系统以各种各样的方式影响着我们的生活，产生不同应用场景。日常生活中经常使用的各种软件以及主流的 App都基本应用到了推荐系统，如今日头条、腾讯新闻等会向人们推送感兴趣的资讯；京东、淘宝、拼多多等会给人们推荐“可能喜欢”的物品；抖音、快手等短视频App会给人们推送感兴趣的短视频；饿了么、美团、大众点评、小红书等APP会给人们推荐可能喜欢的食物或者饭店等等。算法推荐系统的主要原理是从用户的历史交互日志中挖掘用户特征，继而将满足用户偏好的物品或者服务推荐给用户，其接受信息的方式是被动且需求是模糊而不明确的。

      讲座第三部分对算法推荐系统的应用风险做了梳理论证。算法推荐系统的应用风险主要包括信息茧房、算法黑箱、虚假新闻与低俗内容、算法偏见和歧视、用户隐私与安全问题。第一，“信息茧房”是指用户一旦形成阅读习惯，就会被自己的兴趣限定于特定领域，对其他问题和知识缺乏关注，使人们的注意力及兴趣被限制在较小的范围内。第二，算法之所以会存在人类无法控制的“黑箱”是由于算法依赖于机器学习，这种算法内化数据的方式不容易被人类审计或理解。第三，造成虚假新闻和低俗内容泛滥的原因主要有以下几点：（1）在互联网的海量数据中往往已经存在大量低质化信息，为满足用户的兴趣偏好，推荐系统可能将点击和浏览量高的虚假和低俗内容继续推荐给用户；（2）设计推荐算法的工程师未接受专业化新闻伦理训练的情况下，没有将对社会价值的导向要求需要内化为算法的具体规则，在客观上呈现出推荐内容的低质化倾向；（3）纯粹的个性化推荐系统缺乏对文章的质量与内容的把关，终极目标就是实现流量最大化，用户在猎奇心理驱使下点开的虚假新闻、低俗内容就会在网络环境中广泛地传播。第四，算法从受相同偏见影响的内容中学习到更多偏见，这些认知偏见经网上广泛传播后导致更为广泛的社会冲突。第五，算法推荐服务之间存在大量数据交易行为，会削弱个人对其个人数据的控制和管理。

      讲座第四部分对我国《互联网信息服务算法推荐管理规定》做了法规范分析。第一，《互联网信息服务算法推荐管理规定》对算法进行了清晰界定。第二，《互联网信息服务算法推荐管理规定》对我国的算法推荐信息服务需要遵循的具体规则和采取的技术措施作出明确列举。第三，《互联网信息服务算法推荐管理规定》针对用户知情权、选择权、救济权等权益和平台对应的告知义务、公示义务等义务作出了具体规定。

      讲座结束后，进入交流评议环节。郭庆珠教授主要从四个方面阐述了对算法规制的看法。首先，需要肯定算法这一选题的重要性，因为日常生活中算法的广泛应用已经带来了各个方面的问题，尽管我们不熟悉技术规制，但从法律角度进行规制非常有必要；其次，算法规制的原因在于其使用时会涉及权利义务关系，也会影响诸多社会关系，这正是法学研究的基本思路；再次，谁来规制算法也值得思考，基于有效性与便利性等因素考量，不论是技术规制抑或是法律规制都存在一定的局限性；最后，在法律如何规制算法的问题上，既有公法规制与私法规制的选择，也有程序规制与实体规制的权衡，但每种规制手段都各有利弊，需要在此基础上进行细致分析。

      与会的各位同学积极提问。肖琦同学提出，算法时代中个人信息保护方面有哪些问题与相应的解决机制。赵老师结合讲座主要内容，指出目前个人信息保护领域的问题集中在信息过度收集、信息泄露与传播等方面，算法本身的高度学习功能又加剧了此类问题的严重性，故当前的解决机制就是从法律入手，落实算法安全的主体责任，同时不断健全算法的管理制度和技术措施，再以用户的角度，重视其个人权益的保护。崔雪同学对算法公开提出疑问，认为对算法评价标准的公开并不意味着算法黑箱的解决。赵老师强调，一般意义上的算法公开就是算法技术的公开，或者说是一种结果的公开，但目前的公开方法还达不到解决算法黑箱问题的要求。

      最后，郝院长认为，此次讲座围绕着算法进行展开，重点介绍了资讯推荐、影音推荐以及电商平台推荐等具体应用场景，并在梳理算法风险的基础上解读了《互联网信息服务算法推荐管理规定》等法律规范及相关规制路径，使我们切身体会到自己生活在一个被算法包围的时代。讲座整体内容丰富，思路清晰，能够帮助各位老师和同学系统地了解与算法有关的法律问题，为我们打开了一扇研究算法的窗口。郝院长希望各位同学们能认真领会讲座内容，并鼓励大家在此基础上进行更加深入的学习与探讨。