CN English中文ItalianoFrançais

算法综合治理行动即将到来,算法公示的实操指南

发布日期:2022-03-29 17:25:15浏览:


2021年9月,国家网信办等九部门联合发布《关于加强互联网信息服务算法综合治理的指导意见》,其中提到了引导算法应用“透明可释”,推动算法“公开透明”,保障大众的合理权益。


今年1月5日颁布的《互联网信息服务算法推荐管理规定》(简称《算法规定》),更是明确将保障用户的算法知情权列为算法推荐服务提供者的义务,随着3月1日《算法规定》正式实施,长期以来野蛮生长的算法相关行业将步入制度化、规范化发展的新常态,监管也必定随之而到。


在《算法规定》实施半个月后,国务院新闻办在3月17日的“清朗”系列专项行动新闻发布会中,国家网信办相关负责人就今年即将开展的“清朗·算法综合治理”专项行动向行业预告了即将来临的监管风暴,“信息茧房”“算法歧视”“大数据杀熟”等影响网民生产生活的问题,将会成为本次专项行为督促整改的重点。


算法公示是用户知晓和行使自身权利的基础,也是对算法进行监管的重点。作为未来算法合规体系中“第一门面”,算法公示将会是所有监管最容易、也是最先关注到和考核到的合规要点。算法公示是所有运用算法推荐技术的企业的必答题。本文将通过对相关规定的解读与分析业内目前常见的算法公示做法,探讨如何做好算法公示。


一、算法公示的法定要求

此处“算法公示”是指根据《算法规定》第十六条规定:算法推荐服务提供者应当以显著方式告知用户其提供算法推荐服务的情况,并以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等。根据该条款规定,我们可以从三个维度来看《算法规定》对算法公示的要求:



一)算法公示的方式和范围

以显著方式告知,指公示是否足以引起用户注意,实践上即算法公示内容不应过于隐蔽,如查阅入口设置过多点击跳转层级、字体故意缩小、变淡等。如在用户服务协议、隐私政策等文件中提及,也应以突出字体提醒用户。

以适当方式公示,指公示是否适合于用户查阅理解,如内容晦涩难懂、冗长繁琐,使用大量专业术语,用户难以理解,很可能不被认为“以适当形式”公示。

提供算法推荐服务的情况,包括说明在什么类别服务、什么情况下、以什么形式使用算法推荐技术,会对用户产生什么影响。

算法推荐服务的基本原理、目的意图、主要运行机制,是对算法推荐技术描述本身所需包含内容的最低要求。



(二)需要进行算法公示的技术类型

《算法规定》列举了五类常见的算法技术,结合现有技术的情况,落入规制范围的应主要为以下算法技术:

生成合成类算法,即通过深度学习模型,结合实际场景或基于一定设定运行的的内容生成,部分新闻资讯类服务提供者可能利用该类算法自动生成新闻、评论等文字内容,此外也包括虚拟人像、换脸技术等;

个性化推送类算法,即基于内容或其他因素,结合用户过往行为,推测出用户偏好的商品、服务或内容的算法,包括购物信息或广告推送均可能利用此类算法;

排序精选类算法,即对特定目标进行排序的算法。常见于带有搜索功能的应用对检索结果进行排序;

检索过滤类算法,即从根据选定的标准,从一定大容量的数据中进行过滤得到匹配标准的特定目标的算法。除了搜索外还可能应用于关键词屏蔽等功能中;

调度决策类算法,即根据预定的分配策略为现有的目标进行撮合与分配的算法,常见于外卖、网约车等为服务提供侧进行订单分配,也涉及陌生人社交等随机交友功能的实现。



(三)需要进行算法公示的技术类型

算法公示的主体简而言之为“算法推荐服务提供者”。根据《算法规定》第二条,即在中国境内应用上述算法推荐技术提供互联网信息服务的主体。

从实践中来看,提供算法推荐服务的互联网平台,往往存在多种主体复合的情形,比如使用算法推荐服务的主体,既包括平台的运营者,又有通过平台提供服务的商家或者服务提供者。

我们认为《算法规定》所限定的管辖主体是提供互联网信息服务的主体,依赖平台等向用户提供算法推荐服务的商家或服务提供者等主体,其本身并不掌控、无法干预算法,仅提供自身商品或服务基本信息以供第三方进行算法推荐的,不属于《算法规定》规制的主体,如外卖平台上进入具体商铺页面,存在类似于“猜你喜欢”的推荐,具体的商铺经营者不属于需要进行算法公示的主体,且在实践中要求大大小小餐饮商家履行算法公示义务并不现实,也不符合规定本意。


二、算法公示的实操调研

《算法规定》简易明确的列明了算法公示的要求,但落实到实践中,算法服务提供者如何操作才能符合法律的要求,这是每个进行公示的算法服务提供者必须面临的实务考验。我们对市面上常见的网络平台的算法公示情况进行了检索和查阅,观察算法公示的位置、内容以及呈现形式。我们主要通过其提供服务的APP查询,同时兼顾平台网站。



一)算法公示的位置

1、不少APP没有设置单独的算法公示,仅能在隐私政策找到关于算法的相关描述,例如,某新闻资讯利用算法技术为用户推荐其可能感兴趣的文章或视频,但在其提供服务的APP中,我们没有找到明确的算法公示内容,经查阅,我们发现其隐私协议中有隐私协议中涉个性化设置的内容。


(图为某新闻资讯平台中简明版隐私政策对个性化推荐进行设置的示意)


(图为某新闻资讯平台中隐私政策对个性化推荐进行专章设置的示意)

2、不少平台将涉及个性化推荐等算法推荐技术的描述,放在相关算法推荐开关设置中,作为对该设置的描述。如某购物平台会利用算法向用户推送他们可能感兴趣的商品,其对涉及的算法技术的描述就在开关设置的页面中。


(图为某线上购物内容平台中涉及个性化内容推荐的设置)

3、部分平台将算法推荐技术的描述设置为单独页面,放置于平台规则公示或隐私等关联栏目中,用户可以进入点击单独查看算法公示相关内容。如某招聘平台的算法公示内容在“隐私中心”中,用户进入APP后依次点击进入“我的”、“隐私中心”后即可单独查阅了解算法推荐技术相关内容。

(图为某招聘平台中对推荐算法原理页面入口设置的示意)

(二)算法公示的内容和呈现方式

1、不少平台在描述算法推荐技术时,会着重描述其使用到的个人信息,特别是把描述放在隐私政策中的平台,因为其本身就将对算法推荐技术的描述视为个人信息保护一部分而已,用于回应《个人信息保护法》关于自动化决策的规定。虽然会说明算法推荐的目的,但对其运作机制和原理并没有很好的说明。此处我们以某音乐平台的隐私协议为例。


(图为某音乐平台的隐私协议关于算法推荐技术的描述)

这种内容描述在将算法推荐技术描述与相关算法推荐开关设置放在一起的平台中也非常常见,具体可以参见上文提到的某购物平台的例子。

2、部分平台会着重以算法推荐的实现为重点,对算法的技术描述更为突出和详细,其中使用到的个人信息和其他参考要素为辅。此类情况主要出现在以单独页面展示算法推荐技术内容的平台中。

一般而言这种描述会以该算法推荐的目的,并陈述使用到的个人信息与其他参考要素,说明这类这些信息与要素在算法中的运用状况(如要素的重要性、大致权重),部分会单独说明用户就算法推荐技术向平台方的咨询方式。此处以某线上招聘平台为例,其关于应聘者职位检索排行与推荐的算法推荐技术的公式内容,针对候选职位范围、推荐度、列表生成过程进行阐述,并提示咨询客服热线。


(图为某线上招聘平台的算法公示内容)

从各大网络平台的实践,我们不难发现,《算法规定》刚刚开始施行,平台对如何做好算法公示还未达成一致,公示的形式、查阅方式、公示内容等五花八门,这也为广大利用算法推荐技术的网络服务提供者、以及数据合规从业者提出了更高的要求。


三、算法公示相关合规建议


要做好算法公示,我们认为首先要准确把握《算法规定》规定目的和监管逻辑。从《算法规定》的体例出发,算法公示相关内容规定在“用户权益保护”章节之中,公示是为了让用户知晓、了解并有机会评估是否接受算法推荐服务,从本质上讲,可以视为是对消费者知情权在新经济形态下的外延。算法公示要求的本质不是披露算法核心内容,而是保障用户知晓该算法会使用自己什么个人信息,清楚不同的推荐排行会涉及什么因素,了解会如何影响自己接受到的信息,并评估自己是否需要接受或在何种程度上接受这样的算法推荐服务。

基于此理解出发,我们提出如下算法公示的合规建议:


(一)算法公示的位置,应与网络服务提供保持同等渠道,并在用户不需要过多点击跳转的情况下可以查阅

如网络服务通过网页、APP、小程序提供,则算法公示应当在上述所有渠道都可以查阅得到,避免出现仅在网页提供、或仅在APP提供算法公示的情况。

算法公示均提供明确的、单独的阅读链接或按钮入口,链接或入口保持与隐私设置等类似的层级,进入后以单独页面呈现,不宜过多点击和页面跳转,否则可能会面临用户或监管机构对有否以“显著方式”进行算法公示的挑战。

算法公示应与隐私相关设置、描述或文件分离,不应隐匿在隐私政策章节中。如果将算法公示隐藏在其他平台规则的章节中,可能会对用户查看造成障碍,使公示的显著性打上折扣。

对于曾经以单独发布形式对外公开算法推荐技术的,不应将“公开”视为“公示”,而应将合格的公示内容移植到现有服务渠道中展示,方便用户随时查阅。



(图为某招聘平台的APP和网页端算法公示入口,用户查阅需点击次数和跳转层级少,入口清晰明确且独立,而且保持APP与网页端同步展示)



(二)理解算法公示要求中的基本内容,并且以解释算法技术的目的进行公示内容书写

1、算法公式的基本内容要求,即基本原理、目的意图和主要运行机制,如完成此三项的告知,即可以认为属于合格的算法公示内容,对技术细节并不需要过多着墨。

2、为完成上述三项内容的告知,算法公示通常需要明确:用户服务中什么地方存在算法推荐,基于什么要素(特别是用户个人信息)进行算法推荐,不同要素的权重如何,应用此类算法推荐技术能带来什么样的效果,对用户会产生什么样的作用和影响,如何区分算法推荐内容和其他内容等。

3、算法公示需要跳脱隐私政策书写的思维,重点不在于个人信息的处理情况,而在于算法技术本身,相比于枚举全部使用到的设备权限和个人信息,说明这些权限和信息的权重与对应相关性可能更加必要。


(图为某社交平台关键词热度的相关性因素与对应公式)


(三)算法公示应以便于普罗大众阅读的形式呈现
以上文提到的某外卖平台为例,流程图式的说明方法更有利于不懂技术的大众理解,必要的可辅以少量的权重公式展示。简单直接的呈现方式,才是以“适当方式”进行算法公示的应有之意。

(图为某外卖平台发布的某社会责任报告书中关于算法推荐技术的呈现)



注释

[1]

“清朗·算法综合治理”督促整改信息茧房、算法歧视、大数据杀熟,央视网

https://news.cctv.com/2022/03/17/ARTIu4iGYERB4XhpnO8guqkG220317.shtml



特别声明


本文仅为交流探讨之目的,不代表广东广悦律师事务所或其律师出具的任何形式之法律意见或建议。如需转载或引用本文的任何内容,请与本所沟通授权事宜,并于转载或引用时注明出处。如您有意就相关议题进一步交流或探讨,欢迎与本所联系。

分享到:

  • 免责声明
  • 隐私保护
  • 网站地图

Copyright 2020 广东广悦律师事务所. All Rights Reserved. 粤ICP备13002423号-2 Designed by Wanhu