互联网算法治理落地,实测腾讯美团等平台“关闭算法”设置

2022-03-04 09:21

3月1日,国家网信办等四部门联合发布的《互联网信息服务算法推荐管理规定》(简称《规定》)正式施行。在去年12月31日,《规定》便正式发布,也引发各界广泛关注。在互联网时代,算法广泛影响着人们的工作生活,《规定》的落地实施将有望破除算法歧视、“大数据杀熟”、诱导沉迷等算法乱象。

互联网算法治理落地,实测腾讯美团等平台“关闭算法”设置

该规定于去年底发布,相关内容全文今年1月初上网。

国家互联网信息办公室有关负责人曾表示,出台《规定》,旨在规范互联网信息服务算法推荐活动,维护国家安全和社会公共利益,保护公民、法人和其他组织的合法权益,促进互联网信息服务健康发展。

南都记者就相关算法产品的实际应用情况,如何落实“算法治理”规定等问题,向字节跳动、腾讯、美团、携程发出采访请求,截至发稿暂未获得正式回复。

——记者测试——

说关就关:

均落实“个性化内容服务”的关闭选项

算法推荐技术一般通过抓取用户日常的使用数据,分析用户的行为习惯和喜好,进而精准提供信息、娱乐、消费等各类服务。算法推荐为人们提供了许多便利,但近年来,算法歧视、“大数据杀熟”、诱导沉迷等不合理应用也给人们的工作生活带来很多烦恼。

根据《规定》,算法推荐服务提供者要保障用户的算法知情权,告知用户其提供算法推荐服务的情况,并公示服务的基本原理、目的意图和主要运行机制等;同时要保障算法选择权,应当向用户提供不针对其个人特征的选项,或者便捷的关闭算法推荐服务的选项。

为此,记者分别测试了抖音、今日头条、微视、微信、美团、携程、饿了么多家平台APP,发现各大平台正在积极落实“算法治理”的相关要求,全部提供了“个性化内容服务”的关闭选项,并公示了相关信息。(以下均以安卓手机为例)

在“微视”APP设置中的“个性化推荐设置”项中,个性化内容推荐的关闭选项和算法推荐服务的基本原理、目的意图和主要运行机制同时出现在一个页面。在“微信”APP中,记者也在设置中的“隐私”一栏,找到了“个人信息与权限”项,并成功关闭了个性化广告推荐。

在“美团”APP设置中的隐私管理中,记者找到了“个性化内容推荐”和“个性化广告推荐”的关闭选项,同时,在每个选项的下方可以直接点击“内容推荐算法说明”并查看相关介绍;在携程和饿了么的APP内,记者也找到了个性化推荐的管理页面并成功关闭个性化内容服务。

此前,北京大学互联网发展研究中心与互联网公司联合发布的《中国大安全感知报告(2021)》显示,有七成受访者感到算法能获取自己的喜好、兴趣从而“算计”自己,近五成受访者表示,在算法束缚下想要逃离网络、远离手机。

国家互联网信息办公室有关负责人指出,算法推荐服务治理需要政府、企业、社会、网民等多方主体共同参与,推动算法推荐服务公正公平、规范透明,促进算法推荐服务向上向善,营造更加清朗的网络空间。

关闭选项设置

设在二级菜单内:今日头条、饿了么

设在三级菜单内:抖音、微视、美团、携程

其中,今日头条、饿了么APP的“个性化内容服务”的关闭选项在二级菜单内,其余APP的关闭选项在三级菜单内,在便捷性上,各平台仍存在一定差距。而在具体服务上,今日头条APP对个性化服务的分类更明确,分别提供了“基于所在位置个性化推荐”、“基于搜索记录个性化推荐”以及“给予关注列表个性化推荐”的关闭选项,且可以对推荐内容的丰富度做调整。值得一提的是,在体验关闭服务的过程中,抖音APP出现了再次“开启个性化服务的”弹窗提醒,而在其他平台内,记者暂未发现相关弹窗提醒。

【今日头条APP】

首页最下方“我的”—隐私设置—个人信息手机设置

互联网算法治理落地,实测腾讯美团等平台“关闭算法”设置互联网算法治理落地,实测腾讯美团等平台“关闭算法”设置互联网算法治理落地,实测腾讯美团等平台“关闭算法”设置

【饿了么APP】

首页最下方“我的”—设置—隐私管理 —系统权限

互联网算法治理落地,实测腾讯美团等平台“关闭算法”设置互联网算法治理落地,实测腾讯美团等平台“关闭算法”设置互联网算法治理落地,实测腾讯美团等平台“关闭算法”设置互联网算法治理落地,实测腾讯美团等平台“关闭算法”设置

——专家观点——

“困在算法里的劳动者”有望改善?

新规要求算法纳入工作时间、报酬构成

近年来,一些企业利用个人信息搞大数据“杀熟”,对不同群体进行差别定价,实行“价格歧视”,让消费者十分反感。2021年3月,南都曾报道“山姆会员app被指杀熟”一事,有用户反馈,明明是购买同一件商品,却出现明显的价格差异,在深圳不同地方线上点单,同款商品存在近40元的差价,定位在豪宅区的价格要高出近30%。山姆会员商店事后回应称“APP故障导致”,却难消顾客疑虑。

为此,《规定》明确指出,算法推荐服务提供者向消费者销售商品或者提供服务的,应当保护消费者公平交易的权利,不得根据消费者的偏好、交易习惯等特征,利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为。

此外,保护劳动者的合法权益,也是《规定》出台的目的所在。《规定》提出,算法推荐服务提供者向劳动者提供工作调度服务的,应当保护劳动者取得劳动报酬、休息休假等合法权益,建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法。《规定》出台并正式施行后,劳动者“困在系统里”的局面有望得到解决。

浙江大学传媒与国际文化学院特聘教授、互联网实验室创始人方兴东在接受南都记者采访时表示,在算法技术早期野蛮生长阶段,外部治理基本缺失,算法发展主要依靠企业的自律和价值观,《规定》的出台标志着这一阶段即将成为过去式,“算法治理”从企业内部的“黑匣子”逐渐走向公开透明。

不过,方兴东认为,中国的互联网治理任重道远,有不少头部企业,还有大量的草根企业,算法可以说无处不在,治理的难度大、范围广。他提出,外部对算法形成制度性约束的同时,大型企业也应做出相应表率,同相关制度的建设形成良性互动,这也是提升企业自身竞争力的方式。

“对于企业而言,还是要积极履行主体责任,将AI算法用在’科技向善’的方向上,才有利于长远发展。”方兴东表示,《规定》的实施只是开展算法领域治理的第一步。由于算法涉及到的责权关系较为复杂,很多问题在当下并没有明晰,算法治理还需要多部门间的协作联动,从全局角度出发进行整体性的顶层设计。