四部门向算法推荐乱象“亮剑”,专家:或削弱平台流量红利

算法推荐“强监管”终于来了!

近日,国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局联合发布《互联网信息服务算法推荐管理规定》,自2022年3月1日起施行。

随着算法推荐技术在互联网领域兴起,算法歧视、“大数据杀熟”、诱导沉迷等算法不合理应用的问题也频繁进入公众视野。

如今,新规即将落地实施,能否进一步杜绝算法推荐乱象?又会给字节跳动等基于算法推荐的互联网公司带来哪些影响?

可约束平台不公平获取商业利益的行为

打开今日头条,会发现“你关注的才是头条”;闲暇时刷刷短视频,系统不断推送感兴趣的内容,让人不知不觉陷入了“时间黑洞”;在淘宝上浏览,关联商品都与曾看过或购买的宝贝相关,购物欲望不知不觉中大增……

互联网正在重塑人们的生活。2021年8月27日,中国互联网络信息中心发布第48次《中国互联网络发展状况统计报告》,截至2021年6月,我国网民总体规模达10.11亿。

不过,当用户增速放缓时,互联网也会陷入存量竞争,增加用户粘性就成了关键。

记者注意到,算法推荐已经广泛应用于短视频、微博、新闻、电商、外卖等APP中,算法技术也成为互联网公司的强大竞争力。

四部门向算法推荐乱象“亮剑”,专家:或削弱平台流量红利

算法到底是什么?《规定》明确,应用算法推荐技术,是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。

算法是如何留住你的注意力的?以抖音的推荐机制为例,用户的点赞、评论、分享等行为,都会成为抖音算法为用户描摹画像的依据,影响着内容的分发。

算法也能将注意力转化为收益。抖音电商联合巨量算数首发《2021抖音电商生态发展报告》显示,2021年1月,通过内容+算法优势,抖音的兴趣电商实现商品交易总额同比增长了50倍。

字节跳动副总裁杨震原也曾公开表示,今日头条第一笔订单就是推荐算法。

2021年6月,字节跳动首次披露了公司的业绩,2020年营收2366亿元,同比增长111%;而产品的用户活跃数量更是从2013年的0做到了2020年的月活19亿。

“新规的落地,至少在如何更为公平、合理的使用算法推荐方面提供了基本的指引,在一定程度上可以约束平台利用算法不公平获取商业利益的行为。”上海财经大学电子商务研究所执行所长崔丽丽对中国城市报记者说道。在她看来,这意味着从国家政策文件的层面,对互联网平台合理使用算法推荐功能进行了规制,明确对“大数据杀熟”等不合理获取商业利益的行为亮出了红牌。对于算法推荐的个性化服务以及对个人特征标签的使用等方面的选择权,将交由消费者决定。

携程被罚:“大数据杀熟”第一案维权成功

技术本身并无善恶。但如果利用方式出了错,就会成为商家“割韭菜”的工具,让用户不知不觉陷入到“大数据”陷阱中。

2021年12月31日,绍兴市中级人民法院就胡某某诉上海携程商务有限公司侵权责任纠纷一案依法作出终审判决,“大数据杀熟”第一案维权成功。

此前据新华网报道,胡女士多次通过携程APP预定机票、酒店,在携程平台上消费了10余万元,成为该平台的钻石贵宾客户。

2020年,胡女士像往常一样通过携程APP订购了舟山某高端酒店的一间豪华湖景大床房,支付价款2889元,却在退房时发现,酒店的挂牌房价加上税金总价仅1377.63元。胡女士随后与携程反应,携程仅退还了部分差价。

大数据“杀熟”反映出了典型的价格歧视,较真的胡女士将携程告上法庭。

2021年7月7日,绍兴市柯桥区人民法院一审判令携程公司退还胡女士订房差价,并按差额房费的三倍支付赔偿金;判令携程公司在APP中增加不同意其现有《服务协议》和《隐私政策》仍可继续使用的选项等。携程公司不服,提起上诉。

据北京青年报报道,绍兴市中级人民法院审理认为,携程公司构成欺诈,判令携程公司退还胡女士订房差价并按差额房费的三倍支付赔偿金;对胡女士其余诉讼请求不予支持。

四部门向算法推荐乱象“亮剑”,专家:或削弱平台流量红利

记者发现,目前在许多互联网APP上,用户已经可以自主选择关闭个性化推荐设置。

比如打开淘宝APP,可以在隐私栏关闭个性化推荐;同样,在饿了么APP中,也可以在通用设置里关闭个性化推荐设置。再刷新之后,APP首页的推荐都发生了变化。

四部门向算法推荐乱象“亮剑”,专家:或削弱平台流量红利

淘宝个性化推荐关闭页面。

四部门向算法推荐乱象“亮剑”,专家:或削弱平台流量红利

饿了么个性化推荐关闭页面。

但是关闭了个性化推荐后,获得的信息有时并不尽如人意。

比如知乎网友“King James”就指出:“其实现在已经有部分APP存在关闭个性化推荐或广告的功能了。我关闭了淘宝的推荐功能后,发现各大推荐模块仍然存在,整个信息流里面都是一些冷门商品,完全没有想逛的欲望。以淘宝的技术能力,不至于推荐的商品如此令人反感,感觉在反向推荐。我怀疑,淘宝是希望通过这种做法来促使我重新开启个性化推荐。”

因此关于“大数据杀熟”“个性化推荐”等方面,《规定》进行了相关限制:

《规定》第二十一条提出,算法推荐服务提供者向消费者销售商品或者提供服务的,应当保护消费者公平交易的权利,不得根据消费者的偏好、交易习惯等特征,利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为。

《规定》第十七条提出,算法推荐服务提供者应当向用户提供不针对其个人特征的选项,或者向用户提供便捷的关闭算法推荐服务的选项。用户选择关闭算法推荐服务的,算法推荐服务提供者应当立即停止提供相关服务。

算法推荐服务提供者应当向用户提供选择或者删除用于算法推荐服务的针对其个人特征的用户标签的功能。算法推荐服务提供者应用算法对用户权益造成重大影响的,应当依法予以说明并承担相应责任。

保护被算法困住的“平台劳工”

2021年4月28日,在北京卫视的纪录片镜头下,北京市人社局劳动关系处副处长王林体验了一天做外卖骑士的感觉,送单12小时完成5单送餐,只赚了41块,他感叹这个钱太不好挣,引起社会对外卖骑士的关注。

4月29日,美团与饿了么相继做出正式回应,明确表示已逐步取消对骑士逐单处罚,并将继续努力提升骑士体验。

对此《规定》也提出,算法推荐服务提供者向劳动者提供工作调度服务的,应当保护劳动者取得劳动报酬、休息休假等合法权益,建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法。

山东大学新闻传播学院教授倪万告诉中国城市报记者:“治理算法的本质问题,是算法终归要为谁服务的问题,说到底要为人民服务,不是为算法背后的资本服务。不要让算法异化人,把人困进冰冷的算法里。”

或削弱平台企业因算法带来的流量红利

“我在刷B站的时候,会选择一些有价值的知识分享类视频点赞收藏,这样下次刷新时,算法就会推送我感兴趣的视频。”90后网民阿炜向记者分享他“驯服”算法的小技巧,他表示,偶尔他也会看一些不动脑的搞笑视频,但很快,他的首页推荐就被“污染”了。

“想要对冲‘信息茧房’,我必须要同时关注很多领域,可我的每一次喜欢与分享都是选择,也许我自以为没有陷入‘茧房’,却已经身在其中了。”阿炜感觉十分无奈。

四部门向算法推荐乱象“亮剑”,专家:或削弱平台流量红利

信息茧房概念最初由哈佛大学法学院教授凯斯·桑斯坦提出。

他认为,在信息传播中,因公众自身的信息需求并非全方位的,公众只注意自己选择的东西和使自己愉悦的通讯领域,久而久之,会将自身桎梏于像蚕茧一般的茧房中。

四部门向算法推荐乱象“亮剑”,专家:或削弱平台流量红利

微博网友评论。

因此《规定》提出了以下指导意见:

第十二条指出,鼓励算法推荐服务提供者综合运用内容去重、打散干预等策略,并优化检索、排序、选择、推送、展示等规则的透明度和可解释性,避免对用户产生不良影响,预防和减少争议纠纷。

第十四条指出,算法推荐服务提供者不得利用算法虚假注册账号、非法交易账号、操纵用户账号或者虚假点赞、评论、转发,不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现,实施影响网络舆论或者规避监督管理行为。

值得注意的是,本次正式发布的规定在征求意见稿基础上,新增第十三条,要求算法推荐服务提供者提供互联网新闻信息服务的,应当依法取得服务许可,规范开展新闻信息采编发布服务、转载服务和传播平台服务,不得生成合成虚假新闻信息,不得传播非国家规定范围内的单位发布的新闻信息。

对此上海申伦律师事务所律师夏海龙在接受媒体采访时认为,除媒体自建的APP、新闻网站外,该条款主要针对今日头条等不从事新闻采编业务的各类信息聚合、分发服务提供者,“这要求相关平台在推送内容前需要对新闻内容、发布者资质进行一定审核,否则有可能推送违规新闻信息。”夏海龙说。

长远来看,《规定》的实施,会给字节跳动等基于算法推荐的互联网公司带来哪些影响?

对此崔丽丽认为,过去以算法见长的互联网平台,可能由纯粹的技术型驱动转为受人工控制的技术型驱动。在某种程度上,可能削弱从纯技术优势角度由算法带来的流量红利。另外她提到,内容类平台特别是一些涉及到国家和社会民生信息的发布和传播将更需要获得授权,不得利用算法获取的受众喜好对内容信息进行有偏向性的信息加工和传播。这也是从某种程度上杜绝了对于新闻类内容产品根据受众喜好编辑片面信息的可能性。

不过崔丽丽也表示,《规定》若要进一步落实到位,未来可能还需要一定的技术监管+抽查+投诉举报等多种手段的配合。

猜你喜欢

关于我们· 联系我们· 商务合作· 免责声明· 技术支持

Copyright © 2018-2020, 经济观察报 版权所有 侵权必究. 信息维权、举报:853029381@qq.com

免责声明:以上所展示的信息由企业自行提供,内容的真实性、准确性和合法性由发布企业负责, 经济观察报 对此不承担责任.