互联网时代你被“杀熟”过吗?

时间:2022-01-06 10:55 编辑:孙萌萌 点击:
      近年来,算法应用在给政治、经济、社会发展注入新动能的同时,算法歧视、“大数据杀熟”、诱导沉迷等算法不合理应用导致的问题也深刻影响着正常的传播秩序、市场秩序和社会秩序,给维护意识形态安全、社会公平公正和网民合法权益带来挑战。在互联网信息服务领域出台具有针对性的算法推荐规章制度,是防范化解安全风险的需要,也是促进算法推荐服务健康发展、提升监管能力水平的需要。
 
     此次《规定》明确,应用算法推荐技术,是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。深度科技研究院院长张孝荣对第一财经记者表示,无论是网站还是移动APP,都属于算法规定规制范围。重点来看,受此次《规定》影响较大的包括拼多多与淘宝等电商类、头条抖音系的内容类、百度搜索类以及其他行业等。算法规定涵盖了信息服务规范、用户权益保护、 监督管理、法律责任等多方面内容,对维护用户权益保障行业有序发展起到了积极推动作用。
透镜公司研究创始人况玉清对第一财经记者表示,《规则》是国内首个有明确界限和操作指引的算法监管规则。这种发展规律在况玉清看来,是大数据行业应用普及到一定程度的必然结果——行业发展规律便是商业化走在监管之前,任何创新行业皆是如此。
 
    世辉律师事务所合伙人王新锐将2022年称为“算法监管元年”,他称,无论是中国的《个保法》,还是欧盟的GDPR,均对自动化决策作出了原则性规定,而类似《电子商务法》《反垄断法》等法律及配套规则,也对大数据杀熟、滥用算法排除竞争作出了原则性限制。但上述法律规则无论是对行为还是结果进行规制,目前都非常抽象,操作性不强。
Marteker创始人冯祺对第一财经记者表示,算法作为技术本身,并未起到真正的“科技向善”作用,甚至对消费者造成骚扰。《规定》的落地本质上来说是一件好事,让广告营销人“带着镣铐跳舞”,让行业从野蛮生长到有法可依,让平台更侧重于保护用户的权益,推出用户真正需要的内容与服务。
当然,平台需要一定的适应期,冯祺称,比如通过联邦学习技术多维度参考,从群体中提取共性;另外,通过内容营销、KOL营销、广告植入等方式,也具备较好的效果。
要推荐,不要霸权
 
    一位长期关注互联网行业的人士对第一财经记者表示,此次监管重点选择落地在算法层面,一大原因在于算法对应的恰恰是用户权益——《规定》内容中提到,网信部门会同电信、公安、市场监管等有关部门建立算法分级分类安全管理制度,同时根据算法推荐服务的舆论属性或者社会动员能力、内容类别、用户规模、算法推荐技术处理的数据敏感程度以及对用户行为的干预程度,对算法推荐服务提供者实行分类分级管理,一定程度上体现了精准治理的立法理念。
其中,该人士称,“舆论属性”包含了用户评论与发言,“社会动员能力”则是指平台所服务的用户基数。而互联网营销区别于常规营销的最大特点,正是用户画像,算法的目的就是找到最精确的衡量标准。
 
   此前行业有“算法没有价值观”的观点,引发一番辩论。但随着平台规模的扩大,算法价值观也被动附带上平台的倾向性。“先有倾向性目标,后有倾向性算法。向善的服务提供向善的算法,‘不善’的服务提供‘不善’的算法。”上述人士表示。
近年来,以金融行业为例,为了获得平台公司的金融服务,中国消费者往往需要向其提供个人信息,进而产生过度采集数据的问题,如在2016年至2017年“现金贷”高速增长期间,出现买卖借款人信息的情况。
 
     此前在第三届外滩金融峰会上,中国金融四十人论坛资深研究员、清华大学五道口金融学院院长张晓慧表示,算法的复杂性以及算法使用者的刻意隐瞒,使得绝大多数人无法理解算法的工作原理,导致作为算法使用者的大型科技公司,特别是那些几乎控股了所有与个人生活行为相关的数字平台公司得以处于事实上的支配地位,形成“算法霸权”,从而严重危害了算法相对人也就是消费者的合法权益。
 
     贵州数据宝产品研究院院长李可顺对记者表示,《规定》的落地,一个比较明显的影响在于通过算法高强度曝光某些视频或商品,让消费者过度消费甚至做出错误消费决策的行为得到收敛。而不好的内容或商品将无法获得算法红利加成,平台非“合规”收入增速将趋缓。
 
    当然,李可顺认为个性化推荐只是算法推荐的其中一方面,从技术角度看,算法分可解释性强与可解释性弱两类,前者更易于审查,因此现阶段实际并没有非常完善的算法标准过渡方案,让消费者掌握是否个性化推荐的主动权,是解决方案可选项之一。
王新锐表示,算法本身并不是新技术,但因算法应用产生一些社会问题近几年日益受到各界关注。相比数据,算法的技术性更强,更不容易被描述和感知,因此如何制定和执行规则就更为困难。
算法红利期是否会终结。
算法滥用对行业、对消费者的负面影响早已暗自滋长。
 
    此前微博发布公告称将加大力度处理热搜榜热门话题榜刷榜行为,对刷榜行为的直接受益者进行处罚。为的是确保热搜榜、热门话题榜的真实可信,不断对产品本身进行算法升级,并设置了以大数据识别为基础的防刷体系。对于存在作弊特征的行为,系统都会实时进行识别和拦截。
但据记者从娱乐行业以及接近微博方面人士处了解到,微博外有大批供应商企业,可以通过小号刷赞等方式,进行舆论引导。
当时微博调整的核心便是引入编辑人工干预的模式,将算法挖掘作为基础,在排序和选择上放弃纯粹算法的方式,引入编辑对违反有关法律法规的内容、社会负能量的信息、过度娱乐化的信息进行人工干预。
 
    微博之外,电商与短视频行业也在算法监管逐渐落地期间进行自我调整。2021年10月,天猫、京东在发货环节上对消费者订单中涉及个人的敏感信息进行加密处理,软件服务商与商家从淘宝开发平台或订单推动服务中已无法获得收件人隐私信息。
 
《数据安全条例》出台后,微信更新《隐私保护指引》,添加“视频号、公众号、看一看、搜一搜个性化推荐或展示机制”,增加个性化自主控制路径。包括抖音、快手、今日头条、B站、小红书等平台均在2021年11月初完成针对隐私政策的更新。记者体验发现,抖音与快手均将个性化广告选择按键设置在明显位置。
聚焦于算法政策主要影响到的短视频与电商行业,李可顺对第一财经记者表示,在短视频等场景,算法会偏向于大V账号,而非优质内容小号,形成平台内的流量垄断行为,而这将直接影响用户对于信息的公平获取及知情权。
 
    同时,平台的流量也会偏向于部分头部电商号,这些账户商家的产品未必优质,但在内容算法的不断轰炸下,用户易受引导,进而做出异常的购买行为,甚至形成了普遍的冲动消费。
中国电子技术标准化研究院信息安全研究中心审查部总监何延哲对第一财经记者表示,现在到了对短视频信息推送踩刹车的时间,预防信息茧房效应过重,为消费者的选择权更换更大的空间,对算法透明度与用户选择权进行引导。
 
    何延哲称,此前各平台已根据《个保法》对个性化推荐功能进行修正,结合当下的《规定》,平台需要给到用户更多的选择权,过去的推荐个性化往往是商业利益最大化,而非真正的站到用户角度为其提供个性化的高质量的推送服务。
此次《规定》明确了算法推荐服务提供者的用户权益保护要求,包括保障算法知情权,要求告知用户其提供算法推荐服务的情况,并公示服务的基本原理、目的意图和主要运行机制等;保障算法选择权,应当向用户提供不针对其个人特征的选项,或者便捷的关闭算法推荐服务的选项。对向未成年人、老年人、劳动者和消费者等主体提供算法推荐服务的,《规定》要求不得利用算法推荐服务诱导未成年人沉迷网络,应当便利老年人安全使用算法推荐服务。
 
但是,面对算法,个体的监督和举证还有一定的难度,而行业的健康发展也并不能仅仅寄希望于平台的自我监督与完善。