最新动态

news

盘和林:规制算法,没有改变根本,而是规范

2021-09-13 来源: 意见领袖

分享到:
 

 

  8月27日,据“网信中国”微信公众号,国家互联网信息办公室就《互联网信息服务算法推荐管理规定(征求意见稿)》(以下简称“征求意见稿”)向社会公开征求意见。

  本次《征求意见稿》的发布,存在诸多亮点。

  笔者看来,《征求意见稿》亮点一在于其严。《征求意见稿》第六条到第十八条,从不同角度对算法推荐服务提供者提出了要求,尽可能的将所有算法行为都纳入到监管,其中多数在日常生活中便经常能够见到。如第十三条:算法推荐服务提供者不得利用算法虚假注册账号、非法交易账号、操纵用户账号,或者虚假点赞、评论、转发、网页导航等,实施流量造假、流量劫持;不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现,实施自我优待、不正当竞争、影响网络舆论或者规避监管。不仅如此,对于未成年保护、社会舆论引导以及消费者算法选现都提出了相应的规定。

  《征求意见稿》亮点二在于其全。《征求意见稿》中明确,所谓的算法推荐技术,是指应用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息内容,这相当于划定了《规定》的监管对象,如果按照这样的说法,手机中大多数app,像人们熟悉的抖音、大众点评、小红书等等都将成为监管对象。同时,《征求意见稿》第三条提到,国家网信部门负责全国算法推荐服务的监督管理执法工作,明确了部门责任,第二十七到二十九条又给出了较为具体的惩处措施。结合刚刚提到的监管角度,《征求意见稿》涵盖了对象、行为、监管主体、惩处措施,非常之全。

  《征求意见稿》亮点三在于其巧。《征求意见稿》看上去对算法进行了极严的管制,但却没有改变算法的根本,并非全面禁止算法推荐,而是一种规范的做法。新经济突飞猛进,规则要跟上,制度要实施,责任要明确,正如之前对于平台经济反垄断的规定,其目的都是进行及时的制度性改进。因此,《征求意见稿》的巧正是通过监管去帮助行业走大道、走正道,去鼓励有价值算法的发展,为新经济的持续稳定发展提供动力。

 

  正反馈算法,专注“注意力经济”模式

  从发展过程来看,数字经济也到了懂规矩、知荣辱的年纪。近年来,数字经济领域相关的法律法规出台频繁,国家对于数字经济规范发展愈加重视,这与其过去野蛮生长不无关系。回望我国数字经济腾飞之路,能够清晰地发现,我国基于人口红利充分发挥了后发优势,通过不断的吸收、引进,我们学到了国外先进的技术和思想,但同时,不免沾染了国外的不良风气,资本大行其道,物质凌驾一切,特别是当我国数字经济从跟跑者变为领跑者后,我们开始逐渐丧失发展的方向感,而利益为先的观念又已经深入管理者的骨髓,在这种激励下,垄断、信息不对称、大数据等等企业所具有的优势便成了其牟取利益的工具。

  算法正在这批工具当中。2020年,网飞(netflix)公司拍摄了一部纪录片叫《监视资本主义:智能陷阱》。影片以智能手机对男孩本的家庭和学校生活的影响为基础,从谷歌、脸书、推特等平台的算法设计师和工程师的视角出发,讲述了算法和软件设计机制,以及人工智能操控人类生活带来的后果。在片中,我们看到了一个不一样的世界,日常生活中,我们感受到的是手机的便利,而在片中,我们感受到的是手机带给我们的恐惧。

  我们日常使用的手机app背后都有算法的加持,不能否认,算法的确没有好坏之分,也不存在价值判断,但算法的设计者有,算法设计者的雇主有,算法的使用者有。现实就是,算法设计地价值判断即是否能够牟利,而数字经济时代牟利的主要来源是流量,因此,对于应用的开发者来说,要尽可能的将消费者留下,尽可能延长消费者对应用的使用时间,他们的方法便是利用算法让用户成瘾。

  近年来风靡世界的短视频应用便是使用这种算法的高手,当你打开短视频,后台会根据用户的兴趣推荐视频,随着应用越来越“懂”用户,用户也即深陷其中,这种“正反馈”的算法机制给用户极强的满足感,也让短视频在短时间内迅速成长发展。

  这便是数字经济时代的“注意力经济”模式,企业最大限度地吸引用户或消费者的注意力,通过培养潜在的消费群体,以期获得最大未来商业利益。

 

  算法隐忧:现实版楚门世界

  “注意力经济”模式让算法在致瘾路上越走越远,这带来的直接后果自然是用户使用app时间越来越长,但随着使用时间的延长和用户依赖度的逐渐增长,也带来了诸多间接后果,其中值得关注的便是信息流的收窄。以短视频为例,虽然很多时候,使用者都是在观看一些娱乐类的视频,但在视频交接时,可能时不时插入信息类视频,基于算法的正反馈机制,个人接受的信息会受到自我特征的强化,最终使得用户接受的信息完全是自己想得到地信息,或是与自己想得到的类似的信息。

  理查德·德威特在其书《世界观》中指出,世界观就像一张信息拼图,每个人的世界观均建立在自己所信服的信息之上,算法的分类正像一只无形的手,将用户的信息拼图逐渐扩大,直至沉淀为一种观念。如此一来,算法推荐最终将把一个用户封进自我的世界,这不禁让人想起了电影《楚门的世界》,与之不同的是,楚门是被人为的放在编造的世界中,而算法则是在用户不断的自我信息反馈、强化下进入了“自我的世界”。

 

  从算法创新到算法强权

  除了算法加持下软件对用户的影响,算法也在深刻的改变整个市场。2020年,北京大学社会学系陈龙博士在经历了长时间的社会实践后,发表了一篇名为《“数字控制”下的劳动秩序——外卖骑手的劳动控制研究》的文章,他精准的点出了当前平台公司如何利用算法改变整个劳资市场。一方面,平台公司对控制权进行了重新分配,系统算法与消费者取代平台公司对骑手进行管理。另一方面,算法通过大数据分析对骑手进行“数字控制”,从算法辅助骑手送餐变为算法奴隶骑手送餐。

  有这样一组数据,2016年,3公里送餐距离的最长时限是1小时;2017年,变成了45分钟;2018年,又缩短到了38分钟。2019年中国全行业外卖订单单均配送时长比3年前减少了10分钟。外卖平台多年来越来越好看的年报,与其说是技术更新的成果,不如说是技术压榨劳动力的成果。

 

  《规定》正当时,算法也应有价值观

  不管是信息流的自我强化还是算法加持的科技强权,之于算法本身而言无对错可言,比如算法的正反馈机制,如果运用到对不法事件的监管,随着案例的积累,其响应速度和精准度会越来越高,从而有益于社会。

  应用有罪,算法无罪,科技的中性对于算法依旧可行,但正如前文提到的诸多案例,算法的使用并没有都为社会营造好的一面,相反,在私人和社会成本收益显著不对等的情况下,算法大多沦为企业盈利的工具,而奢望企业自身去进行价值观道路的修正是不现实的,幸运的是,《征求意见稿》的发布让我们能够寄希望于未来《规定》的出台,对算法价值观进行人为的干预,使用户走出片面信息世界,使企业承担应有雇佣责任,使社会不至陷入算法泥潭。



编辑:薛姣