算法推荐迎来强监管!3月1日起,拒绝算法“绑架”

读特
+订阅

当我们打开今日头条,会明显感觉到只有我们自己关注的才是头条;刷起短视频,会不知不觉被各种内容吸引,陷入时间黑洞;逛一逛淘宝,推荐的都是曾经购买或浏览过的商品,一不小心就加入了购物车。我们看似有了更多更好的选择,但静下来想想,总感觉被一种无形的力量操控着,而这背后就是算法推荐技术。

目前,算法推荐技术已经广泛应用于短视频、新闻、电商、外卖等形形色色的APP中,几乎涵盖生活的各个领域,成为各大互联网公司的制胜法宝与竞争利器。然而,与之相伴的算法歧视、“大数据杀熟”、诱导沉迷等问题也频繁进入公众视野。在此背景下,为了规范算法推荐技术的应用,3月1日起,由国家网信办联合多部门发布的《互联网信息服务算法推荐管理规定》将正式施行。

什么是算法推荐技术?

要了解该《规定》生效后将会给我们的生活带来什么样的影响,首先我们要清楚,什么是算法推荐技术,为什么要对这种技术进行规范和监管。

简单来说,算法推荐技术会通过抓取用户日常的使用数据,分析得出人们的行为、习惯和喜好,进而精准化地进行信息推荐及分发。企业运用算法推荐技术的核心目的是在提供更精准推送的同时,留住用户的注意力,并将这些注意力转化为收益。

以抖音的推荐机制为例,用户的点赞、评论、分享等行为,都会成为抖音算法为用户描摹画像的依据,影响着平台上短视频内容的分发。而抖音也通过“内容+算法”的优势,在去年1月实现了商品交易总额同比50倍的增长。

兴趣电商是由抖音提出的新概念,其核心是,主动帮助消费者发现潜在的购物需求。

为什么对算法的监管至关重要?

然而,算法规则本身具有不透明、不公开、技术门槛高的特性,算法一直被视作互联网企业的“黑箱”,游离于政府监管和公共视野之外,导致算法推荐规则极易被滥用,引发“大数据杀熟”、算法歧视、信息茧房等问题。

正因如此,《规定》作为“算法规则的规则”,它的出台生效意味着,在国家政策文件层面,对互联网平台使用算法推荐功能做出了规定,明确对“大数据杀熟”等不合理获取商业利益的行为亮出了红牌。对于算法推荐的个性化服务以及对个人特征标签的使用,其选择权将交由消费者自己决定。

因此,该规定的进步意义往小了说,是限制了互联网公司利用人类自身注意力等缺陷、信息不对称的优势而肆意敛财;往大了说,是保护数字时代公民的尊严,保障我们每一个人不被算法等技术挟持,真正成为技术的主人,而非奴隶。

新规会给我们的生活带来哪些影响?

01

在底层技术上扼制“大数据杀熟”

技术本身并无善恶,但如果利用方式出了错,就会成为商家“割韭菜”的工具,让用户不知不觉陷入到“大数据”陷阱中。“大数据杀熟”背后的核心技术就是算法推荐,同样的商品或服务,老客户看到的价格反而比新客户要贵出许多。

目前,《个人信息保护法》《深圳数据条例》等法律法规都严格禁止商家实施“大数据杀熟”行为,而在《规定》生效后,“大数据杀熟”将会在更为底层的技术层面得到遏制。根据《规定》,算法推荐服务应当以保护消费者公平交易的权利为前提,不得根据消费者的偏好、交易习惯等特征,利用算法在交易价格等交易条件上实施不合理的差别对待。

02

将个性化推荐的选择权还给用户

实际上,在《个人信息保护法》出台生效后,用户已经可以自主选择关闭个性化推荐设置。然而,有时当我们关闭了个性化推荐后,会发现推荐的功能还在,只不过变成了不相关甚至令人反感的商品,最后又不得不重新打开个性化推荐功能。面对这种情况,有人调侃被商家“反向推荐”。

针对这一现象,《规定》做出了相应的细化。如果用户选择关闭算法推荐服务,那么商家就应当立即停止相关推荐服务。换言之,商家不得利用算法进行任何形式的内容推荐。

在新版的微信中新增了“个人信息收集清单”和“第三方信息共享清单”。

另外,《规定》还赋予用户对含有个人特征的用户标签进行选择或删除的权利。用户可自主管理被商家打上的标签,让“个性化”名副其实。比如,某视频网站的用户既是学生也是游戏玩家,在他进行备考的阶段,他就可以在平台上只选择有关于他学生身份的标签,训练网站只为他推荐学习相关的视频,从而屏蔽游戏相关推荐内容的出现。

03

打破信息茧房,弘扬主流价值观

在信息传播过程中,公众倾向于只注意自己感兴趣的资讯,而资讯平台为了获得更多关注,也倾向于利用算法技术推送量身定做的信息。久而久之,公众会将自身桎梏于像蚕茧一般的“茧房”中,缺少多元化视角,导致思维固化,甚至引发网络过激言论和网络暴力。为了解决这一问题,《规定》一方面鼓励运用内容去重、打散干预等策略,增加信息推荐的多元性,来避免信息茧房效应对用户产生不良影响,预防和减少争议纠纷;另一方面,禁止商家应用屏蔽信息、过度推荐、操纵榜单等算法技术,防止网络舆论受到人为干预。

不仅如此,《规定》还对信息传播进行了价值引导,算法推荐服务应当积极传播正能量,建立人工干预和用户自主选择机制,积极呈现符合主流价值导向的信息。另外,针对互联网上利用算法提供新闻信息服务的主体,要求他们必须依法取得服务许可,不得利用算法合成虚假的新闻信息,进一步杜绝了互联网中谣言和粗制滥造的信息的传播。

诚然,算法技术在便利人们生活、推动数字经济发展等方面功不可没。然而,在我们拥抱技术进步的同时,仍要始终铭记“人是目的,而不是手段”,人是算法技术等工具的使用者,而不应当沦为少部分人或企业逐利的工具。《规定》的出台生效为算法推荐技术确定了新的规则,给互联网平台企业应用算法技术设置了红线。至此,算法推荐的“平台主导”时代即将终结,用户对算法推荐的“自主选择”将成为主流。

转载需注明作者及来源读特客户端

免责声明

本文由【读特】深圳号入驻单位发布,不代表【读特】的观点和立场。如有侵权,请联系我们核实后删除!联系邮箱:dutenews@163.com,入驻咨询电话:0755-83518822

版权声明:未经许可禁止以任何形式转载
免责声明:本文由南方+客户端“南方号”入驻单位发布,不代表“南方+”的观点和立场。
+1
您已点过

订阅后可查看全文(剩余80%)

更多精彩内容请进入频道查看

还没看够?打开南方+看看吧
立即打开