2021年9月25日，国家新一代人工智能治理专业委员会发布《新一代人工智能伦理规范》(以下简称《规范》)，对用户的退出机制、算法歧视和虚假宣传等问题做出具体要求，回应了当前社会各界有关隐私、偏见、歧视、公平等领域的伦理关切，旨在将伦理道德融入人工智能全生命周期。

专家对南都·AI前哨站表示，《规范》中提到的问题，在个人信息保护法、《关于审理使用人脸识别技术处理个人信息相关民事案件适用法律若干问题的规定》已有了相应体现，其中的重点之一就是保障用户的选择权。

《规范》提出，人工智能各类活动应遵循增进人类福祉、促进公平公正、保护隐私安全、确保可控可信、强化责任担当、提升伦理素养六项基本伦理规范。

《规范》第四条提到，应保障人类拥有充分自主决策权，有权选择是否接受人工智能提供的服务，有权随时退出与人工智能的交互，有权随时中止人工智能系统的运行，确保人工智能始终处于人类控制之下。

此前，国家网信办发布的《互联网信息服务算法推荐管理规定（征求意见稿）》也针对个性化推荐提出了相关措施，拟要求算法推荐服务提供者不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息内容，不得设置歧视性或者偏见性用户标签。

对此，中国社科院科技和社会研究中心主任段伟文认为，在人工智能服务的问题上，重点之一是保障用户的选择权。这意味着未来人工智能应用领域必须对用户的选择权有所尊重，如果用户拒绝接受人工智能服务，需得提供替代性的传统技术服务。

他举例说：“以人工客服为例，企业可以根据实际效率决定在哪些项目中提供人工智能之外的人工客服，尤其在涉及到财务交易的情况下，企业需要做出相应的补充。”

此外，段伟文认为，人工智能应从技术举措上实际响应规范，如在交互界面设置弹窗提醒，提醒用户可以选择退出人工智能服务。“在新技术的发展中，公众对其的接受是有过程的，不能因为这个过程影响到用户的实际利益。人工智能的红利应该尽可能为大多数用户考虑。”他说。

南都·AI前哨站注意到，在第十一条中，《规范》对数据的收集、存储、使用、加工、传输、提供、公开等环节做出了数据完整性、及时性、一致性、规范性和准确性等要求。

段伟文认为，这部分的规定关联到了许多具体实践的问题。其中的数据包括个人信息数据，也包括制造业应用中的数据。数据质量的问题和数字化转型有着紧密关联。

“这涉及到怎么让高质量的数据流动起来。就目前来看，有些人工智能的应用之所以质量不高，实际上和数据的质量是有关的。”段伟文说，“如果在数据采集的过程中不具有代表性，可能就会导致歧视、偏见的问题。从伦理规范的角度，质量有问题的数据很可能会带来负面的社会影响，或者是伦理上的风险。”

如何提高数据质量？段伟文认为，一方面人工智能行业要充分认识到数据在人工智能行业中的重要性，加强样本数据的普遍性和代表性；另一方面需要加强数据的共享互通，克服数据孤岛的问题。

对于人工智能服务的局限性问题，《规范》第十六条提出：“在产品与服务中使用人工智能技术应明确告知用户，应标识人工智能产品与服务的功能与局限，保障用户知情、同意等权利”。这对目前人工智能产品中存在的虚假宣传、夸大产品功能的现象做出了限制。

此前，特斯拉在美国就因涉嫌违规宣传被调查。前段时间，蔚来汽车的宣传也引起了公众的争议。车企在宣传营销时的表达重点是否涉及虚假营销？对于这种现象，又应该如何管制？

段伟文认为，在人工智能应用中，需要保障用户的咨询同意权利。在人工智能的应用中，有一些问题是在使用过程中逐渐暴露出来的。

“如果从发展的眼光来看，在前一个阶段人工智能是被炒作的对象。但随着推广和使用，以及用户的逐渐成熟，产品的局限性就会渐渐浮现出来。这确实涉及到虚假宣传的问题。”段伟文说，“在《规范》发布后，这方面的问题应该会有一致的管理。”

然而，这样的管理需要被细化成各行业服务的伦理准则，才能让相关的伦理规范落到实处。“目前的规范主要是起到提醒的作用，通过提出相应行业的具体的产品服务伦理准则，这个问题是能够得到改观的。”段伟文说。

他同时提到，在监管部门执行的决心外，还需要社会监督的力量。“比如说中国的社会监督，需要公众对这些问题有关注，此外，媒体智库也应该在其中起到推动的作用。”

采写：南都见习记者胡耕硕

编辑：蒋琳