近日，一起利用AI技术进行电信网络诈骗的案件备受关注。福州市某科技公司法人代表郭先生的“好友”向其借钱，进行视频通话确认之后，郭先生向“好友”转款430万元。殊不知，这位“好友”是骗子利用智能AI换脸和拟声技术塑造的假形象。

当AI技术“加持”，诈骗手法不断更新，识骗难度再次升级。在以往的诈骗案件中，受害者有时不核实对方或无法正确核实对方身份便打款，造成经济损失。该案中，郭先生通过社交平台视频“核实”了好友外貌、声音等特征依然被骗，为防骗敲响了警钟。

如何引导技术向善？减少此类诈骗再次发生？记者就此采访了法律领域专家，他们表示，目前我国对人工智能责任主体地位及刑事责任分配问题未有统一规定，有较大探讨空间。必须明确的是，对于识诈反诈，软件开发机构、金融机构、社交软件等相关主体均有提醒义务。

现状：

有人售卖人脸合成视频制作教程

近年来，利用AI技术诈骗的案件时有发生。记者梳理发现，相关技术手段越来越先进，防骗难度越来越高。

去年，浙江温州的陈先生就曾遭遇AI骗局。骗子利用陈先生好友“阿诚”在社交平台发布的视频，截取其面部视频画面利用AI换脸技术合成，与陈先生进行视频聊天骗取其信任，从而实施诈骗。上海也曾发生类似骗局，骗子使用AI换脸与人工生成的语音技术，伪造成某公司领导的身份，要求该企业高管转账，诈骗金额高达150万元。

“不法分子之所以能够利用AI技术诈骗成功，一个重要原因便是个人信息泄露。”北京市盈科（广州）律师事务所律师罗娜说。

在搜索引擎中输入关键词，即可找到AI换脸教程

个人信息何以遭泄露？一方面，社交媒体上用户自主发布的各类图像资料摇身成为诈骗者的“公开数据库”，另一方面，近年来日趋普遍的人脸识别（支付）、刷掌支付等，都关系到公众的生物特征信息，一旦服务提供者数据管理不当，便会造成相关信息大规模泄露。其中，由于对AI诈骗的特点认知和防范意识较为欠缺，学生和老年人成为遭遇诈骗的重点人群。

在某购物平台中，能找到承接“AI换脸”业务的商家

据湖北网警表示，AI加持下的新型网络诈骗，成功率接近100%。然而，利用AI进行诈骗的成本可能并不高。记者曾调查发现，互联网上有人售卖人脸合成视频制作教程和明星人脸“万能模型”，一套模型只需10元，购买后可在软件内直接用于生成“换脸”视频。（详细报道>>>）

追责：

AI相关诈骗案件存在侵权行为和犯罪行为竞合

“在不少AI相关诈骗案中，都存在民事侵权和刑事犯罪的竞合重叠问题。”广东国鼎律师事务所高级合伙人、公益律师廖建勋介绍，这种行为一方面侵犯受害者的财产权，另一方面是刑事犯罪行为。根据刑法和相关司法解释规定，电信诈骗超3000元便构成犯罪。当诈骗金额超过50万元，行为人可能会被判处十年以上有期徒刑或无期徒刑，并处罚金或没收财产。

在追责方面，目前我国尚未有法律明确规定相关案件中应如何解决“人工智能究竟能否作为刑事责任主体”及“利用人工智能实施严重危害行为如何承担刑事责任”的问题。北京市盈科（广州）律师事务所高级合伙人、律师龙劲韬介绍说：“对人工智能责任主体地位及刑事责任分配问题仍未有统一规定，有较大探讨空间。”

利用AI技术实施违法犯罪，对行为人追责毋庸置疑。龙劲韬说，在相关案件中，AI实际上是行为人实施犯罪行为的工具，体现的是人的意识。因此，应具体追究设计人员、制造商、使用人等行为主体的刑事责任。他举例，假如技术提供者已经预见到AI技术可能会摆脱设定程序进而实施危害法益的行为，其必须进行程序修正，否则将被追责。

目前，在司法实践层面，国内各地法院已有一些有益探索。江苏省南通市崇川区司法机关对一起利用AI变声技术实施诈骗的案件作出判决，被告人犯诈骗罪被判处拘役五个月，缓刑六个月，并处罚金5000元；常州中院公布一起“人脸解封”侵犯公民个人信息案，被告人犯侵犯公民个人信息罪被判有期徒刑8个月，缓刑1年，并处罚金4万元……

对策：

压实金融机构、社交平台方责任，做好防骗预警和提醒

技术是中立的。如何保证技术的良善用途，而非被用于诈骗犯罪？专家普遍认为，要压实金融机构、社交平台方的责任，做好防骗的预警和提醒。

“金融机构有最高级别的提醒义务，需承担保护用户资金安全的责任。”廖建勋提出，针对新出现的一些诈骗手段和方式，金融机构有必要通过加强技术手段，来堵上安全漏洞，以保证储户的资金安全，并对用户及时进行提醒。

社交互动平台也应承担相应责任，包括强化对用户的知情权保护。廖建勋建议，如果使用了AI合成技术的画面，一定要在显著位置进行说明提示，告知这样的视频、影像是由AI合成完成的。此外，还有必要明确规定一些不适合使用AI技术的情形，并做出相关限制。

罗娜则建议，开发“AI换脸视频”识别软件，帮助群众识别换脸视频真伪，并可以应用于案件侦查中，提升侦查效率。深化与有关科技公司的合作，开展专业化培训，提升侦查人员的理论知识水平和实战能力。对个人而言，互联网用户应注意保护个人隐私信息，甄别互联网上的信息，多了解人工智能技术类诈骗的方式手段和相应的应对策略。

呼吁规范AI发展的声音不绝于耳，国家也在逐步强化引导。如2021年《新一代人工智能伦理规范》出台，明确要充分了解人工智能产品与服务的适用范围和负面影响，禁止使用人工智能产品与服务从事不法活动等。今年以来，国家互联网信息办公室相继发布《互联网信息服务深度合成管理规定》《生成式人工智能服务管理办法（征求意见稿）》。

“国家有必要视情况而定，对AI技术的发展作出相应的立法。”廖建勋表示，立法工作一方面要推动AI在新技术应用方面的良性发展，另一方面要规范AI技术，避免影响人民群众的财产安全，或者社会秩序。

【南方+记者】关喜如意 钱明雅