AI换脸骗局频现　人工智能出圈后如何监管?

（图片来源：摄图网）

（记者 卢臻）“10分钟被骗430万”，日前，包头警方发布的一起利用AI实施通信诈骗的案例冲上热搜。随着ChatGPT的火爆，关于AI技术的争论就不曾停止过，如何应对人工智能可能带来的安全问题成为各界关注点，也成为网络安全工作的下一个着力点。

(资料图片)

人工智能产业发展迅速，潜藏安全风险引担忧

随着信息技术的不断进步，人工智能产业成为各大行业的“兵家必争之地”，许多企业涌入人工智能领域想“分一杯羹”。虽然资本的持续注入让人工智能产业迅速发展，但在快速发展的光环下，安全隐患也引起了许多人的担忧。

自2019年“ZAO”软件应用AI换脸技术成为网络舆论焦点后,该技术也进入大众视野中。随着AI的迅速发展，AI 换脸技术门槛逐渐降低，应用场景越来越多，在满足人们猎奇、美颜、社交等需求的同时，因AI换脸引发的争议乃至违法犯罪行为屡见不鲜。

实际上，除了AI换脸，骗子还可以利用人工智能的其他功能来进行犯罪。例如，利用相关人员声音素材进行合成，实施语音诈骗，或者通过AI算法，对人群进行筛选，从而实施精准诈骗。

未雨绸缪筑牢安全防护墙

在人工智能发展过程中，要坚持安全可靠和创新发展并重，筑牢安全防护墙，应对人工智能带来的安全风险亟须未雨绸缪。

随着技术的不断演进，我国相关法律和政策也在不断发展和完善。去年，国家互联网信息办公室正式公布《互联网信息服务深度合成管理规定》，对于深度合成技术在互联网中的应用作出具体说明与严格规定,对人脸生成、人脸替换、人脸操控、姿态操控等虚拟人物图像的开发与应用作出了规定, 为AI 换脸等深度合成技术的应用厘清底线。

除了法律方面，用高新技术来防范网络安全的风险也十分重要。例如，中国电信拥有运营商级的底层数据能力及强大的数据模型团队，其已形成9000+个欺诈模型，可实现反诈预警数据的全流程数智化管理。

“黑科技”防诈

AI技术的发展过程中，虽然会被许多“别有用心”之人利用AI漏洞进行诈骗，然而AI技术的革新也让防诈和反诈更加容易。

依托AI智能、大数据等能力技术，中国电信打造了96110“翼安反诈”云平台，包括智能预警、智能拦截、智能分析、智能外呼功能，为用户提供多形态全方位反诈治理服务。在广东，中国电信广东公司为用户提供“来电名片”和“闪信提醒”服务，在用户收到不明信息或来电时，通过闪信、电话等方式及时提醒，仅2022年，累计发送闪信提醒5642万次，挽回经济损失超过11亿元，切切实实保障广大人民群众利益。

正如硬币的正反两面，每一次技术变革在带来福祉的同时，也经常伴随风险。风险促使我们深入思考，但不能因噎废食。要因势利导，使其趋利避害，应是全行业未来努力的方向。