生成式AI热度高涨背后　安全隐患频发引关注

（记者 陈锦锋）自2022年底ChatGPT3.5发布以来，生成式AI相关话题热度持续走高。近日，由国家互联网信息办公室等七部门联合发布的《生成式人工智能服务管理暂行办法》正式施行，这也是我国首个针对生成式人工智能产业的规范性政策。

（图片来源：摄图网）

(资料图片)

生成式人工智能热度高涨

自去年底以来，以 ChatGPT 为代表的生成式 AI 横空出世。国外如谷歌推出了文本续写软件Wordcraft；微软AI“小冰”发布了人工智能诗集《阳光失了玻璃窗》，内含139首现代诗等。根据知名创业组织Antler的统计，截至2022年年底，海外生成式AI产品数量达到190余个，包括视频、音频、游戏、数据、搜索等多种类型应用。

今年７月在上海举办的2023世界人工智能大会上，国内通用型大模型顶尖产品几乎悉数到场。阿里通义、华为盘古、讯飞星火、百度文心等30多款AI大模型亮相。据悉，国内公开发布的大模型已达百余个，不仅带动了人工智能产业的蓬勃发展，也为其他产业注入了新动能。

生成式人工智能，安全隐患频发

AI技术的逐渐成熟，似乎正慢慢改变着人们的生活，它的便利也引起很多人对是否会失去工作而担忧。在犯罪分子的手中，AI技术更是成为了他们肆意敛财的利器。借助其高超的运算方式，诈骗分子往往能够做到以假乱真。

近日，随着电影《孤注一掷》的火热上映，诈骗得到了许多的关注与讨论。在众多诈骗中，有一种新型的“AI换脸”诈骗，因其利用受害者亲属朋友的图像、声音等信息，具有极强的迷惑性，让受害者防不胜防。2020年以来，中国公安部就破获了79起“AI 换脸”的犯罪案件。

生成式AI降低了黑客的进入障碍。黑客可以利用生成式AI快速整合各种网络攻击方式，有可能实现攻击方式创新。据普华永道网络安全团队表示，近几个月客户收到的网络钓鱼邮件等社会工程学攻击显著增长，适逢ChatGPT被广泛使用，ChatGPT也被发现用于批量生成更具有迷惑性的钓鱼网站。

如何更规范地应用生成式AI？

《生成式人工智能服务管理暂行办法》明确提出，生成式人工智能服务提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务。“这就将生成式人工智能服务提供者明确纳入了网络平台责任的规制范围内，让违规违法者无灰色地带可躲。”北京大成律师事务所高级合伙人肖飒说。

此外，第十三届全国政协经济委员会副主任苏波表示，要用技术进步解决安全风险难题，加强人工智能数据安全保护基础理论研究和技术研发。发展负责任、可信任、能受控的通用人工智能。鼓励企业建设完善人工智能开源学习框架，增强框架内置学习数据和基础设施。并通过我国巨大的市场优势，加快培育人工智能开源平台生态圈和产业链。

创新是网络安全保障能力提升的根本动力。工业和信息化部网络安全管理局局长隋静表示，要健全科技创新体系，强化体系创新主体地位，全面激发企业创新活力。围绕5G、工业互联网、车联网等重点领域开展关键技术攻关，加快突破安全风险感知、监测预警、实时阻断、追踪溯源等核心能力。前瞻布局人工智能与网络安全技术融合创新，增强产业链、供应链韧性和安全水平。