蚂蚁集团联合清华大学发布AI安全检测平台“蚁鉴2.0”

【资料图】

7月7日，2023世界人工智能大会（简称“WAIC”）“聚焦·大模型时代AIGC新浪潮—可信AI”分论坛开幕，蚂蚁集团联合清华大学发布AI安全检测平台“蚁鉴2.0”，该产品入选了本届大会的“镇馆之宝”。

据悉，蚁鉴2.0可用生成式AI能力检测生成式AI模型，可识别数据安全、内容安全、科技伦理三大类的数百种风险，覆盖表格、文本、图像等多种数据和任务类型，是业内首个实现产业级应用的全数据类型AI安全检测平台。

蚂蚁集团同时宣布，“蚁鉴2.0”全面开放，面向全球开发者免费提供AIGC安全性、AI可解释性、AI鲁棒性三项检测工具，可服务于数字金融、教育、文化、医疗、电商等领域的大规模复杂业务场景。

论坛现场，中国信通院、上海人工智能实验室、武汉大学、蚂蚁集团等多家单位共同发起《AIGC可信倡议》。该倡议得到数十家单位参与，围绕人工智能可能引发的经济、安全、隐私和数据治理等问题，提出构建AIGC可信发展的全球治理合作框架，采用安全可信的数据资源、技术框架、计算方法和软件平台等，全面提升AIGC可信工程化能力，最大限度确保生成式AI安全、透明、可释。

（文章来源：上海证券报·中国证券网）