蚂蚁集团发布 AI 安全检测平台蚁鉴 2.0 用 AI 识别 AI 模型安全漏洞

近日，在举世瞩目的2023世界人工智能大会的“聚焦・大模型时代AIGC新浪潮—可信AI”论坛上，一个重磅消息引起业界广泛关注：蚂蚁集团携手清华大学推出了全新的AI安全检测平台——“蚁鉴2.0”。这个平台的诞生，可谓是人工智能领域的一大创新。

论坛上，蚂蚁集团还向全球开发者发出诚挚邀请，免费使用蚁鉴2.0提供的三项强大工具：AIGC安全性检测、AI可解释性检测以及AI鲁棒性（稳健性）检测。这些工具可广泛应用于数字金融、教育、文化、医疗、电商等多个领域，为大规模复杂业务场景提供安全可靠的支持。

蚂蚁集团大安全事业群技术部总裁李俊奎对蚁鉴2.0进行了深入解读。他指出，生成式大模型虽然强大，但也存在“深黑盒”技术的隐患。而蚁鉴2.0则通过智能博弈对抗技术，模拟黑产并自动化生成海量测试集，实现对生成式机器人的诱导式检测计算。这就像一位24小时不眠不休的“安全黑客”，不断寻找大模型的弱点和安全隐患。

值得一提的是，蚁鉴2.0集成了蚂蚁近10年的可信AI实践以及1000余项可信AI专利，支持零编码测评。开发者只需通过API接口将AI模型接入蚁鉴，便可轻松一键识别和挖掘模型漏洞。

论坛上，中国信通院、上海人工智能实验室、武汉大学等多家单位与蚂蚁集团共同发起《AIGC可信倡议》。这一倡议旨在围绕人工智能可能引发的经济、安全、隐私和数据治理等问题，构建一个全球治理合作框架，确保AIGC的可信发展。倡议还呼吁采用安全可信的数据资源、技术框架、计算方法和软件平台等，全面提升AIGC的工程化能力，确保生成式AI的安全、透明和可解释性。