7月7日下午消息，2023世界人工智能大會期間，在“聚焦?大模型時代AIGC新浪潮—可信AI”論壇上，螞蟻集團聯(lián)合清華大學發(fā)布AI安全檢測平臺“蟻鑒2.0”。
蟻鑒2.0可實現(xiàn)用生成式AI能力檢測生成式AI模型，可識別數(shù)據(jù)安全、內容安全、科技倫理三大類的數(shù)百種風險，覆蓋表格、文本、圖像等多種數(shù)據(jù)和任務類型，是業(yè)內首個實現(xiàn)產(chǎn)業(yè)級應用的全數(shù)據(jù)類型AI安全檢測平臺。
在該論壇上，螞蟻集團同時宣布，“蟻鑒2.0”全面開放，面向全球開發(fā)者免費提供AIGC安全性、AI可解釋性、AI魯棒性（穩(wěn)健性）三項檢測工具，可服務于數(shù)字金融、教育、文化、醫(yī)療、電商等領域的大規(guī)模復雜業(yè)務場景。
螞蟻集團大安全事業(yè)群技術部總裁李俊奎表示，“生成式大模型是一種‘深黑盒’技術，‘蟻鑒2.0’通過智能博弈對抗技術，模擬黑產(chǎn)以及自動化生成海量測試集，可實現(xiàn)‘生成式機器人’對‘AIGC生成式模型’的誘導式檢測計算，很像一個24小時不眠不休的‘安全黑客’在找茬大模型，從而找到大模型存在的弱點和安全問題所在。”
據(jù)了解，“蟻鑒2.0”集成了螞蟻近10年可信AI實踐、1000余項可信AI專利，支持零編碼測評。開發(fā)者通過API接口，將AI模型接入蟻鑒，就可以一鍵識別和挖掘模型漏洞。
此次論壇上，中國信通院、上海人工智能實驗室、武漢大學、螞蟻集團等多家單位共同發(fā)起《AIGC可信倡議》，圍繞人工智能可能引發(fā)的經(jīng)濟、安全、隱私和數(shù)據(jù)治理等問題，提出構建AIGC可信發(fā)展的全球治理合作框架，采用安全可信的數(shù)據(jù)資源、技術框架、計算方法和軟件平臺等全面提升AIGC可信工程化能力，最大限度確保生成式AI安全、透明、可釋。
