<thead id="bdlfz"><strike id="bdlfz"></strike></thead>

        <menuitem id="bdlfz"><pre id="bdlfz"><progress id="bdlfz"></progress></pre></menuitem>

        <var id="bdlfz"><font id="bdlfz"><address id="bdlfz"></address></font></var>

        <ins id="bdlfz"><p id="bdlfz"></p></ins>

        螞蟻集團發布 AI 安全檢測平臺“蟻鑒 2.0”,用 AI 識別 AI 模型安全漏洞

        吳厴 323 0

        7 月 7 日下午消息,2023 世界人工智能大會期間,在“聚焦?大模型時代 AIGC 新浪潮 — 可信 AI”論壇上,螞蟻集團聯合清華大學發布 AI 安全檢測平臺“蟻鑒 2.0”。

        蟻鑒 2.0 可實現用生成式 AI 能力檢測生成式 AI 模型,可識別數據安全、內容安全、科技倫理三大類的數百種風險,覆蓋表格、文本、圖像等多種數據和任務類型,是業內首個實現產業級應用的全數據類型 AI 安全檢測平臺。

        螞蟻集團發布 AI 安全檢測平臺“蟻鑒 2.0”,用 AI 識別 AI 模型安全漏洞-第1張圖片-小豬號

        在該論壇上,螞蟻集團同時宣布,“蟻鑒 2.0”全面開放,面向全球開發者免費提供 AIGC 安全性、AI 可解釋性、AI 魯棒性(穩健性)三項檢測工具,可服務于數字金融、教育、文化、醫療、電商等領域的大規模復雜業務場景。

        螞蟻集團大安全事業群技術部總裁李俊奎表示,“生成式大模型是一種‘深黑盒’技術,‘蟻鑒 2.0’通過智能博弈對抗技術,模擬黑產以及自動化生成海量測試集,可實現‘生成式機器人’對‘AIGC 生成式模型’的誘導式檢測計算,很像一個 24 小時不眠不休的‘安全黑客’在找茬大模型,從而找到大模型存在的弱點和安全問題所在?!?/p>

        據了解,“蟻鑒 2.0”集成了螞蟻近 10 年可信 AI 實踐、1000 余項可信 AI 專利,支持零編碼測評。開發者通過 API 接口,將 AI 模型接入蟻鑒,就可以一鍵識別和挖掘模型漏洞。

        此次論壇上,中國信通院、上海人工智能實驗室、武漢大學、螞蟻集團等多家單位共同發起《AIGC 可信倡議》,圍繞人工智能可能引發的經濟、安全、隱私和數據治理等問題,提出構建 AIGC 可信發展的全球治理合作框架,采用安全可信的數據資源、技術框架、計算方法和軟件平臺等全面提升 AIGC 可信工程化能力,最大限度確保生成式 AI 安全、透明、可釋。

        廣告聲明:文內含有的對外跳轉鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節省甄選時間,結果僅供參考,小豬號所有文章均包含本聲明。

        標簽: 螞蟻集團 蟻鑒 AI 漏洞 AI 檢測

        抱歉,評論功能暫時關閉!

        亚洲AV无码成人网站国产网站
        <thead id="bdlfz"><strike id="bdlfz"></strike></thead>

              <menuitem id="bdlfz"><pre id="bdlfz"><progress id="bdlfz"></progress></pre></menuitem>

              <var id="bdlfz"><font id="bdlfz"><address id="bdlfz"></address></font></var>

              <ins id="bdlfz"><p id="bdlfz"></p></ins>