國內首個AI大模型眾測結果出爐！發現281個安全漏洞，未來治理刻不容緩

　　在第22屆中國網絡安全年會（暨國家網絡安全宣傳周網絡安全協同防御分論壇）上，國內首次針對AI大模型的眾測結果揭曉。此次活動由中央網信辦網絡安全協調局指導，國家計算機網絡應急技術處理協調中心主辦，吸引了559名白帽子安全專家參與，對15款AI大模型和應用產品進行了全面的安全漏洞測試。

　　這項測試涵蓋了從基礎大模型到智能體和模型開發平臺等多種產品，旨在從攻擊者的角度發掘潛在的安全隱患。結果顯示，共發現各類安全漏洞高達281個，其中大模型特有漏洞就有177個，比例超過60%。這說明，AI 大模型在安全性方面面臨著傳統安全領域之外的許多新興風險。

　　測試中揭示的典型漏洞風險包括:部分產品存在嚴重的輸出不當漏洞，信息泄露類漏洞頻發，提示注入類漏洞也是一種普遍風險。此外，盡管一些大模型產品已經具備一定的防護能力，但對抗無限制消耗攻擊的措施仍需加強。值得注意的是，傳統的安全漏洞依然普遍，必須引起足夠的重視。

　　在參與測試的主流大模型產品中，騰訊的混元大模型、百度的文心一言和阿里巴巴的通義 App 等，發現的漏洞相對較少，顯示出較高的安全防護水平。這一結果為廣大用戶和開發者帶來了信心。

　　活動最后，官方提出了四項 AI 大模型安全治理工作要求，強調了未來的防護措施和漏洞管理的重要性，包括加強安全防護、制定漏洞分類標準、鼓勵社會白帽力量的參與，以及在 AI 系統全生命周期中融入安全管理。