在第22屆中國網絡安全年會(暨國家網絡安全宣傳周網絡安全協同防御分論壇)上,國內首次針對AI大模型的眾測結果揭曉。此次活動由中央網信辦網絡安全協調局指導,國家計算機網絡應急技術處理協調中心主辦,吸引了559名白帽子安全專家參與,對15款AI大模型和應用產品進行了全面的安全漏洞測試。
這項測試涵蓋了從基礎大模型到智能體和模型開發平臺等多種產品,旨在從攻擊者的角度發掘潛在的安全隱患。結果顯示,共發現各類安全漏洞高達281個,其中大模型特有漏洞就有177個,比例超過60%。這說明,AI 大模型在安全性方面面臨著傳統安全領域之外的許多新興風險。
測試中揭示的典型漏洞風險包括:部分產品存在嚴重的輸出不當漏洞,信息泄露類漏洞頻發,提示注入類漏洞也是一種普遍風險。此外,盡管一些大模型產品已經具備一定的防護能力,但對抗無限制消耗攻擊的措施仍需加強。值得注意的是,傳統的安全漏洞依然普遍,必須引起足夠的重視。
在參與測試的主流大模型產品中,騰訊的混元大模型、百度的文心一言和阿里巴巴的通義 App 等,發現的漏洞相對較少,顯示出較高的安全防護水平。這一結果為廣大用戶和開發者帶來了信心。
活動最后,官方提出了四項 AI 大模型安全治理工作要求,強調了未來的防護措施和漏洞管理的重要性,包括加強安全防護、制定漏洞分類標準、鼓勵社會白帽力量的參與,以及在 AI 系統全生命周期中融入安全管理。


產品與服務
聯系站長
關于我們