周鴻祎：AI大模型時代，網絡攻擊門檻降低

　　在2025中國互聯網大會上，360集團創始人周鴻祎針對大模型在實際應用中的潛在風險進行了深刻分析。他指出，隨著人工智能的迅猛發展，網絡安全面臨著全新的挑戰，傳統的 IT 系統漏洞和數據隱私泄露問題已經不再是唯一的威脅。

　　周鴻祎首先提到 “大模型的‘幻覺’問題”，這被認為是最大的安全風險之一。大模型在面對未知信息時，有時會毫無根據地生成內容。雖然這種現象在娛樂領域可能顯得無傷大雅，但當這些智能體應用于工業生產或政府管理等關鍵領域時，其錯誤判斷可能導致嚴重后果。特別是當智能體具備操控各種工具的能力后，錯誤的后果將會被放大，影響范圍極廣。

　　其次，周鴻祎強調了大模型降低網絡攻擊門檻的風險。他指出，非編程專業人員也能通過自然語言與大模型互動，輕松編寫程序。這意味著，惡意攻擊者只需通過精心設計的指令，就能誘導大模型泄露企業機密信息，這種攻擊方式被稱為 “注入攻擊”。未來，甚至一些沒有編程知識的普通員工也可能因不滿而發起對公司大模型的攻擊，形成潛在的內部威脅。

　　最后，從更廣泛的角度來看，周鴻祎警告說，大模型將使得國家級高級威脅攻擊更加普遍和復雜。過去，我國的網絡攻擊相對較少，但如今黑客們正試圖將自身能力與經驗嵌入大模型，成為 “黑客智能體”。在強大算力的支持下，一個黑客可能同時操控數十甚至數百個智能體，徹底改變網絡攻防的格局，未來的對抗將不僅僅是人與人的較量，而是人與算法、人與機器、人與算力之間的斗爭。

　　為了應對這些挑戰，周鴻祎透露，360正在積極采取兩項關鍵措施。首先，360正在打造智能體安全專家，幫助企業實現實時檢測和防御，做到 “以算法對抗算法”。其次，360開發了專門的大模型衛士，監控大模型的指令并評估輸出內容的準確性，以最大程度降低大模型的 “幻覺” 問題。