大模型時代，AI應(yīng)用爆發(fā)“安全攻防戰(zhàn)”

　　撰文：李信馬

　　最近，DeepSeek火了，也帶動大模型迎來了又一輪的熱潮。但與此同時，隨著大模型的應(yīng)用日益廣泛，其中蘊含的風(fēng)險也引人擔(dān)憂。

　　不久前，F(xiàn)5公司在北京舉辦了新春媒體見面會。會上，F(xiàn)5深入解讀了生成式人工智能(AI)的前沿趨勢，據(jù)預(yù)測，2025年全球77%的企業(yè)將部署生成式AI以提升生產(chǎn)力;2028年，84%的應(yīng)用將成為AI應(yīng)用或具備AI推理能力。

　　與此同時，作為全球領(lǐng)先的多云應(yīng)用安全和應(yīng)用交付網(wǎng)絡(luò)提供商，F(xiàn)5關(guān)注企業(yè)應(yīng)用生成式AI的安全問題，并將安全列為AI時代的四大技術(shù)方向之一。

　　一、大模型的安全風(fēng)險

　　應(yīng)用大模型的安全風(fēng)險主要來自哪些方面?

　　去年年底，OWASP針對大型語言模型(LLM)發(fā)布了十大風(fēng)險漏洞，分別是提示注入、 敏感信息泄露、供應(yīng)鏈安全、 數(shù)據(jù)和模型投毒、不當(dāng)輸出處理、過度代理權(quán)限、系統(tǒng)提示泄漏、向量和嵌入漏洞、錯誤信息和無界消耗。

　　F5中國區(qū)產(chǎn)品及解決方案總經(jīng)理陳亮將這些風(fēng)險歸類為兩類：一類是針對大模型本身的攻擊，被稱為“壞孩子”行為;另一類則是由于欺騙導(dǎo)致的模型誤操作，被稱為“熊孩子”行為。

　　比如Prompt Injection(提示詞注入)攻擊，黑客可能會通過忽略系統(tǒng)提示或誘導(dǎo)模型忽略某些指令，從而使其執(zhí)行惡意行為。在模型訓(xùn)練過程中，大量的敏感數(shù)據(jù)，如電話號碼、身份證信息、地址、郵箱等，可能會被泄露。此外，還有大模型的“幻覺”問題，都可能導(dǎo)致企業(yè)遭受損失。

　　不久前，思科研究團(tuán)隊就發(fā)現(xiàn)，DeepSeek-R1模型在提示詞干擾測試中攻擊成功率達(dá)100%，暴露出模型自身在內(nèi)容安全過濾和邏輯隔離方面的漏洞。

　　為了預(yù)防風(fēng)險，有許多問題需要解決。比如不同的任務(wù)可能需要調(diào)用不同的模型進(jìn)行處理，前端應(yīng)用需要能夠識別并調(diào)用正確的模型。此外，還有成本的觀測、輸出的控制，以及如何阻攔幻覺產(chǎn)生等問題。

　　針對這些問題，F(xiàn)5推出了F5 AI網(wǎng)關(guān)(AI Gateway)解決方案，提供了多模型管理和安全防護(hù)能力。F5 AI網(wǎng)關(guān)被部署在應(yīng)用和Web頁面以及中間的大模型之間，這個網(wǎng)關(guān)目前可以以軟件的形式部署，并且可以與F5的硬件或NGINX結(jié)合使用，提高分流效率。F5表示，AI網(wǎng)關(guān)處理器將作為對外提供的生態(tài)開發(fā)接口，不斷擴(kuò)展和部署安全防護(hù)能力。

　　二、AI時代的API安全挑戰(zhàn)

　　隨著數(shù)字化世界的不斷演進(jìn)，API已成為最主流的交易和使用協(xié)議。據(jù)F5在2024年發(fā)布的API分析報告顯示，90%的開發(fā)者在開發(fā)應(yīng)用時已遷移到API，75%的互聯(lián)網(wǎng)流量由API承載，基于API產(chǎn)生的數(shù)字經(jīng)濟(jì)規(guī)模已超過2000億美元。

　　然而，隨著API的廣泛應(yīng)用，安全問題也日益凸顯，API攻擊事件逐年增加。根據(jù)預(yù)估，2030年針對API的攻擊相比2021年增長了996%。

　　專注于Web應(yīng)用程序安全的非營利組織OWASP(Open Web Application Security Project)曾在2023年列出了針對API必須解決的十大安全問題。

　　這些風(fēng)險也延續(xù)進(jìn)了大模型領(lǐng)域。API是企業(yè)構(gòu)建AI架構(gòu)并實現(xiàn)向最終用戶交付AI驅(qū)動服務(wù)的關(guān)鍵訪問方式，API安全對于保護(hù)企業(yè)信息資產(chǎn)、維護(hù)系統(tǒng)穩(wěn)定性和推動業(yè)務(wù)創(chuàng)新具有

　　重要意義，但未經(jīng)保護(hù)的API會使AI應(yīng)用和數(shù)據(jù)面臨DDoS攻擊，信息泄漏等各種威脅。

　　比如DeepSeek自1月27日開始，就多次出現(xiàn)“網(wǎng)頁/API服務(wù)異常”。1月28日凌晨，DeepSeek官網(wǎng)連續(xù)發(fā)布2條公告稱，DeepSeek線上服務(wù)受到大規(guī)模惡意攻擊，導(dǎo)致平臺注冊繁忙，并暫時限制了+86手機(jī)號以外的注冊方式。

　　有報道稱，攻擊期間曾出現(xiàn)ClickHouse數(shù)據(jù)庫泄露事件，涉及用戶聊天記錄、API密鑰等敏感信息。

　　陳亮在交流中表示，目前傳統(tǒng)的防火墻和外部應(yīng)用防火墻(WAF)在面對API世界的變化時顯得無能為力，企業(yè)必須重視API的安全問題。F5公司在2024年收購了專注于開發(fā)、安全掃描、API代碼的安全分析等領(lǐng)域的Wib公司。目前F5提供的解決方案，利用AI和機(jī)器學(xué)習(xí)能力，可以幫助客戶在開發(fā)階段進(jìn)行API漏洞檢測、風(fēng)險識別、并發(fā)現(xiàn)影子API，運行階段可實時監(jiān)控洞察、檢測異常攔截攻擊，為 API 提供從代碼到運行時的全面一體化安全防護(hù)。

　　三、F5發(fā)布中國市場三大策略

　　在媒體見面會上，F(xiàn)5亞太區(qū)副總裁、北亞區(qū)總裁黃彥文宣布，面對AI快速發(fā)展的趨勢，F(xiàn)5中國將通過以下三大策略助力中國用戶全面擁抱AI應(yīng)用浪潮：完善AI產(chǎn)品組合：聚焦AI訓(xùn)練和推理場景，持續(xù)優(yōu)化多云環(huán)境中的應(yīng)用交付和應(yīng)用安全解決方案，構(gòu)建更高效、更智能的AI支持體系，滿足企業(yè)在AI時代的復(fù)雜業(yè)務(wù)需求。 全面縱深新行業(yè)：深入拓展汽車、生物制藥、高端制造行業(yè)，同時挖掘新能源、新零售等新行業(yè)領(lǐng)域潛力，以定制化解決方案幫助企業(yè)實現(xiàn)數(shù)字化和智能化轉(zhuǎn)型。 共創(chuàng)渠道伙伴生態(tài)：加強與技術(shù)合作伙伴和渠道伙伴的聯(lián)動，推動生態(tài)協(xié)作，共同開發(fā)面向未來的創(chuàng)新方案，打造更具韌性和競爭力的行業(yè)生態(tài)體系。

　　目前，F(xiàn)5通過與行業(yè)領(lǐng)先廠商展開深度合作，共同構(gòu)建了六大面向AI應(yīng)用的創(chuàng)新應(yīng)用交付和應(yīng)用安全解決方案，幫助企業(yè)加速實現(xiàn)AI驅(qū)動的數(shù)字化轉(zhuǎn)型目標(biāo)，同時確保核心業(yè)務(wù)安全、可靠運行。