?AI 安全初創(chuàng)公司 Irregular 獲得 8000 萬美元融資，致力于前沿模型的安全保障

　　近日，AI 安全初創(chuàng)公司 Irregular 宣布獲得8000萬美元的融資，這輪融資由著名投資公司 Sequoia Capital 和 Redpoint Ventures 領(lǐng)投，同時(shí)還吸引了 Wiz 的首席執(zhí)行官 Assaf Rappaport 參與。根據(jù)與此交易相關(guān)的消息來源，Irregular 目前的估值已達(dá)到4.5億美元。

　　Irregular 的聯(lián)合創(chuàng)始人 Dan Lahav 表示:“我們認(rèn)為，未來大量的經(jīng)濟(jì)活動(dòng)將來自人機(jī)交互和 AI 與 AI 之間的互動(dòng)，而這將會(huì)在多個(gè)環(huán)節(jié)打破現(xiàn)有的安全體系。” 該公司原名為 Pattern Labs，已經(jīng)在 AI 評(píng)估領(lǐng)域占據(jù)了重要地位，公司的工作成果被廣泛引用于 Claude3.7Sonnet 及 OpenAI 的 o3和 o4-mini 模型的安全評(píng)估中。此外，Irregular 開發(fā)的模型漏洞檢測能力評(píng)分框架（SOLVE）在業(yè)內(nèi)也得到了廣泛使用。

　　盡管 Irregular 在現(xiàn)有模型的風(fēng)險(xiǎn)評(píng)估方面取得了顯著進(jìn)展，但其此次融資的目標(biāo)更為雄心勃勃:在模型進(jìn)入實(shí)際應(yīng)用之前，識(shí)別潛在的新風(fēng)險(xiǎn)和行為。為此，Irregular 構(gòu)建了一個(gè)復(fù)雜的模擬環(huán)境系統(tǒng)，能夠在模型發(fā)布前進(jìn)行深入測試。

　　聯(lián)合創(chuàng)始人 Omer Nevo 提到:“我們有復(fù)雜的網(wǎng)絡(luò)模擬，在這些模擬中，AI 扮演攻擊者和防御者的角色。因此，當(dāng)新的模型推出時(shí)，我們可以觀察防御在何處有效，何處失效。”

　　隨著 AI 行業(yè)對(duì)安全問題的關(guān)注加劇，前沿模型所帶來的潛在風(fēng)險(xiǎn)愈發(fā)顯現(xiàn)。今年夏天，OpenAI 便對(duì)其內(nèi)部安全措施進(jìn)行了全面的調(diào)整，以防止可能的企業(yè)間諜行為。同時(shí)，AI 模型在發(fā)現(xiàn)軟件漏洞方面的能力也日益增強(qiáng)，這對(duì)攻擊者和防御者都產(chǎn)生了深遠(yuǎn)影響。

　　對(duì) Irregular 的創(chuàng)始人而言，這只是由大型語言模型不斷增強(qiáng)的能力所帶來的安全隱患中的第一個(gè)挑戰(zhàn)。Lahav 表示:“如果前沿實(shí)驗(yàn)室的目標(biāo)是創(chuàng)造越來越復(fù)雜和強(qiáng)大的模型，那么我們的目標(biāo)就是確保這些模型的安全。然而，這是一項(xiàng)不斷變化的任務(wù)，因此未來還有非常非常多的工作要做。”