近日,約翰?霍普金斯大學推出了一種名為 EGO-Prompt 的框架,該框架顯著提高了小型語言模型在專業領域任務中的表現,性能提升近50%,同時將成本降低了83%。這一創新的框架主要用于解決專業領域任務,如醫療診斷和交通管理,使得小型 AI 模型能夠媲美大型推理模型。
在實際應用中,設計合適的提示詞是一個挑戰,這不僅需要融入專業領域知識,還要確保 AI 能有效推理并提煉關鍵信息。EGO-Prompt 框架的核心在于它能自動生成優化的提示詞,并結合因果邏輯幫助 AI 像人類一樣分步思考。
該框架從專家提供的簡單提示和因果關系圖開始,經過自動優化,生成具體推理指引,使 AI 的思考更為清晰。這一過程通過真實數據反復調整因果圖和提示詞,直到達到最佳效果。此外,EGO-Prompt 還能提升模型的可解釋性,讓用戶更容易理解 AI 的判斷依據。
與之前的最佳方法相比,EGO-Prompt 的 F1分數平均提高了7.32% 到12.61%。使用這一框架的小型 AI 模型,能夠在成本低至原有的20% 下,達到大型 AI 模型的效果。這種動態的知識進化方式,使得專家知識不再是靜態的,而是與模型共同成長。
EGO-Prompt 的創新之處在于將專家知識從靜態圖譜轉變為語義因果圖(Semantic Causal Graph, SCG),并允許初始圖譜存在一定的不完美。這種容錯設計使得優化過程更為靈活,從而避免了模型在生成過程中可能出現的語義漂移。
EGO-Prompt 通過精巧的兩階段推理機制,將推理過程分解為指導生成和條件推理兩個步驟,極大降低了模型的認知負荷,使其在處理復雜的專業領域數據時更加高效。


產品與服務
聯系站長
關于我們