加速發展:Gartner 預測生成 AI 應用將實現50% 的交付時間縮減

　　根據 Gartner 的最新預測，到2028年，80% 的生成 AI 商業應用將會在現有的數據管理平臺上開發。這一轉變有望降低開發復雜性，并將交付時間縮短50%。

　　目前，生成 AI 商業應用的開發主要依賴于將大型語言模型(LLMs)與企業內部數據相結合，以及不斷發展的技術，如向量搜索、元數據管理、提示設計和嵌入技術。然而，若沒有統一的管理方法，企業可能會采用 “分散技術”，導致交付時間延長和成本增加。

　　Gartner 在最近舉行的印度孟買數據與分析峰會上強調了檢索增強生成(RAG)在開發生成 AI 應用中的重要性。RAG 是一種提升生成 AI 模型準確性和可靠性的框架，正在成為部署生成 AI 應用的基礎。Gartner 指出，RAG 能夠提供 “靈活的實施方式、增強的可解釋性以及與 LLMs 的組合能力”。

　　Gartner 高級分析師 Prasad Pore 表示，RAG 在多個業務職能中(如銷售、人力資源、IT 和數據管理)有助于流程改進和任務自動化。目前，數據工程師和數據專業人員在開發、測試、部署和維護復雜數據管道和應用程序時面臨諸多挑戰。Pore 指出，傳統的數據管理過程耗時且需要大量人工，而 RAG 的應用可以大大提高生產力，簡化數據治理過程。

　　此外，Pore 還提到，生成模型如 LLMs 本身是靜態的，僅基于其訓練的數據進行工作，缺乏最新信息。通過 RAG，企業可以將最新的商業或組織特定的數據納入模型中，以提高生成 AI 應用在回答問題、分析日志和做出決策方面的有效性。

　　在談到生成 AI 商業應用的類型時，Pore 表示，可以將其分為三個主要類別:流程改進與自動化(如企業知識管理和文檔處理自動化)、用戶體驗(如客戶支持自動化和個性化購物體驗)以及洞察與預測(如對話式商業智能和數據發現)。

　　在構建和部署生成 AI 應用時，Gartner 建議企業考慮以下幾點:首先，評估現有數據管理平臺是否可以轉變為 RAG 即服務的平臺;其次，將 RAG 作為優先事項，整合來自現有數據管理系統的向量搜索、圖形和分塊等技術;最后，利用元數據和操作數據以保護知識產權、解決隱私問題，并防范惡意使用。