麥肯錫為員工推出自家專屬生成式 AI 工具 Lilli：回答提供完整來源信息

　　麥肯錫公司成立近一個世紀，是世界上最大的咨詢機構之一。今年早些時候，該公司迅速采用了生成式 AI 工具，據稱截至 6 月，其員工中有將近一半使用了這項技術。

　　在麥肯錫最近的2023 年人工智能發展狀況報中描述了幾十年來技術如何賦予人們「超能力」，即超越人類極限的能力。現在，該公司推出了自己的新型生成式 AI 工具：Lilli，一款由麥肯錫的「ClienTech」團隊在首席技術官 Jacky Wright 的帶領下為員工設計的新的聊天應用程序。該工具基于超過 10 萬份文檔和訪談記錄，提供信息、洞察、數據、計劃，甚至推薦最適合咨詢項目的內部專家。

　　Lilli 的推出標志著麥肯錫數字化轉型的一個重要里程碑。隨著管理咨詢行業競爭的加劇，利用人工智能更智能、更快速地工作已成為必然。

　　麥肯錫高級合伙人 Erik Roth 在接受采訪時說：「如果你能向麥肯錫的全部知識提問，并且(一個 AI 程序)能做出回答，那對公司有什么影響?這正是 Lilli 能做到的。」作為該產品的開發負責人，Erik Roth 與他在麥肯錫的合作伙伴表示，Lilli 自 2023 年 6 月以來一直處于測試階段，將在今年秋季在麥肯錫全面推出。

　　Erik Roth 表示，Lilli 已經在測試階段由約 7000 名員工使用作為「最小可行產品」，已經將研究和規劃工作所需的時間從幾周減少到幾小時，甚至有時從幾小時減少到幾分鐘。

　　Erik Roth 說：「在過去兩周里，Lilli 已經回答了 5 萬個問題。」「66% 的用戶每周會多次返回使用該網站。」

　　Lilli AI 是界面對于那些使用其他公開的基于文本生成 AI 工具(如 OpenAI 的 ChatGPT 和 Anthropic 的 Claude 2)的人來說已經很熟悉了。Lilli 的主窗口底部有一個文本輸入框供用戶輸入問題、搜索和提示，而在其上面生成回答，以對話的形式呈現用戶的提示和 Lilli 的回答。

　　然而，有幾個功能立即引人注目：Lilli 還包含一個可展開的左側邊欄，其中保存了提示，用戶可以復制、粘貼并根據自己的喜好進行修改。Erik Roth 說，這些提示的分類很快就會添加到該平臺上。

　　生成式 AI 聊天和客戶能力功能界面包括兩個可切換的標簽頁，一個是「GenAI Chat」，從更廣泛的大型語言模型(LLM)后端獲取數據，另一個是「Client Capabilities」，從麥肯錫的 10 萬多份文檔、記錄和演示文稿中獲取回答。

　　Erik Roth 表示：「我們有意創建了這兩種體驗，以了解并比較我們內部擁有的和公開可用的工具。」

　　另一個區別在于信息來源：盡管許多 LLM 在回答時沒有在其響應中明確引用或鏈接到來源(微軟 Bing Chat 由 OpenAI 提供的是一個值得注意的例外)，但 Lilli 在每個回答下方提供了一個完整的「來源」部分，包括鏈接甚至頁碼，指示模型從哪些頁面獲取其回答。

　　Erik Roth 說：「我們做出了全面的歸因。」「我與客戶的交談中，他們對此非常興奮。」

　　他設想麥肯錫的顧問們幾乎可以在與客戶合作的每個階段使用 Lilli，從收集關于客戶所在行業、競爭對手或類似公司的初始研究，到起草客戶如何實施具體項目的計劃。

　　Lilli 的演示展示了其靈活性：Lilli 能夠提供一份列出內部麥肯錫專家資格的清單，這些專家有資格談論一家大型電子商務零售商，以及未來十年美國清潔能源的前景，還有一個在 10 周內建造新能源工廠的計劃。在此過程中，AI 清楚地透露了其信息的來源。

　　雖然響應時間有時比領先的商業 LLM 慢幾秒鐘，但 Erik Roth 表示，麥肯錫不斷更新響應速度，并且優先考慮信息的質量。

　　此外，Erik Roth 表示，該公司正在嘗試啟用一個功能，用于將客戶信息和文檔上傳到麥肯錫的服務器進行安全、私密的分析，但該功能還在開發階段，直到完全完善后才會部署使用。

　　Erik Roth 解釋道：「Lilli 可以以非常安全和可靠的方式上傳客戶數據。」「我們可以考慮未來將我們的數據與客戶的數據結合起來，或者僅在同一個平臺上使用我們客戶的數據進行更大范圍的綜合與探索……任何我們加載到 Lilli 中的東西都要經過全面的合規風險評估，包括我們自己的數據。」

　　底層技術 Lilli 利用目前可用的 LLM，包括麥肯錫合作伙伴 Cohere 開發的 LLM以及微軟 Azure 平臺上的 OpenAI，來支持其 GenAI Chat 和自然語言處理(NLP)能力。然而，該應用程序由麥肯錫構建，并充當用戶和底層數據之間的安全層。

　　Erik Roth 強調，麥肯錫與底層的「LLM 無關」，并且不斷探索提供最大效用的新 LLM 和 AI 模型，包括仍在維護的舊版本。

　　雖然該公司希望將其使用擴展到所有員工，但 Erik Roth 還表示，麥肯錫并不排除將 Lilli 貼上白標并將其變成麥肯錫客戶或其他公司使用的外部產品。

　　Erik Roth 說：「目前，所有的討論都在進行中。」「我個人認為，每個組織都需要一種 Lilli 的版本。」