字節發布大模型服務平臺火山方舟 多家AI公司已經接入

　　6月28日，在火山引擎主辦、英偉達合作舉辦的“V-Tech體驗創新科技峰會”上，字節跳動旗下火山引擎發布大模型服務平臺“火山方舟”，面向企業提供模型精調、評測、推理等全方位的平臺服務(MaaS)。

　　目前，“火山方舟”集成了百川智能、出門問問、復旦大學MOSS、IDEA研究院、瀾舟科技、MiniMax、智譜AI等多家AI科技公司及科研院所的大模型，并已啟動邀測。

　　火山引擎譚待表示，“我們會把優選的大模型放上平臺，供客戶挑選使用。”在火山引擎總裁譚待看來，“方舟”如同一個大模型的“優選店”，基于“方舟”，企業可同步試用多個大模型，選用更適合自身業務需要的模型組合。

　　此外，字節在大模型的搭建中將安全放在了首位。譚待認為，企業使用大模型，最擔心的是數據泄露;如果將大模型私有化部署，企業將承擔更高的成本，模型生產方也會擔心知識資產安全。“火山方舟”的首要任務，就是做好大模型使用者、提供者和云平臺可以互相信任的安全保障。

　　據火山引擎智能算法負責人吳迪介紹，“火山方舟”已上線了基于安全沙箱的大模型安全互信計算方案，利用計算隔離、存儲隔離、網絡隔離、流量審計等方式，實現了模型的機密性、完整性和可用性保證，適用于對訓練和推理延時要求較低的客戶。

　　據吳迪透露，抖音集團內部已有十多個業務團隊試用“火山方舟”，在代碼糾錯等研發提效場景，文本分類、總結摘要等知識管理場景，以及數據標注、歸因分析等方面探索，利用大模型能力促進降本增效。這些內部實踐在快速打磨“火山方舟”，推動平臺能力的進一步完善。

　　“火山方舟”的首批邀測企業，還包括金融、汽車、消費等眾多行業的客戶。北京銀行CIO龔偉華表示，大模型與客戶營銷、辦公協同、數據智能的結合，在金融應用場景有巨大潛力。北京銀行將與“火山方舟”合作，在算力優化、模型精調等方面展開研究，共同推動金融風控、營銷等模型應用落地。