元象發(fā)布 XVERSE-MoE-A4.2B 大模型 可免費(fèi)商用

　　元象發(fā)布了XVERSE-MoE-A4.2B大模型，采用混合專家模型架構(gòu)，激活參數(shù)為4.2B，效果媲美13B 模型。該模型全開源，免費(fèi)商用，可用于海量中小企業(yè)、研究者和開發(fā)者，推動(dòng)低成本部署。

　　該模型具有極致壓縮和超凡性能兩大優(yōu)勢，采用稀疏激活技術(shù)，效果超越多個(gè)業(yè)界頂流模型，并接近超大模型。元象 MoE 技術(shù)自研創(chuàng)新，研發(fā)高效融合算子、細(xì)粒度專家設(shè)計(jì)、負(fù)載均衡損失項(xiàng)等，最終采用實(shí)驗(yàn)4對應(yīng)的架構(gòu)設(shè)置。

　　在商業(yè)應(yīng)用上，元象大模型已與多個(gè)騰訊產(chǎn)品進(jìn)行深度合作，為文化、娛樂、旅游、金融領(lǐng)域提供創(chuàng)新用戶體驗(yàn)。