幻方DeepSeek-V2系列模型已在魔搭社區開源

　　魔搭ModelScope社區宣布，DeepSeek-V2系列模型現已在魔搭ModelScope社區開源。

　　據悉，幻方公司在5月6日推出了第二代 MoE 模型 DeepSeek-V2，并開源了技術報告和模型權重，該模型引入了 MLA 架構和自研 Sparse 結構 DeepSeekMoE，以236B 總參數、21B 激活，實際部署在8卡 H800機器上，輸入吞吐量超過每秒10萬 tokens 輸出超過每秒5萬 tokens。

　　性能方面，在目前大模型主流榜單中，DeepSeek-V2均表現出色:

　　中文綜合能力(AlignBench)開源模型中最強，與GPT-4-Turbo，文心4.0等閉源模型在評測中處于同一梯隊

　　英文綜合能力(MT-Bench)與最強的開源模型LLaMA3-70B同處第一梯隊，超過最強MoE開源模型Mixtral8x22B

　　知識、數學、推理、編程等榜單結果也位居前列

　　支持128K上下文窗口

　　和DeepSeek67B相比，DeepSeek-V2節約了42.5%訓練成本，推理的KV Cache節約了93.3%，最大吞吐是之前的576%。

　　DeepSeek-V2的推理代碼和模型下載鏈接已經在魔搭 ModelScope 社區開源，用戶可以通過該平臺直接下載模型。