Stability AI發布Stable Code3B填補AI代碼生成的空白

　　在AI領域，Stability AI公司于2024年推出了其首個新型人工智能模型:商業許可的(通過會員資格)Stable Code3B。該模型僅擁有30億參數，專注于軟件開發的代碼完成能力，可在沒有專用GPU的筆記本上本地運行，并在性能上具有競爭力，可與Meta的CodeLLaMA7B等更大的模型相媲美。

　　Stability AI在2023年底開始推動更小、更緊湊和更強大的模型發展，例如StabilityLM Zephyr3B用于文本生成。Stability AI在2023年8月首次預覽了Stable Code，并隨后不斷改進技術。

　　相比初始版本，Stable Code3B在多個方面得到了改進。除了建議新的代碼行外，新模型還能填充現有代碼中的較大缺失部分，實現高級代碼完成能力，即Fill in the Middle(FIM)。

　　模型的訓練采用了一種名為Rotary Position Embeddings(RoPE)的技術，通過擴大上下文大小，可選擇性地允許上下文長度達到100k令牌。RoPE技術是其他大型語言模型(LLM)也在使用的，包括Meta的Llama2Long。

　　Stable Code3B建立在Stability AI的Stable LM3B自然語言模型之上，通過進一步專注于軟件工程數據的訓練，模型在保持通用語言任務強項的同時，獲得了代碼完成技能。其訓練數據涵蓋了代碼倉庫、程序員論壇和其他技術來源，同時在18種不同的編程語言上進行了訓練。Stability AI聲稱Stable Code3B在多語言基準測試中表現出色，涵蓋了Python、Java、JavaScript、Go、Ruby和C++等熱門語言，初步基準測試顯示其在完成質量上與兩倍大小的模型相匹敵甚至超越。

　　在競爭激烈的生成式AI代碼生成工具市場上，Stable Code3B作為Stability AI會員訂閱服務的一部分，商業用戶可獲得使用權。該訂閱服務于去年12月首次宣布，會員可以獲取Stable Code3B以及Stability AI投資組合中的其他AI工具，包括SDXLStability擴散圖像生成工具、StableLM Zephyr3B文本內容生成工具、Stable Audio音頻生成工具、Stable Video視頻生成工具等。

　　Stable Code3B的發布標志著Stability AI在AI代碼生成領域的不斷創新和改進，為開發者提供了更加便捷、高效的代碼編寫體驗。