法國人工智能初創(chuàng)公司Mistral發(fā)布了其首批生成式人工智能模型，致力于在筆記本電腦和手機等邊緣設(shè)備上運行。

Mistral稱之為“Les Ministraux”的新模型系列可用于或調(diào)整為各種應用，從基本的文本生成到與更強大的模型協(xié)同完成任務。

有兩種Les Ministraux型號可供選擇：Ministral 3B和Ministral 8B，兩者都有128000個令牌的上下文窗口，這意味著它們大約可以容納一本50頁書的長度。

Mistral博文表示：“我們最具創(chuàng)新精神的客戶和合作伙伴越來越多要求為關(guān)鍵應用提供本地、隱私優(yōu)先的推理，例如設(shè)備翻譯、無互聯(lián)網(wǎng)智能助手、本地分析和自主機器人。Les Ministraux 的建立是為了為這些場景提供計算效率高、延遲低的解決方案?！?/p>

即日起，Ministral 8B可供下載，盡管僅供研究之用。Mistral要求對Ministral 8B或Ministral 3B 自行部署設(shè)置感興趣的開發(fā)者和公司聯(lián)系其獲取商業(yè)許可。

另外，開發(fā)者還可以通過Mistral云平臺La Platforme以及這家初創(chuàng)公司未來幾周內(nèi)合作的其他云平臺以使用Ministral 3B和Ministral 8B。Ministral 8B每百萬輸出/輸入令牌（約750000個單詞）收費10美分，而Ministral 3B每百萬輸出/輸入令牌收費4美分。

最近，小型模型成為一種趨勢，與大型模型相比，小型模型更平價，訓練、微調(diào)和運行速度更快。谷歌繼續(xù)向其Gemma小型模型系列添加模型，而微軟則提供其Phi模型系列；在最近更新的Llama套件中，Meta推出了幾款針對邊緣硬件優(yōu)化的小型模型。

Mistral聲稱，在評估指令遵循和解決問題能力的幾項AI基準測試中，Ministral 3B和Ministral 8B的表現(xiàn)優(yōu)于同類的Llama和Gemma模型，以及Mistral 7B。