Meta發(fā)布了旗下Llama 3人工智能模型的最大版本（3.1），其多語(yǔ)言技能和一般性能指標(biāo)緊隨OpenAI等競(jìng)爭(zhēng)對(duì)手的付費(fèi)模型之后。
Meta表示，新款Llama 3型號(hào)支持八種語(yǔ)言，可編寫更高質(zhì)量的計(jì)算機(jī)代碼，并能解決比以往版本更復(fù)雜的數(shù)學(xué)問(wèn)題。
該算法擁有4050億個(gè)參數(shù)或變量，可對(duì)用戶查詢做出響應(yīng)，與去年發(fā)布的前一個(gè)版本相比，顯得微不足道，但仍比競(jìng)爭(zhēng)對(duì)手提供的領(lǐng)先模型要小。
相比之下，據(jù)報(bào)道，OpenAI GPT-4模型擁有1萬(wàn)億個(gè)參數(shù)，而亞馬遜正在準(zhǔn)備一個(gè)擁有2萬(wàn)億個(gè)參數(shù)的模型。
Meta首席執(zhí)行官馬克·扎克伯格正在多個(gè)渠道推廣Llama 3，并表示預(yù)計(jì)未來(lái)Llama模型將在明年超越競(jìng)爭(zhēng)對(duì)手。他表示，由這些模型驅(qū)動(dòng)的Meta AI聊天機(jī)器人有望在今年年底成為最受歡迎的人工智能助手，目前已有數(shù)億人在使用它。
目前，各大科技公司都在競(jìng)相證明，不斷增長(zhǎng)的資源密集型大型語(yǔ)言模型組合可以在高級(jí)推理等已知問(wèn)題領(lǐng)域帶來(lái)顯著收益，以證明巨額投資是合理的。
Meta頂級(jí)人工智能科學(xué)家表示，此類模型將遭遇推理極限，并且需要借助其他類型的人工智能系統(tǒng)才能取得突破。
Meta表示，除了旗艦產(chǎn)品擁有4050億參數(shù)模型，Meta還將發(fā)布于春季推出的更輕量級(jí)80 億和700億參數(shù)Llama 3模型的更新版本。
這三種新模型都支持多種語(yǔ)言，并可以通過(guò)擴(kuò)展的“上下文窗口”處理更大的用戶請(qǐng)求，Meta生成式AI負(fù)責(zé)人Ahmad Al-Dahle表示，這將改善生成計(jì)算機(jī)代碼的體驗(yàn)。
“這是我們從社區(qū)得到的第一條反饋，”Al-Dahle在接受路透社采訪時(shí)指出，更大的上下文窗口為模型提供了類似于更長(zhǎng)的記憶，有助于處理多步驟請(qǐng)求。
另外，Al-Dahle表示，團(tuán)隊(duì)已經(jīng)能夠通過(guò)使用人工智能生成一些用于訓(xùn)練的數(shù)據(jù)來(lái)提高Llama 3模型在解決數(shù)學(xué)問(wèn)題等任務(wù)上的表現(xiàn)。
Meta向開發(fā)者免費(fèi)提供Llama模型，扎克伯格表示這一策略將帶來(lái)回報(bào)，包括創(chuàng)新產(chǎn)品、減少對(duì)潛在競(jìng)爭(zhēng)對(duì)手的依賴以及增加對(duì)公司核心社交網(wǎng)絡(luò)的參與度。
如果開發(fā)者選擇使用免費(fèi)模式而非付費(fèi)模式，Meta也將從中受益，這將削弱其競(jìng)爭(zhēng)對(duì)手的商業(yè)模式。Meta在聲明中宣稱，其在關(guān)鍵數(shù)學(xué)和知識(shí)測(cè)試方面取得了進(jìn)展，這可能會(huì)使這一前景更具吸引力。
盡管衡量人工智能發(fā)展的進(jìn)展非常困難，但Meta測(cè)試結(jié)果似乎表明，其最大的Llama 3模型幾乎匹敵甚至在某些情況下超越了Claude 3.5 Sonnet和GPT-4o，這兩者被廣泛認(rèn)為是市場(chǎng)上最強(qiáng)大的兩種前沿模型。
例如，在競(jìng)賽級(jí)數(shù)學(xué)應(yīng)用題的MATH基準(zhǔn)測(cè)試中，Meta模型得分為73.8，而GPT-4o的得分為76.6，Claude 3.5 Sonnet的得分為 71.1。
該模型在 MMLU上的得分為88.6，MMLU是一項(xiàng)涵蓋數(shù)學(xué)、科學(xué)和人文學(xué)科數(shù)十個(gè)學(xué)科的基準(zhǔn)機(jī)制，而GPT-4o的得分為88.7，Claude 3.5 Sonnet的得分為88.3。
另外，Meta研究人員還透露，即將于今年晚些時(shí)候推出的“多模式”模型版本將在核心Llama 3文本模型之上疊加圖像、視頻和語(yǔ)音功能。
Meta表示，早期實(shí)驗(yàn)表明，這些模型的表現(xiàn)可與Gemini 1.5和 Claude 3.5 Sonnet等其他多模式模型“媲美”。