英偉達(dá)宣布推出全新NVIDIA AI Foundry服務(wù)和NVIDIA NIM?推理微服務(wù)，基于Meta發(fā)布的Llama 3.1公開模型系列為全球企業(yè)提供生成式AI增強(qiáng)功能。

借助NVIDIA AI Foundry，企業(yè)現(xiàn)在可以使用Llama 3.1和NVIDIA軟件、計(jì)算和專業(yè)知識(shí)為其特定領(lǐng)域的行業(yè)用例創(chuàng)建自定義“超級(jí)模型”；企業(yè)可以使用專有數(shù)據(jù)以及從Llama 3.1 405B 和NVIDIA Nemotron?獎(jiǎng)勵(lì)模型生成的合成數(shù)據(jù)來訓(xùn)練這些超級(jí)模型。

NVIDIA AI Foundry由NVIDIA DGX? Cloud AI平臺(tái)提供支持，該平臺(tái)與世界領(lǐng)先的公共云共同設(shè)計(jì)，為企業(yè)提供大量計(jì)算資源，并可隨著AI需求的變化輕松擴(kuò)展。

這些新產(chǎn)品的推出正值企業(yè)希望為反映其獨(dú)特業(yè)務(wù)或文化的生成人工智能應(yīng)用構(gòu)建具有領(lǐng)域特定知識(shí)的定制大型語言模型之際。

NVIDIA創(chuàng)始人兼首席執(zhí)行官黃仁勛表示：“Meta Llama 3.1模型標(biāo)志著全球企業(yè)采用生成式 AI的關(guān)鍵時(shí)刻。Llama 3.1為企業(yè)和行業(yè)打開了構(gòu)建最先進(jìn)生成式AI應(yīng)用的大門。NVIDIA AI Foundry已將Llama 3.1集成到整個(gè)系統(tǒng)中，并隨時(shí)準(zhǔn)備幫助企業(yè)構(gòu)建和部署定制的Llama超級(jí)模型?！?/p>

Meta創(chuàng)始人兼首席執(zhí)行官馬克·扎克伯格表示：“Llama 3.1模型是開源AI邁出的極其重要的一步。借助NVIDIA AI Foundry，企業(yè)可以輕松創(chuàng)建和定制人們想要的最先進(jìn)AI服務(wù)，并使用NVIDIA NIM進(jìn)行部署。”

為了增強(qiáng)Llama 3.1模型在生產(chǎn)AI中的企業(yè)部署，企業(yè)現(xiàn)在可以從ai.nvidia.com下載適用于 Llama 3.1模型的NVIDIA NIM推理微服務(wù)。NIM微服務(wù)是在生產(chǎn)中部署Llama 3.1模型的最快方式，并且比不使用NIM運(yùn)行推理的吞吐量高出2.5倍。

企業(yè)可以將Llama 3.1 NIM微服務(wù)與NVIDIA NeMo Retriever NIM微服務(wù)配對(duì)，為AI副駕駛、助手和數(shù)字人類化身創(chuàng)建最先進(jìn)的檢索管道。

全球?qū)I(yè)服務(wù)公司埃森哲率先采用了NVIDIA AI Foundry，使用Accenture AI Refinery?框架構(gòu)建定制Llama 3.1模型，既供自己使用，也供尋求部署反映其文化、語言和行業(yè)的生成式AI應(yīng)用的客戶使用。

NVIDIA AI Foundry提供端到端服務(wù)，用于快速構(gòu)建自定義超級(jí)模型。它將NVIDIA軟件、基礎(chǔ)設(shè)施和專業(yè)知識(shí)與NVIDIA AI生態(tài)系統(tǒng)的開放社區(qū)模型、技術(shù)和支持相結(jié)合。

借助NVIDIA AI Foundry，企業(yè)可以使用Llama 3.1模型和NVIDIA NeMo平臺(tái)創(chuàng)建自定義模型——包括在Hugging Face RewardBench上排名第一的NVIDIA Nemotron-4 340B Reward 模型。

創(chuàng)建自定義模型后，企業(yè)可以創(chuàng)建NVIDIA NIM推理微服務(wù)，并使用MLOps和AIOps平臺(tái)以及NVIDIA 認(rèn)證系統(tǒng)? 在生產(chǎn)中運(yùn)行。