英偉達(dá)宣布在NVIDIA RTX? AI PC上本地運(yùn)行基礎(chǔ)模型，可增強(qiáng)數(shù)字人類、內(nèi)容創(chuàng)作、生產(chǎn)力和開(kāi)發(fā)能力。

這些模型以NVIDIA NIM?微服務(wù)的形式提供，由GeForce RTX? 50系列GPU加速，該GPU具有高達(dá)每秒3352萬(wàn)億次AI性能和32GB VRAM。RTX 50系列基于NVIDIA Blackwell架構(gòu)構(gòu)建，是首批增加對(duì)FP4計(jì)算支持的消費(fèi)級(jí)GPU，與上一代硬件相比，它將AI推理性能提高了2倍，并使生成式AI模型能夠在更小的內(nèi)存占用空間內(nèi)本地運(yùn)行。

GeForce?長(zhǎng)期以來(lái)一直是AI開(kāi)發(fā)人員的重要平臺(tái)。首個(gè)GPU加速深度學(xué)習(xí)網(wǎng)絡(luò)AlexNet于 2012年在GeForce GTX? 580上進(jìn)行訓(xùn)練，去年，超30%的已發(fā)表AI研究論文引用了對(duì)GeForce RTX的使用。

現(xiàn)在，有了生成式AI和RTX AI PC，任何人都可以成為開(kāi)發(fā)者。AnythingLLM、ComfyUI、Langflow 和LM Studio等新一波低代碼和無(wú)代碼工具使愛(ài)好者能夠通過(guò)簡(jiǎn)單的圖形用戶界面在復(fù)雜的工作流程中使用AI模型。

連接到這些GUI的NIM微服務(wù)將使訪問(wèn)和部署最新的生成式AI模型變得輕而易舉?；?NIM微服務(wù)構(gòu)建的NVIDIA AI Blueprints為數(shù)字人類、內(nèi)容創(chuàng)建等提供了易于使用、預(yù)配置的參考工作流程。

而為了滿足AI開(kāi)發(fā)人員和愛(ài)好者日益增長(zhǎng)的需求，每家頂級(jí)PC制造商和系統(tǒng)制造商都在推出搭載GeForce RTX 50系列GPU的支持NIM RTX AI PC。

英偉達(dá)創(chuàng)始人兼首席執(zhí)行官黃仁勛表示：“人工智能正以光速發(fā)展，從感知型人工智能到生成型人工智能，再到現(xiàn)在的代理型人工智能。NIM微服務(wù)和人工智能藍(lán)圖為PC開(kāi)發(fā)者和愛(ài)好者提供了探索人工智能魔力的構(gòu)建模塊?！?/p>

英偉達(dá)將發(fā)布由Black Forest Labs、Meta、Mistral和Stability AI等頂級(jí)模型開(kāi)發(fā)商為RTX AI PC 開(kāi)發(fā)的NIM微服務(wù)管道。用例涵蓋大型語(yǔ)言模型、視覺(jué)語(yǔ)言模型、圖像生成、語(yǔ)音、用于檢索增強(qiáng)生成的嵌入模型、PDF提取和計(jì)算機(jī)視覺(jué)。

Black Forest Labs首席執(zhí)行官Robin Rombach表示：“具有FP4算力的GeForce RTX 50系列GPU 將解鎖大量可在PC上運(yùn)行的模型，而這些模型以前僅限于大型數(shù)據(jù)中心。將FLUX打造為 NVIDIA NIM微服務(wù)可提高AI的部署速度，并讓更多用戶體驗(yàn)AI，同時(shí)提供令人難以置信的性能。”