生成式AI筆記本電腦和PC正推動游戲、內(nèi)容創(chuàng)作、生產(chǎn)力和開發(fā)的進(jìn)步。如今，全球已有超過600款Windows應(yīng)用和游戲在超過1億臺GeForce RTX AI PC上本地運(yùn)行AI，以提供快速可靠且低延遲的性能。

在Microsoft Ignite大會上，英偉達(dá)和微軟發(fā)布了助力Windows開發(fā)者在RTX AI PC上快速構(gòu)建和優(yōu)化AI應(yīng)用的工具，讓本地AI更加易于訪問。這些新工具使應(yīng)用和游戲開發(fā)者能夠基于強(qiáng)大的RTX GPU來加速AI代理、應(yīng)用助手和數(shù)字角色等應(yīng)用的復(fù)雜AI工作流程。

NVIDIA ACE是一套數(shù)字人類技術(shù)，可讓代理、助手和虛擬化身栩栩如生。為了實(shí)現(xiàn)更高層次的理解，以便以更強(qiáng)的情境意識做出反應(yīng)，數(shù)字角色必須能夠像人類一樣以視覺方式感知世界。

要增強(qiáng)數(shù)字角色的互動，使其更加真實(shí)，就需要一種更細(xì)致感知和理解周圍環(huán)境的技術(shù)。為了實(shí)現(xiàn)這一目標(biāo)，英偉達(dá)開發(fā)了多模式小型語言模型，該模型可處理文本和圖像，擅長角色扮演，并針對快速響應(yīng)時間進(jìn)行了優(yōu)化。

即將推出的NVIDIA Nemovision-4B-Instruct模型使用最新NVIDIA VILA和NVIDIA NeMo框架進(jìn)行提煉、修剪和量化，使其變得足夠小，從而可在RTX GPU上以開發(fā)者所需的精度運(yùn)行。

該模型使數(shù)字角色能理解現(xiàn)實(shí)世界和屏幕上的視覺圖像，從而做出相關(guān)反應(yīng)。多模態(tài)性是代理工作流程的基礎(chǔ)，并讓我們看到了數(shù)字角色在用戶最少協(xié)助下推理和采取行動的未來。

不僅如此，英偉達(dá)還將推出Mistral NeMo Minitron 128k Instruct系列，這是一套專為優(yōu)化、高效的數(shù)字人機(jī)交互而設(shè)計(jì)的大語境小語言模型。該系列模型有8B、4B和2B參數(shù)版本，可在RTX AI PC上提供靈活的選項(xiàng)，以平衡速度、內(nèi)存使用量和準(zhǔn)確性；模型可一次性處理大型數(shù)據(jù)集，無需進(jìn)行數(shù)據(jù)分割和重組；模型采用GGUF格式構(gòu)建，可提高低功耗設(shè)備的效率，并支持與多種編程語言的兼容性。