上個(gè)月,英偉達(dá)的市值在一日之內(nèi)大幅蒸發(fā)6000億美元,背后的原因是部分投資者對(duì)這家人工智能芯片制造巨頭的未來(lái)前景心存憂慮。與此同時(shí),DeepSeek宣稱,其打造的人工智能系統(tǒng)僅使用了其他公司所用人工智能芯片的極小部分,成本也僅為其他公司的一小部分。
在周三,英偉達(dá)作出回應(yīng),表示盡管當(dāng)前增長(zhǎng)速度有所放緩,但外界的這些擔(dān)憂實(shí)則毫無(wú)必要。作為人工智能領(lǐng)域的領(lǐng)軍者,英偉達(dá)透露,在截至1月份的三個(gè)月里,得益于人工智能芯片的強(qiáng)勁購(gòu)買(mǎi)量,公司總收入同比增長(zhǎng)78%,達(dá)到393.3億美元,利潤(rùn)更是增長(zhǎng)80%,攀升至220.9億美元。
回顧前幾個(gè)季度,英偉達(dá)曾報(bào)告銷售額和利潤(rùn)實(shí)現(xiàn)了翻倍以上的增長(zhǎng)。然而,隨著銷售額和利潤(rùn)的不斷攀升,要維持如此高的增長(zhǎng)速度愈發(fā)艱難(對(duì)于像英偉達(dá)這樣的企業(yè)而言,在經(jīng)歷一段高速增長(zhǎng)期后,增長(zhǎng)率出現(xiàn)放緩是較為常見(jiàn)的現(xiàn)象,這一現(xiàn)象在經(jīng)濟(jì)學(xué)中被稱為大數(shù)定律)。
英偉達(dá)公布的季度業(yè)績(jī)遠(yuǎn)超華爾街分析師的預(yù)期,銷售額達(dá)到383.2億美元,利潤(rùn)為210.8億美元。該公司預(yù)計(jì)本季度營(yíng)收將同比增長(zhǎng)65%,達(dá)到430億美元,雖然增幅相較于上一季度有所下降,但仍比華爾街的預(yù)測(cè)高出約10億美元。
在周三股價(jià)上漲3.7%之后,英偉達(dá)在盤(pán)后交易中的股價(jià)幾乎保持平穩(wěn)。目前,英偉達(dá)依然穩(wěn)坐全球市值第二大上市公司的寶座,僅次于蘋(píng)果。
大型科技公司對(duì)人工智能數(shù)據(jù)中心的持續(xù)投入,為英偉達(dá)的業(yè)務(wù)發(fā)展注入了強(qiáng)大動(dòng)力。繼去年向新基礎(chǔ)設(shè)施投入數(shù)百億美元之后,亞馬遜、微軟、Alphabet和Meta紛紛表示,今年各自的投入將在650億至1000億美元甚至更多。
這些投入中的大部分資金將直接流向英偉達(dá)。據(jù)估算,英偉達(dá)掌控著為人工智能系統(tǒng)提供動(dòng)力的圖形處理單元(GPU)市場(chǎng)90%的份額。目前,英偉達(dá)正在推出一系列性能更為強(qiáng)大的人工智能芯片,名為Blackwell,其中一款標(biāo)志性芯片的售價(jià)在6萬(wàn)至7萬(wàn)美元之間。
自人工智能熱潮興起以來(lái),數(shù)據(jù)中心的建設(shè)熱潮究竟還能持續(xù)多久,一直是業(yè)界關(guān)注的焦點(diǎn)。DeepSeek打破了科技行業(yè)原有的共識(shí),即認(rèn)為公司若要構(gòu)建更大、更優(yōu)質(zhì)的人工智能系統(tǒng),就必須打造更大、更強(qiáng)的數(shù)據(jù)中心。這一觀點(diǎn)引發(fā)了市場(chǎng)對(duì)于各公司可能會(huì)削減對(duì)英偉達(dá)支出的擔(dān)憂。
不過(guò),市場(chǎng)隨后形成了新的共識(shí),即英偉達(dá)仍將持續(xù)受益。因?yàn)楦喙緦⒂心芰Τ袚?dān)開(kāi)發(fā) AI系統(tǒng)的費(fèi)用,AI業(yè)務(wù)領(lǐng)域的不斷拓展會(huì)為英偉達(dá)昂貴的芯片帶來(lái)更多客戶,而非像最初擔(dān)憂的那樣導(dǎo)致客戶數(shù)量減少。
英偉達(dá)表示,本季度數(shù)據(jù)中心收入(涵蓋芯片、電纜以及高性能計(jì)算的銷售)同比增長(zhǎng)93%,達(dá)到355.8億美元。
英偉達(dá)首席執(zhí)行官黃仁勛在周六獲得香港科技大學(xué)工程學(xué)榮譽(yù)博士學(xué)位后,在一次演講中向畢業(yè)生和學(xué)者表示,“人工智能時(shí)代已經(jīng)開(kāi)始”。
這位全球領(lǐng)先的人工智能芯片制造商的負(fù)責(zé)人與演員梁朝偉、諾貝爾化學(xué)獎(jiǎng)獲得者邁克爾·萊維特教授和菲爾茲獎(jiǎng)獲得者大衛(wèi)·曼福德教授一起領(lǐng)取了獎(jiǎng)項(xiàng)。
黃仁勛表示:“人工智能時(shí)代已經(jīng)開(kāi)始。這是一個(gè)將影響每個(gè)行業(yè)和每個(gè)科學(xué)領(lǐng)域的新計(jì)算時(shí)代。”
他表示,在發(fā)明圖形處理單元25年后,英偉達(dá)“重新發(fā)明了計(jì)算技術(shù)并引發(fā)了一場(chǎng)新的工業(yè)革命”。
“人工智能無(wú)疑是我們這個(gè)時(shí)代最重要的技術(shù),甚至可能是所有時(shí)代最重要的技術(shù)?!?/p>
黃仁勛還告訴畢業(yè)生,他希望自己能在這個(gè)時(shí)候開(kāi)始自己的職業(yè)生涯。
“整個(gè)世界都重新設(shè)定了,你和其他人一起站在起跑線上。一個(gè)行業(yè)正在被重新塑造,你現(xiàn)在擁有了推動(dòng)許多不同領(lǐng)域科學(xué)發(fā)展所必需的儀器。”
“我們這個(gè)時(shí)代面臨的最大挑戰(zhàn)、過(guò)去難以想象的挑戰(zhàn),突然間仿佛都能夠解決了。”
英偉達(dá)首席執(zhí)行官黃仁勛表示,英偉達(dá)正在加快三星AI內(nèi)存芯片的認(rèn)證。
黃仁勛在接受彭博采訪時(shí)表示,英偉達(dá)正在評(píng)估三星的8高和12高HBM3E芯片,旨在增強(qiáng)AI處理能力。
10月底,三星宣布向英偉達(dá)供應(yīng)這些先進(jìn)內(nèi)存芯片的進(jìn)展。在最近的財(cái)報(bào)電話會(huì)議上,黃仁勛并未明確提及三星是其主要合作伙伴之一。
黃仁勛在香港科技大學(xué)的一場(chǎng)活動(dòng)上對(duì)三星發(fā)表了上述評(píng)論。認(rèn)證過(guò)程是英偉達(dá)優(yōu)化其AI產(chǎn)品戰(zhàn)略的一部分。
英偉達(dá)最新進(jìn)展時(shí)間線
2024年11月22日盡管增長(zhǎng)放緩,但英偉達(dá)報(bào)告收入增長(zhǎng)94%
●英偉達(dá)第三季度營(yíng)收增長(zhǎng)94%至350.8億美元
●增速較第二季度收益增長(zhǎng)122%有所放緩
2024年11月21日盡管增長(zhǎng)放緩,但NVIDIA AI芯片需求依然強(qiáng)勁
●英偉達(dá)預(yù)計(jì)其收入增長(zhǎng)將創(chuàng)7個(gè)季度以來(lái)新低。
●數(shù)據(jù)中心擴(kuò)張,AI芯片需求依然強(qiáng)勁。
2024年11月19日由于Blackwell芯片延遲,英偉達(dá)銷售增長(zhǎng)放緩
●預(yù)計(jì)第三季度銷售額將增長(zhǎng)82.8%至331.3億美元
●Blackwell芯片的延遲可能會(huì)影響未來(lái)的增長(zhǎng)率
2024年11月19日英偉達(dá)與谷歌合作推進(jìn)量子計(jì)算技術(shù)
●英偉達(dá)與谷歌合作開(kāi)發(fā)量子技術(shù)
●Eos超級(jí)計(jì)算機(jī)助力量子組件設(shè)計(jì)
2024年11月8日英偉達(dá)估值達(dá)到3.65萬(wàn)億美元,超越蘋(píng)果的紀(jì)錄
●英偉達(dá)的估值達(dá)到3.65萬(wàn)億美元
●超越蘋(píng)果此前創(chuàng)下的3.57萬(wàn)億美元的紀(jì)錄
2024年11月4日黃仁勛要求SK Hynix加快新AI芯片的交付
●英偉達(dá)敦促SK Hynix加快HBM4供應(yīng)
●時(shí)間表提前六個(gè)月以滿足需求
英偉達(dá)推出了新的人工智能和模擬工具,將促進(jìn)機(jī)器人學(xué)習(xí)和人形機(jī)器人的發(fā)展。
這家全球估值最高的科技公司表示,這些工具將使機(jī)器人開(kāi)發(fā)者能夠加快在人工智能機(jī)器人方面的工作,本周,在德國(guó)慕尼黑舉行的機(jī)器人學(xué)習(xí)大會(huì)(CoRL)上英偉達(dá)發(fā)布了這些工具。
該陣容包括NVIDIA Isaac Lab機(jī)器人學(xué)習(xí)框架的普遍可用性;用于Project GR00T的六個(gè)新人形機(jī)器人學(xué)習(xí)工作流程,該項(xiàng)目旨在加速人形機(jī)器人開(kāi)發(fā);以及用于視頻數(shù)據(jù)管理和處理的新世界模型開(kāi)發(fā)工具,包括用于視頻處理的NVIDIA Cosmos標(biāo)記器和NVIDIA NeMo Curator。
開(kāi)源Cosmos標(biāo)記器通過(guò)將圖像和視頻分解為具有極高壓縮率的高質(zhì)量標(biāo)記,為機(jī)器人開(kāi)發(fā)人員提供了卓越的視覺(jué)標(biāo)記。它的運(yùn)行速度比當(dāng)前的標(biāo)記器快12倍,而NeMo Curator提供的視頻處理速度比未優(yōu)化的管道快7倍。
與CoRL同期,英偉達(dá)發(fā)布了23篇論文,舉辦了9場(chǎng)與機(jī)器人學(xué)習(xí)相關(guān)的研討會(huì),還發(fā)布了面向開(kāi)發(fā)者的培訓(xùn)和工作流程指南。此外,Hugging Face和英偉達(dá)宣布,正與LeRobot、NVIDIA Isaac Lab和NVIDIA Jetson合作,為開(kāi)發(fā)者社區(qū)加速開(kāi)源機(jī)器人研究。
NVIDIA Isaac Lab是一個(gè)基于NVIDIA Omniverse的開(kāi)源機(jī)器人學(xué)習(xí)框架,NVIDIA Omniverse是一個(gè)用于開(kāi)發(fā)用于工業(yè)數(shù)字化和物理AI模擬的OpenUSD應(yīng)用程序平臺(tái)。
開(kāi)發(fā)者可以使用Isaac Lab大規(guī)模訓(xùn)練機(jī)器人策略。這個(gè)開(kāi)源統(tǒng)一機(jī)器人學(xué)習(xí)框架適用于任何形態(tài)——從人形機(jī)器人到四足動(dòng)物和協(xié)作機(jī)器人——以處理日益復(fù)雜的動(dòng)作和交互。
全球領(lǐng)先的商業(yè)機(jī)器人制造商、機(jī)器人應(yīng)用開(kāi)發(fā)商和機(jī)器人研究實(shí)體正在采用Isaac Lab,其中包括1X、Agility Robotics、The AI Institute、Berkeley Humanoid、Boston Dynamics、Field AI、Fourier、Galbot、Mentee Robotics、Skild AI、Swiss-Mile、Unitree Robotics和小鵬機(jī)器人。
Nvidia具身AI高級(jí)研究經(jīng)理Jim Fan表示:“人形機(jī)器人是具身AI的下一波浪潮。英偉達(dá)研究和工程團(tuán)隊(duì)正與公司和開(kāi)發(fā)者生態(tài)系統(tǒng)合作,打造GR00T項(xiàng)目,以幫助推動(dòng)全球人形機(jī)器人開(kāi)發(fā)者的進(jìn)步和發(fā)展。”
據(jù)多份報(bào)道稱,英偉達(dá)多年來(lái)一直在開(kāi)發(fā)基于Arm的CPU和片上系統(tǒng)(SoC)設(shè)計(jì),但從未將其用于客戶端PC。據(jù)報(bào)道,這種情況將在2025年發(fā)生改變,因?yàn)檫@家人工智能巨頭將涉足競(jìng)爭(zhēng)激烈的客戶端PC領(lǐng)域,與AMD、英特爾以及高通展開(kāi)競(jìng)爭(zhēng)。英偉達(dá)可能會(huì)在新創(chuàng)建的“AI PC”環(huán)境中與使用為Windows和AI設(shè)計(jì)的CPU和GPU筆記本電腦展開(kāi)競(jìng)爭(zhēng)。
英偉達(dá)雄心勃勃的客戶端PC平臺(tái)路線圖既包括內(nèi)部開(kāi)發(fā)的平臺(tái),也包括與聯(lián)發(fā)科合作設(shè)計(jì)的平臺(tái)。據(jù)報(bào)道,英偉達(dá)準(zhǔn)備在2025年9月面向消費(fèi)者推出基于Arm的高端CPU和GPU平臺(tái),并于“2026年3月正式推出”。
供應(yīng)鏈專家表示,憑借英偉達(dá)在AI服務(wù)器市場(chǎng)和獨(dú)立PC GPU市場(chǎng)的主導(dǎo)地位,以及在Grace CPU和Tegra應(yīng)用處理器方面的經(jīng)驗(yàn),英偉達(dá)將在進(jìn)入客戶端PC市場(chǎng)方面占據(jù)強(qiáng)勢(shì)地位。
爭(zhēng)奪主流PC市場(chǎng)需要設(shè)計(jì)一款高端處理器,內(nèi)置類似于AMD、英特爾和高通提供的顯卡。鑒于英偉達(dá)在Tegra方面的專業(yè)知識(shí),這樣的片上系統(tǒng)對(duì)該公司來(lái)說(shuō)并非未知領(lǐng)域。不過(guò),該SoC至少在某些領(lǐng)域可能會(huì)與聯(lián)發(fā)科Windows PC Dimensity處理器競(jìng)爭(zhēng)。
路透社在一周前就此發(fā)表了一篇“獨(dú)家”報(bào)道,題為“英偉達(dá)將生產(chǎn)基于Arm的PC芯片,對(duì)英特爾構(gòu)成重大挑戰(zhàn)”。
路透社指出,“這家人工智能芯片巨頭的新舉措是微軟幫助芯片公司為Windows PC打造基于Arm的處理器計(jì)劃的一部分。根據(jù)IDC的第三季度初步數(shù)據(jù),微軟的計(jì)劃瞄準(zhǔn)了蘋(píng)果,自為其Mac電腦推出基于Arm的芯片以來(lái),蘋(píng)果的市場(chǎng)份額在三年內(nèi)幾乎翻了一番。
英偉達(dá)、AMD和高通的努力可能會(huì)撼動(dòng)英特爾長(zhǎng)期主導(dǎo)的PC行業(yè),但該行業(yè)正面臨來(lái)自蘋(píng)果越來(lái)越大的壓力。蘋(píng)果的定制芯片為Mac電腦提供了更長(zhǎng)的電池壽命和更快的性能,可與耗能更多的芯片相媲美。一位消息人士稱,微軟高管已經(jīng)觀察到蘋(píng)果基于Arm芯片的效能,包括AI處理,并希望達(dá)到類似的性能。
考慮到英偉達(dá)將加入道瓊斯工業(yè)平均指數(shù),取代競(jìng)爭(zhēng)對(duì)手芯片制造商英特爾,華爾街可能間接地站在了英偉達(dá)一邊。
由于蘋(píng)果和高通都將基于Arm的芯片瞄準(zhǔn)人工智能,因此英偉達(dá)在未來(lái)幾年決定進(jìn)入消費(fèi)者PC領(lǐng)域也是合情合理的。
當(dāng)?shù)貢r(shí)間11月1日,標(biāo)普道瓊斯指數(shù)公司于盤(pán)后發(fā)表聲明表示,英偉達(dá)將取代英特爾被納入道瓊斯工業(yè)平均指數(shù),該變動(dòng)將于11月8日正式生效。
今年以來(lái),伴隨人工智能熱潮在全球范圍內(nèi)的席卷,英偉達(dá)股價(jià)一路飆升。截至本周五收盤(pán),英偉達(dá)股價(jià)達(dá)到每股135.40美元,今年以來(lái)累計(jì)漲幅超過(guò)170%,市值高達(dá)3.32萬(wàn)億美元,在眾多公司中僅次于蘋(píng)果公司。而已經(jīng)被納入道指長(zhǎng)達(dá)25年的英特爾,其股價(jià)為每股23.20 美元,今年以來(lái)累計(jì)下跌幅度超過(guò)50%,市值縮水至990億美元。隨著英偉達(dá)的加入,在美國(guó)6家市值達(dá)到萬(wàn)億美元的科技公司當(dāng)中,有4家被納入道指,另外未被納入的兩家分別是谷歌母公司“字母表”以及臉書(shū)母公司Meta。
道瓊斯工業(yè)平均指數(shù)涵蓋30家企業(yè),其加權(quán)標(biāo)準(zhǔn)為個(gè)股股價(jià)而非公司總市值,這也就意味著價(jià)格較高的股票對(duì)指數(shù)的影響更大。早在今年5月,英偉達(dá)宣布將普通股按照 “1拆10” 的比例進(jìn)行拆股之時(shí),就有分析指出這家芯片巨頭有望被納入道瓊斯工業(yè)平均指數(shù)。
此外,依據(jù)標(biāo)普道瓊斯指數(shù)公司的聲明,此次與英偉達(dá)一同被納入道指的還有涂料制造商宣偉公司,該公司將取代陶氏公司。
英偉達(dá)推出的一項(xiàng)新控制服務(wù)可以讓開(kāi)發(fā)者從事涉及人形機(jī)器人的項(xiàng)目,并使用Apple Vision Pro進(jìn)行控制和監(jiān)控。
開(kāi)發(fā)人形機(jī)器人面臨諸多挑戰(zhàn),其中之一就是控制高科技設(shè)備。為了幫助解決這一問(wèn)題,英偉達(dá)提供了許多用于機(jī)器人模擬的工具,其中包括一些輔助控制的工具。
英偉達(dá)向各大機(jī)器人制造商和軟件開(kāi)發(fā)商提供的這套模型和平臺(tái)旨在幫助訓(xùn)練新一代人形機(jī)器人。
該工具集合包括英偉達(dá)所稱的NIM微服務(wù)和框架,用于模擬和學(xué)習(xí)。此外還有英偉達(dá)OSMO 編排服務(wù),用于處理多階段機(jī)器人工作負(fù)載以及支持AI和模擬的遠(yuǎn)程操作工作流程。
作為工作流程的一部分,頭顯和空間計(jì)算設(shè)備(如Vision Pro)不僅可以用來(lái)查看數(shù)據(jù),還可以控制硬件。
英偉達(dá)首席執(zhí)行官兼創(chuàng)始人黃仁勛表示:“人工智能的下一波浪潮是機(jī)器人技術(shù),而人形機(jī)器人是其中最令人興奮的發(fā)展之一。我們正在推進(jìn)整個(gè)英偉達(dá)機(jī)器人技術(shù)堆棧,為全球人形機(jī)器人開(kāi)發(fā)人員和公司開(kāi)放訪問(wèn)權(quán)限,以采用最適合需求的平臺(tái)、加速庫(kù)和人工智能模型。”
NIM微服務(wù)是使用英偉達(dá)推理軟件的預(yù)構(gòu)建容器,旨在縮短部署時(shí)間。其中兩個(gè)微服務(wù)旨在幫助開(kāi)發(fā)者在參考應(yīng)用程序英偉達(dá)Isaac SIM中實(shí)現(xiàn)生成式物理AI的模擬工作流程。
其中一個(gè)是MimicGen NIM微服務(wù),主要用于幫助用戶使用Vision Pro或其他空間計(jì)算設(shè)備控制硬件。其根據(jù)“記錄的遙控?cái)?shù)據(jù)”為機(jī)器人生成合成運(yùn)動(dòng)數(shù)據(jù),即將Vision Pro的動(dòng)作轉(zhuǎn)換為機(jī)器人的動(dòng)作。
視頻和圖像顯示,這不僅僅是根據(jù)頭顯移動(dòng)來(lái)移動(dòng)攝像頭。據(jù)顯示,基于Vision Pro的傳感器,手部動(dòng)作和手勢(shì)也會(huì)被記錄和使用。
實(shí)際上,用戶可以使用Vision Pro觀察機(jī)器人的動(dòng)作并直接控制手和手臂。
雖然此類人形機(jī)器人可以嘗試準(zhǔn)確模仿手勢(shì),但英偉達(dá)等系統(tǒng)可以推斷用戶想要做什么。由于用戶無(wú)法感知機(jī)器人所持物品的觸覺(jué)反饋,因此直接模仿手部動(dòng)作可能過(guò)于危險(xiǎn)。
Siggraph上展示的另一種遠(yuǎn)程操作工作流程也允許開(kāi)發(fā)者創(chuàng)建大量運(yùn)動(dòng)和感知數(shù)據(jù),所有這些都是通過(guò)人類遠(yuǎn)程捕獲的少量演示創(chuàng)建的。
在這些演示中,我們使用Vision Pro來(lái)捕捉人手的動(dòng)作,然后使用MimicGen NIM微服務(wù)和英偉達(dá)Isaac Sim來(lái)模擬記錄,從而生成合成數(shù)據(jù)集。
隨后,開(kāi)發(fā)人員使用真實(shí)數(shù)據(jù)和合成數(shù)據(jù)的組合來(lái)訓(xùn)練Project Groot人形模型,這一過(guò)程被認(rèn)為有助于首先減少創(chuàng)建數(shù)據(jù)的成本和時(shí)間。
機(jī)器人平臺(tái)制造商Fourier首席執(zhí)行官Alex Gu表示:“開(kāi)發(fā)人形機(jī)器人極其復(fù)雜——需要大量真實(shí)數(shù)據(jù),這些數(shù)據(jù)都是從現(xiàn)實(shí)世界中精心獲取的。英偉達(dá)的新模擬和生成AI開(kāi)發(fā)工具將有助于引導(dǎo)和加速我們的模型開(kāi)發(fā)工作流程?!?/p>
微服務(wù)以及模型訪問(wèn)、OSMO管理機(jī)器人服務(wù)和其他框架均由英偉達(dá)人形機(jī)器人開(kāi)發(fā)者計(jì)劃提供,該公司僅向人形軟件、硬件或機(jī)器人制造商提供訪問(wèn)權(quán)限。
曾為英特爾、AMD和特斯拉工作的芯片設(shè)計(jì)師Jim Keller正試圖通過(guò)設(shè)計(jì)比英偉達(dá)更高效的芯片來(lái)降低人工智能應(yīng)用的價(jià)格,以希望能夠搶占英偉達(dá)的部分市場(chǎng)份額。
Keller現(xiàn)為美國(guó)AI芯片設(shè)計(jì)初創(chuàng)公司Tenstorrent首席執(zhí)行官,他表示:“英偉達(dá)在很多市場(chǎng)上都未能做到很好的服務(wù)?!?/p>
Keller表示,隨著人工智能應(yīng)用擴(kuò)展到智能手機(jī)、電動(dòng)汽車(chē)和云服務(wù),越來(lái)越多的公司正在尋找更節(jié)省成本的解決方案,并補(bǔ)充,“很多小公司不愿意花20000美元”購(gòu)買(mǎi)英偉達(dá)的高端圖形處理器。
Keller在芯片設(shè)計(jì)圈以AMD Zen系列首席設(shè)計(jì)師而聞名,許多人認(rèn)為,AMD在2010年代后期努力跟上英特爾的步伐后,Zen系列為AMD的東山再起提供了支持;同時(shí)他也是開(kāi)發(fā)特斯拉自動(dòng)駕駛軟件Autopilot芯片組的領(lǐng)軍人物。
日本人工智能獨(dú)角獸公司Preferred Networks芯片設(shè)計(jì)主管Junichiro Makino表示:“Keller簡(jiǎn)直就是一個(gè)傳奇人物。”
Tenstorrent成立于2016 年,正準(zhǔn)備在今年年底推出其第二代多用途AI芯片。該公司表示,在某些領(lǐng)域,其能源和處理效率比英偉達(dá)的AI GPU更好。據(jù)Tenstorrent稱,其Galaxy系統(tǒng)比英偉達(dá)DGX(一種流行的AI服務(wù)器)效率高三倍,價(jià)格節(jié)省33%。
Keller表示,該公司不使用高帶寬內(nèi)存(HBM),這是一種流行的先進(jìn)內(nèi)存芯片,能夠快速傳輸大量數(shù)據(jù)。HBM是生成式AI芯片的重要組成部分,在英偉達(dá)產(chǎn)品中發(fā)揮了重要作用。
然而,HBM也是導(dǎo)致AI芯片能耗巨大、價(jià)格昂貴的罪魁禍?zhǔn)字弧?/p>
“HBM客戶也在為成本和設(shè)計(jì)時(shí)間而苦惱,”Keller指出,并補(bǔ)充了不使用該技術(shù)的決定。
在典型的AI芯片組中,每次執(zhí)行一個(gè)過(guò)程時(shí),GPU都會(huì)將數(shù)據(jù)發(fā)送到內(nèi)存,這需要HBM的高速數(shù)據(jù)傳輸能力。然而,Tenstorrent對(duì)其芯片進(jìn)行了專門(mén)設(shè)計(jì),以大幅減少此類傳輸。
Keller表示,通過(guò)這種新方法,公司芯片設(shè)計(jì)可在人工智能開(kāi)發(fā)的某些領(lǐng)域取代GPU和HBM。
該公司還在設(shè)計(jì)“盡可能節(jié)省成本”的產(chǎn)品,該領(lǐng)域的許多其他公司也在尋找更好的內(nèi)存解決方案,不過(guò),要顛覆“龐大”的現(xiàn)有HBM行業(yè)還需要數(shù)年時(shí)間。
Keller預(yù)測(cè),不止會(huì)有一家公司取代英偉達(dá),而是會(huì)有更多的新公司出現(xiàn),以填補(bǔ)英偉達(dá)尚未涉足的各種人工智能市場(chǎng)。
Tentorrent芯片的關(guān)鍵特性在于其一百多個(gè)核心中每個(gè)都配有小型CPU,即“大腦中的微型大腦”。
通常,單個(gè)芯片核心只有一個(gè)小型計(jì)算器和內(nèi)存,并且只負(fù)責(zé)解決單個(gè)給定任務(wù)。然而,Tenstorrent的核心將能夠自行“思考”,決定先處理哪些數(shù)據(jù),或者是否放棄某些不必要的任務(wù),從而提高整體效率。
該公司表示,由于每個(gè)核心都相對(duì)獨(dú)立,因此可以通過(guò)堆疊更多或更少的核心來(lái)適應(yīng)更廣泛的應(yīng)用。例如,少量核心就足以用于智能手機(jī)或可穿戴設(shè)備,而100個(gè)核心可以組合起來(lái)用于人工智能數(shù)據(jù)中心。
這種靈活性非常重要,因?yàn)殛P(guān)于人工智能如何開(kāi)發(fā)以及其用途的問(wèn)題仍有待商榷。
Keller表示,無(wú)法預(yù)測(cè)人工智能的最佳應(yīng)用是什么?!拔椰F(xiàn)在無(wú)法判斷芯片會(huì)變得更大還是更小。所以我們的策略是打造一種適合各種產(chǎn)品的技術(shù)?!?/p>