Lambda推出“推理即服務(wù)”API,宣稱成本為人工智能行業(yè)最低

?? 由 文心大模型 生成的文章摘要

Lambda是一家成立12年的舊金山公司,以向機(jī)器學(xué)習(xí)研究人員以及AI模型構(gòu)建者和訓(xùn)練人員按需提供圖形處理單元(GPU)而聞名。

如今,該公司推出了Lambda Inference API (應(yīng)用程序編程接口),將其產(chǎn)品更進(jìn)一步,該公司聲稱這是市場上同類服務(wù)中成本最低的。該API允許企業(yè)將AI模型和應(yīng)用程序部署到最終用戶的生產(chǎn)中,而無需擔(dān)心采購或維護(hù)計(jì)算。

此次發(fā)布補(bǔ)充了Lambda目前專注于提供用于訓(xùn)練和微調(diào)機(jī)器學(xué)習(xí)模型的GPU集群的重點(diǎn)。

Lambda營收副總裁Robert Brooks表示:“我們的平臺(tái)完全垂直化,這意味著與OpenAI等其他供應(yīng)商相比,我們可以為最終用戶節(jié)省大量成本。此外,沒有任何速率限制會(huì)阻礙擴(kuò)展,無需與銷售人員交談即可開始使用?!?/p>

事實(shí)上,正如Robert所描述,開發(fā)者可前往Lambda新推理API網(wǎng)頁,生成API密鑰,并在不到五分鐘的時(shí)間內(nèi)開始使用。

Lambda推理API支持Meta Llama 3.3和3.1、Nous Hermes-3和阿里通義千問2.5等前沿模型。對(duì)于較小的模型(例如Llama-3.2-3B-Instruct),起價(jià)為每百萬個(gè)代幣0.02美元,而對(duì)于較大的、最先進(jìn)的模型(例如Llama 3.1-405B-Instruct),則最高價(jià)格為每百萬個(gè)代幣0.90美元。

正如Lambda聯(lián)合創(chuàng)始人兼首席執(zhí)行官Stephen Balaban所說,“開始使用Lambda進(jìn)行LLM推理吧。”Balaban發(fā)布了一張圖表,顯示了其與該領(lǐng)域競爭對(duì)手相比,通過推理提供AI模型的每代幣成本。

此外,與許多其他服務(wù)不同,Lambda即用即付模式確??蛻糁恍铻槭褂玫拇鷰鸥顿M(fèi),從而無需訂閱或限速計(jì)劃。

「93913原創(chuàng)內(nèi)容,轉(zhuǎn)載請(qǐng)注明出處」