IBM和AMD宣布合作在IBM Cloud上部署AMD Instinct MI300X加速器作為服務(wù)。該產(chǎn)品預(yù)計將于2025年上半年上市,旨在提高Gen AI模型(例如企業(yè)客戶的高性能計算應(yīng)用程序)的性能和能效。此次合作還將使IBM watsonx AI和數(shù)據(jù)平臺支持AMD Instinct MI300X加速器,以及Red Hat? Enterprise Linux? AI推理。
AMD執(zhí)行副總裁兼首席商務(wù)官Philip Guido表示:“隨著企業(yè)采用更大的AI模型和數(shù)據(jù)集,系統(tǒng)內(nèi)的加速器必須能夠以高性能和可擴(kuò)展性處理計算密集型工作負(fù)載,這一點至關(guān)重要。AMD Instinct加速器與AMD ROCm軟件相兼容,對包括IBM watsonx AI、Red Hat Enterprise Linux AI和Red Hat OpenShift AI在內(nèi)平臺提供了廣泛的支持,以使用這些強大的開放生態(tài)系統(tǒng)工具構(gòu)建領(lǐng)先的框架。我們與IBM Cloud 的合作旨在讓客戶能執(zhí)行和擴(kuò)展Gen AI推理,而不會影響成本、性能或效率?!?/p>
IBM Cloud總經(jīng)理Alan Peacock表示:“AMD和IBM Cloud有著共同的愿景,那就是將AI引入企業(yè)。我們致力于將AI的力量帶給企業(yè)客戶,幫助企業(yè)確定結(jié)果的優(yōu)先次序,并確保企業(yè)在部署AI時擁有選擇權(quán)。基于IBM Cloud AMD加速器將為我們的企業(yè)客戶提供另一種擴(kuò)展選項,以滿足企業(yè)AI需求,同時還旨在幫助優(yōu)化成本和性能?!?/p>
此外,IBM和AMD還合作在IBM Cloud上提供MI300X加速器服務(wù),以支持采用AI的企業(yè)客戶。為了幫助各行各業(yè)的企業(yè)客戶,IBM和AMD打算基于IBM Cloud的安全性和合規(guī)性功能。
對于生成式AI推理工作負(fù)載,IBM計劃在IBM watsonx AI和數(shù)據(jù)平臺中啟用對AMD Instinct MI300X加速器的支持,為watsonx客戶提供額外的AI基礎(chǔ)架構(gòu)資源,以便在混合云環(huán)境中擴(kuò)展AI工作負(fù)載。此外,Red Hat Enterprise Linux AI和Red Hat OpenShift AI平臺可使用 MI300X加速器上的InstructLab運行帶有對齊工具的Granite系列大型語言模型。