
在高性能計算的早期,彼時的各大科技公司都投入巨資開發(fā)閉源版Unix。但最終,開源Linux 還是流行起來了——最初是因為它支持開發(fā)者隨意修改代碼,而且價格更實惠,隨著時間的推移,它變得更加先進、更加安全,并且擁有比任何閉源Unix都支持更多功能的更廣泛的生態(tài)系統(tǒng)。如今,Linux是云計算和運行大多數移動設備操作系統(tǒng)的行業(yè)標準基礎——我們都因此受益于卓越的產品。
我相信人工智能也會以類似的方式發(fā)展。今天,幾家科技公司正在開發(fā)領先的封閉模型,但開源正在迅速縮小差距。去年,Llama 2僅與落后的上一代模型性能相當。今年,Llama 3與最先進的模型相媲美,并在某些領域處于領先地位。從明年開始,我們預計未來的Llama模型將成為業(yè)內最先進的模型。但Llama已經在開放性、可修改性和成本效益方面處于領先地位。
今天,我們正朝著開源AI成為行業(yè)標準的目標邁進。我們發(fā)布了第一個前沿級開源AI模型 Llama 3.1 405B,以及全新改進的Llama 3.1 70B和8B模型。除了相對于封閉模型具有顯著更好的成本/性能之外,405B模型是開放的這一事實將使其成為微調和提煉較小模型的最佳選擇。
除了發(fā)布這些模型,我們還與一系列公司合作,以發(fā)展更廣泛的生態(tài)系統(tǒng)。亞馬遜、Databricks 和英偉達正在推出全套服務,以支持開發(fā)者微調和提煉模型。Groq等創(chuàng)新者為所有新模型構建了低延遲、低成本的推理服務。這些模型將在所有主要云平臺上提供,包括AWS、Azure、Google、Oracle等。Scale.AI、戴爾、德勤等公司已準備好幫助企業(yè)采用Llama并使用數據訓練自定義模型。隨著社區(qū)的發(fā)展和更多公司開發(fā)新服務,我們可以共同使Llama成為行業(yè)標準,并將AI的好處帶給每個人。
為什么開源AI對開發(fā)者有利
每個組織都有不同的需求,最好使用不同大小的模型來滿足這些需求,這些模型是根據其特定數據進行訓練或微調的。設備上的任務和分類任務需要小型模型,而更復雜的任務則需要更大的模型?,F在,你將能夠采用最先進的Llama模型,繼續(xù)基于原有數據進行訓練,然后將它們提煉成最佳大小的模型。
開源使擁有兼容工具鏈的廣泛公司生態(tài)系統(tǒng)成為可能,人們普遍認為,開源軟件往往更安全,因為它的開發(fā)更加透明。
我們需要一個高效且運行成本低廉的模型。開發(fā)者可以在基礎設施上對Llama 3.1 405B進行推理,成本約為使用GPT-4o等封閉模型的50%。
我們希望投資于將成為長期標準的生態(tài)系統(tǒng)。許多人認為開源的發(fā)展速度比封閉模式更快,并希望在能夠帶來長期最大優(yōu)勢的架構上構建系統(tǒng)。
為什么開源人工智能對 Meta 有利
Meta的商業(yè)模式是為人們打造最佳體驗和服務。要做到這一點,我們必須確保我們始終能夠采用最佳技術,并且不會陷入競爭對手的封閉生態(tài)系統(tǒng)。
很明顯,如果我們能夠構建我們產品的最佳版本,而競爭對手無法限制我們能夠構建的內容,那么Meta和許多其他公司將可以為人們構建更好的服務。這是我如此堅信為下一代計算構建開放的AI和AR/VR生態(tài)系統(tǒng)的主要原因。
人們經常問我是否擔心開源Llama會放棄技術優(yōu)勢,但我認為這忽略了大局,原因如下:
首先,為了確保我們能夠使用最好的技術,并且不會長期被困在封閉的生態(tài)系統(tǒng)中,Llama需要發(fā)展成為一個完整的生態(tài)系統(tǒng),包括工具、效率改進、芯片優(yōu)化和其他集成。如果我們是唯一一家使用Llama的公司,那么這個生態(tài)系統(tǒng)就不會發(fā)展,我們的境況也不會比封閉的 Unix好。
其次,我預計人工智能開發(fā)將繼續(xù)保持高度競爭,這意味著開源任何給定模型并不會失去當時相對于下一個最佳模型的巨大優(yōu)勢。Llama成為行業(yè)標準的道路是一代又一代保持競爭力、高效和開放。
第三,Meta與封閉模型供應商之間的一個關鍵區(qū)別是,出售AI模型訪問權限不是我們的商業(yè)模式。這意味著公開發(fā)布Llama不會像封閉供應商那樣削弱我們的收入、可持續(xù)性或投資研究。
最后,Meta擁有悠久的開源項目和成功歷史。我們通過開放計算項目發(fā)布我們的服務器、網絡和數據中心設計,并讓供應鏈在我們的設計上實現標準化,從而節(jié)省了數十億美元。我們通過開源領先的工具(如PyTorch、React等)從生態(tài)系統(tǒng)的創(chuàng)新中受益匪淺。只要我們長期堅持,這種方法就會一直對我們有效。








