隨著人工智能（AI）管理需求日益迫切，螞蟻集團(tuán)、騰訊和百度與美國科技巨頭微軟、谷歌和Meta聯(lián)手開發(fā)了全球首個供應(yīng)鏈大型語言模型（LLM）安全國際標(biāo)準(zhǔn)。

上周五，在上海外灘包容性會議的一場邊會上，國內(nèi)科技公司與世界數(shù)字技術(shù)學(xué)院（WDTA）共同發(fā)布了“供應(yīng)鏈大型語言模型安全要求”。

這項新標(biāo)準(zhǔn)涵蓋了LLM的整個生命周期，是WDTA更廣泛的人工智能安全、信任和責(zé)任倡議的一部分。WDTA于2023年4月在日內(nèi)瓦根據(jù)聯(lián)合國框架成立，旨在提供全面的措施來管理整個供應(yīng)鏈的安全風(fēng)險，例如數(shù)據(jù)泄露、模型篡改和供應(yīng)商不合規(guī)。

該標(biāo)準(zhǔn)由中美兩國領(lǐng)先科技公司的專家以及云安全聯(lián)盟大中華區(qū)、新加坡南洋理工大學(xué)等頂尖學(xué)術(shù)和行業(yè)機(jī)構(gòu)起草和審查。

聯(lián)合國科技發(fā)展委員會主席、WDTA名譽(yù)主席彼得·梅杰在小組討論中表示：“隨著人工智能不斷發(fā)展并影響全球各個領(lǐng)域，人工智能相關(guān)標(biāo)準(zhǔn)的國際合作變得越來越重要?！?/p>

這項最新標(biāo)準(zhǔn)是繼兩項早期生成式人工智能（GenAI）標(biāo)準(zhǔn)之后推出的，這兩項標(biāo)準(zhǔn)也是中國和西方科技公司合作的成果?！渡墒饺斯ぶ悄軕?yīng)用安全測試和驗證標(biāo)準(zhǔn)》和《大型語言模型安全測試方法》于4月在WDTA活動上發(fā)布。

“目前，大型語言模型和其他新興技術(shù)存在很多模糊性和不確定性，這使得機(jī)構(gòu)、公司和政府難以決定什么才是有意義的標(biāo)準(zhǔn)，”微軟技術(shù)戰(zhàn)略師Lars Ruddigkeit在同一小組中表示，“對我來說，WDTA供應(yīng)鏈標(biāo)準(zhǔn)試圖讓這條通往安全未來的第一條道路走上正軌。”

隨著企業(yè)和個人越來越多地采用GenAI，科技公司呼吁采取措施確保該技術(shù)的安全。

2022年底ChatGPT發(fā)布之后，GenAI誕生之前，就已經(jīng)存在一些關(guān)于人工智能的國際標(biāo)準(zhǔn)和法規(guī)。

2021年，聯(lián)合國遺產(chǎn)機(jī)構(gòu)聯(lián)合國教科文組織提出了《關(guān)于人工智能倫理的建議》，目前已被193個成員國采納。

2022年至2023年間，總部位于日內(nèi)瓦的非政府組織國際標(biāo)準(zhǔn)化組織發(fā)布了有關(guān)系統(tǒng)管理、風(fēng)險管理和使用機(jī)器學(xué)習(xí)的系統(tǒng)的人工智能相關(guān)指南。

在美國，加州立法機(jī)構(gòu)預(yù)計將通過SB 1047，這是美國首批監(jiān)管人工智能系統(tǒng)的主要框架之一。