8月1日下午，國(guó)家互聯(lián)網(wǎng)信息辦公室、國(guó)家發(fā)展和改革委員會(huì)、工業(yè)和信息化部、公安部四部門聯(lián)合發(fā)布了一項(xiàng)針對(duì)面向公眾的大模型的新規(guī)，旨在進(jìn)一步規(guī)范人工智能技術(shù)的應(yīng)用，保障公眾權(quán)益和社會(huì)安全。新規(guī)要求，所有面向公眾的大模型在上線前必須通過“三級(jí)等保+紅隊(duì)+水印”三道嚴(yán)格的安全關(guān)卡。

其中，“三級(jí)等保”是指信息系統(tǒng)安全等級(jí)保護(hù)的第三級(jí)，要求系統(tǒng)能在統(tǒng)一安全策略下防護(hù)免受來(lái)自外部有組織的團(tuán)體、擁有較為豐富資源的威脅源發(fā)起的惡意攻擊，以及較為嚴(yán)重的自然災(zāi)難，保障系統(tǒng)持續(xù)運(yùn)行。“紅隊(duì)”測(cè)試則模擬真實(shí)的網(wǎng)絡(luò)攻擊場(chǎng)景，由專業(yè)團(tuán)隊(duì)對(duì)大模型進(jìn)行全方位的滲透測(cè)試，以檢驗(yàn)其在面對(duì)各種惡意攻擊時(shí)的安全性和穩(wěn)定性?！八　奔夹g(shù)則是在大模型生成的內(nèi)容中嵌入不可見的標(biāo)識(shí)，以便在出現(xiàn)問題時(shí)能夠追溯內(nèi)容來(lái)源。

新規(guī)還對(duì)大模型的內(nèi)容質(zhì)量提出了明確量化標(biāo)準(zhǔn)，要求幻覺率、偏見率、違法內(nèi)容率分別不得高于2%、1%、0.1%。幻覺率過高可能導(dǎo)致大模型生成虛假或誤導(dǎo)性信息，偏見率則反映了模型在數(shù)據(jù)訓(xùn)練過程中可能產(chǎn)生的對(duì)特定群體的不公平偏向，而違法內(nèi)容率的嚴(yán)格限制旨在確保大模型不會(huì)傳播任何違反法律法規(guī)的信息。

對(duì)于未通過評(píng)估的服務(wù)，新規(guī)明確將采取強(qiáng)制下架措施，并對(duì)相關(guān)責(zé)任主體處以1000萬(wàn)元的頂格罰款。這一嚴(yán)厲處罰旨在促使企業(yè)高度重視大模型的安全和質(zhì)量問題，切實(shí)履行社會(huì)責(zé)任。

該新規(guī)將于10月1日正式開始執(zhí)行，留給相關(guān)企業(yè)和機(jī)構(gòu)一定的時(shí)間進(jìn)行自查和整改，以確保符合新的監(jiān)管要求。隨著人工智能技術(shù)在日常生活和工作中的廣泛應(yīng)用，此次新規(guī)的發(fā)布被視為對(duì)行業(yè)健康發(fā)展的重要引導(dǎo)，有助于提升公眾對(duì)大模型技術(shù)的信任度，同時(shí)也為行業(yè)樹立了清晰的規(guī)范和標(biāo)準(zhǔn)。