在科技界目光聚焦的2025北京智源大會開幕式上，蒙特利爾大學(xué)教授、圖靈獎得主約書亞?本吉奧（Yoshua Bengio）帶來了令人矚目的觀點(diǎn)。他在主旨演講中明確指出，AI的規(guī)劃能力正以驚人的指數(shù)級速度提升。依據(jù)當(dāng)前的研究曲線進(jìn)行嚴(yán)謹(jǐn)推測，在大約5年的時間跨度內(nèi)，AI的規(guī)劃能力有望達(dá)到人類水平。?

本吉奧坦言，在ChatGPT發(fā)布后，他深刻地意識到自己嚴(yán)重低估了AI的發(fā)展速度。這一認(rèn)知的轉(zhuǎn)變促使他徹底調(diào)整研究方向，全力投入到降低AI失控風(fēng)險的研究工作中。他強(qiáng)調(diào)，人們不能僅僅著眼于當(dāng)下AI的發(fā)展?fàn)顟B(tài)，更應(yīng)具有前瞻性，深入思考AI在未來1年、3年、5年甚至10年后可能達(dá)到的發(fā)展高度。?

“我們已經(jīng)見證了能夠熟練掌握語言、順利通過各類測試的機(jī)器誕生，這在幾年前聽起來猶如科幻小說中的情節(jié)，如今卻已成為現(xiàn)實(shí)?！北炯獖W表示。而且，當(dāng)前AI的能力邊界正在不斷拓展，已經(jīng)展現(xiàn)出復(fù)雜推理、自主性，甚至欺騙行為等特征。這一系列現(xiàn)象無疑為人類敲響了警鐘，AI的發(fā)展已經(jīng)到了一個需要高度重視風(fēng)險管控的階段。?

為了有效應(yīng)對AI可能帶來的風(fēng)險，本吉奧提出了一系列具有建設(shè)性的策略。他呼吁運(yùn)用先進(jìn)技術(shù)對AI的使用進(jìn)行嚴(yán)格驗證，確保其在運(yùn)行過程中遵循人類設(shè)定的道德指令。同時，他創(chuàng)新性地提出了“科學(xué)家AI”的概念，致力于構(gòu)建一種完全非通用的、基于解釋能力的AI。他希望這類AI能夠?qū)Ｗ⒂诮忉屖澜纾皇沁^度干預(yù)世界。此外，本吉奧還提議讓這類AI在安全架構(gòu)中充當(dāng)“守護(hù)者AI”的角色，對其他更具主動性的AI系統(tǒng)進(jìn)行外部監(jiān)督，以此來保障整個AI生態(tài)系統(tǒng)的安全性和穩(wěn)定性。?

在全球合作層面，本吉奧認(rèn)為，唯一能讓不同國家攜手合作，共同應(yīng)對AI風(fēng)險的有效途徑，是讓各國政府，尤其是美國和中國，充分認(rèn)識到AI可能引發(fā)的真正災(zāi)難性后果。例如，人類對AI失去控制，或者恐怖分子利用AI實(shí)施惡意行為等。他呼吁全球各國在技術(shù)監(jiān)管和政治層面展開深度合作，共同為AI的發(fā)展制定合理的規(guī)則和框架，確保AI始終服務(wù)于人類的利益，推動人類社會的進(jìn)步與發(fā)展。