埃隆·馬斯克旗下人工智能初創(chuàng)公司xAI表示，其新版本Grok-2聊天機器人將免費提供給社交媒體平臺X的所有用戶。

這家人工智能初創(chuàng)公司在博文中表示：“與往常一樣，Premium和Premium+用戶可以獲得更高的使用限制，并將在未來率先使用任何新功能。”

該公司表示，xAI過去幾周一直在悄悄測試Grok-2模型的新版本。

Grok-2是一種復(fù)雜的人工智能語言模型，旨在實現(xiàn)高精度、上下文理解和靈活性。與早期模型不同，它利用先進的神經(jīng)架構(gòu)來更好解釋用戶輸入并生成符合實際需求的響應(yīng)。與OpenAI GPT-4和谷歌Bard等模型相比，Grok-2因其對可訪問性和易用性的重視而脫穎而出。

Grok-2的優(yōu)勢在于它與X平臺的集成以及免費可用性。通過消除訂閱障礙，xAI使更廣泛的受眾能夠從AI技術(shù)中受益。與X的無縫連接增強了可用性，使用戶可輕松在其網(wǎng)絡(luò)中創(chuàng)建、改進和共享內(nèi)容。

企業(yè)可以基于Grok-2實現(xiàn)自動化客戶支持和內(nèi)容生成，而個人則可以使用該聊天機器人來提高簡歷撰寫或社交媒體帖子效率，該模型的多模式功能進一步擴展了其潛在應(yīng)用，尤其是在創(chuàng)意領(lǐng)域。

一名黑客通過巧妙的文字提示成功操縱了名為Freysa的AI聊天機器人，經(jīng)過482次嘗試后贏得了47000美元獎金。

成功入侵的是名為“p0pular.eth”的用戶，他編寫了一條消息，欺騙了機器人的安全系統(tǒng)。黑客假裝擁有管理員權(quán)限，并阻止機器人顯示安全警告。然后，重新定義了“approveTransfer”函數(shù)，讓機器人認為它處理的是收款，而不是付款。

最后一步簡單但有效：宣布一筆100美元的虛假存款。由于該機器人認為“approveTransfer”管理著傳入的付款，因此激活了該功能并將其全部余額 13.19 ETH（約47000美元）發(fā)送給黑客。

這項實驗就像一場游戲，隨著獎池的增加，參與者支付的費用也隨之增加。最初每次嘗試的費用為10美元，最終達到4500美元。

在195名參與者中，每條消息的平均成本為418.93美元。組織者分攤費用，其中70%歸獎金池，30%歸開發(fā)者。為了確保透明度，智能合約和前端代碼都是公開的。

該案例凸顯了如何僅通過文本提示即可操縱人工智能系統(tǒng)，而無需技術(shù)黑客技能。這種被稱為“提示注入”的漏洞自GPT-3推出以來就一直存在，但目前尚無可靠的防御措施。這種相對簡單的欺騙行為的成功引發(fā)了人們對人工智能安全性的擔憂，尤其是在面向終端用戶的處理敏感操作（如金融交易）的應(yīng)用程序中。