OpenAI添加了一個新工具來檢測圖像是否基于DALL-E AI圖像生成器制作，以及新的水印方法以更清晰標(biāo)記生成的內(nèi)容。

OpenAI在一篇博文中宣布，已開始開發(fā)新的來源方法來追蹤內(nèi)容以證明是否由人工智能生成；其中包括一個新的圖像檢測分類器，基于人工智能機(jī)制來確定照片是否為AI生成，以及一個防篡改水印，可應(yīng)用于不可見的信號標(biāo)記音頻等內(nèi)容。

該分類器可預(yù)測圖片是否由DALL-E 3創(chuàng)建。OpenAI聲稱，即使圖像被裁剪或壓縮或飽和度發(fā)生變化，分類器也能運(yùn)行；雖然該工具可檢測圖像是否基于DALL-E 3制作，且準(zhǔn)確率約為98%，但在判斷內(nèi)容是否來自其他AI模型方面并不那么靈敏，僅標(biāo)記出來自其他圖像生成器（如Midjourney）5%到10%的圖片。

OpenAI之前將內(nèi)容憑證添加到內(nèi)容來源和權(quán)威聯(lián)盟（C2PA）圖像元數(shù)據(jù)中，內(nèi)容憑證本質(zhì)上是水印，其中包含有關(guān)圖像所有者及其創(chuàng)建圖像的信息。OpenAI與微軟和Adobe等公司都是C2PA的成員，本月，OpenAI也加入了C2PA指導(dǎo)委員會。

不僅如此，這家人工智能公司還開始在基于語音引擎的視頻片段中添加水印，該文本轉(zhuǎn)語音平臺目前處于有限預(yù)覽狀態(tài)。

另外，圖像分類器和音頻水印信號仍在完善中，OpenAI表示，將根據(jù)用戶反饋來測試有效性。研究人員和非營利新聞團(tuán)體可以通過將圖像檢測分類器應(yīng)用到OpenAI研究訪問平臺以測試。

OpenAI多年來一直致力于檢測人工智能生成的內(nèi)容。然而，在2023年，其不得不終止一個試圖識別AI書寫文本的項目，因為AI文本分類器的準(zhǔn)確度始終較低。