騰訊官方稱，雖然 AI 生成的圖像在細(xì)節(jié)紋理上越來越逼真，但依然有跡可循，朱雀實驗室研發(fā)了一款 AI 生成圖片檢測系統(tǒng)，將圖片上傳 —— 等待驗證 —— 判斷是否由 AI 生成，整個過程只有幾秒鐘，就能用魔法打敗魔法 —— 用 AI“檢測”AI 生成。
究其背后的檢測邏輯，主要是捕捉真實圖片與 AI 生圖之間的差異來進(jìn)行區(qū)分，例如 AI 生圖有時不符合常識邏輯、AI 生成圖片需要“加水印”、AI 生成圖片包含隱層特征。
騰訊指出，鑒別 AI 生成往往不能依靠單一依據(jù)。因此，AI 生成圖片檢測系統(tǒng)需要利用 AI 模型來捕捉真實圖片與 AI 生圖之間各類特征的差異，包括圖片的紋理、語義及隱形特征。
為了提升系統(tǒng)的檢測效果，其使用了 140 萬份正負(fù)樣本進(jìn)行模型訓(xùn)練，考慮了多種生成內(nèi)容場景，如人體、人像、風(fēng)景、地標(biāo)、植物、電影、游戲、新聞等，最終測試檢出率達(dá) 95% 以上，還在持續(xù)優(yōu)化提升中。
