騰訊朱雀大模型檢測上線「鑒別工具」可鑒別圖片、文章是否由AI生成

　　1月17日，騰訊上線了一款AI生成圖片鑒別工具，旨在幫助人們辨別圖片是否由AI生成。

　　騰訊混元安全團隊的朱雀實驗室研發的AI生成圖片檢測系統，通過上傳圖片、等待驗證，幾秒鐘就能判斷圖片是否由AI生成。該系統主要通過捕捉真實圖片與AI生圖之間的差異來區分，如AI生圖有時不符合常識邏輯，會出現帶著翅膀飛的小狗、叼著雪茄的貓咪等不符合現實的內容;AI生成圖片需要“加水印”，即添加顯式或隱式標識，這些標識可能肉眼可見，也可能不明顯，需用檢測工具讀取;AI生成圖片還包含一些肉眼不可見的隱層特征，如調整HSV色彩空間后，AI生成的圖片會出現局部紋理密集分布的亮點等。

　　鑒別AI生成圖片不能僅依靠單一依據，檢測系統需利用AI模型捕捉各類特征差異，包括圖片的紋理、語義及隱形特征。朱雀實驗室使用了140萬份正負樣本進行模型訓練，涵蓋多種生成內容場景，最終測試檢出率達95%以上，且還在持續優化提升中。朱雀實驗室還開發了文本檢測系統，通過對海量數據學習實現文本檢測，背后也搜集了大量正負樣本進行訓練，并運用對比方式推斷文章的AI生成概率，以增強對未見過數據的檢測能力。目前，該系統涵蓋了新聞通訊、公文、小說、散文等多樣化文體，后續還將對詩歌等體裁進行補強。

　　朱雀實驗室開發AI檢測工具的初衷是優化混元大模型的訓練語料，但隨著AI的爆發式增長，學界和業界對“用AI檢測AI生成”的需求增多，實驗室便開發了AI生成圖片檢測、AI生成文本檢測兩款工具，并提供體驗服務。