藝術之所以特別好，就因為在藝術里不能說謊。在戀愛里，在政治里，在醫(yī)療里，都能說謊，能夠騙人，甚至可以欺騙上帝——這樣的事情是有的；然而在藝術里卻沒有欺騙。

? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ???——俄國小說家,戲劇家 契訶夫

? 在AI圖像生成技術應用逐漸發(fā)展的當下，雖然對于單一圖像的人眼人工識別還并沒有什么太大難度，但是隨著技術的發(fā)展完善，沒有相應美術專業(yè)理論與實踐技術經(jīng)驗的人群想要有效識別AI生成圖像已經(jīng)開始顯得有些困難，尤其是現(xiàn)實圖像類的AI生成圖像，經(jīng)過人工的修正修改后，幾乎已經(jīng)難以被大眾所簡單識別——這給了謠言和詐騙一類犯罪愈加以高速有效的發(fā)展溫床。

? 但是如果把AI圖像識別交給AI來進行呢？（對付一輛坦克最好的方式就是造另外一輛坦克去對付它，簡而言之，要用魔法對付魔法）

? 與人眼人腦對于畫像的從大致輪廓到細部從整體色調(diào)到具體物品顏色的識別模式在原理方式上的不同，現(xiàn)今的圖像生成類AI（以主流擴散模型為例）從學習到生成都是基于圖像相鄰像素點的分布規(guī)律與關系來進行的，這就導致了一些AI圖像在經(jīng)過專業(yè)人士的修改與重繪后可能在絕大多數(shù)人眼里已經(jīng)無懈可擊——幾乎已經(jīng)難以發(fā)現(xiàn)任何可以確定是AI生成的破綻，但是在識別AI眼里這依舊是一張寫滿了“我是AI圖像”的漏洞與破綻百出的圖像罷了，甚至還寫上了是出自哪位賽博“大畫家”的手筆，StableDiffusion、Midjourney、DALL-E、BingImageCreator。

? 人類出于本能更多的時候一般以圖像內(nèi)容的合理性為依據(jù)，進而判斷一張圖是否是AI生成，這也是早期以及部分目前非專業(yè)人士判斷一張圖時，更多會從多出和缺少的肢體上，以及不符合常識和透視的背景和物品上著手的原因，在這些方面經(jīng)過AI的發(fā)展被很大程度上改善后，判斷點也進而轉至在瞳孔發(fā)梢服飾花紋，等細部的不合理上。

? 專業(yè)人士則會將注意力放在線條連續(xù)性，各種畫面節(jié)奏結構疏密，光影，人體結構，背景透視物體或人體的空間與穿插關系以及明暗交接面的處理和各種細節(jié)的末端處理精度上有哪些反直覺與不符合常理的地方。

? 而 AI 更多是從圖像的參數(shù)入手，比如像素的排列方式、清晰度、對比度等。這些觀察角度與精度是人類難以達到和根本不會去也無法去關注的地方。也因此即使是經(jīng)過了大規(guī)模人工重繪，鑒別AI依舊能夠判斷出該圖像中是否使用了AI生成技術。

? 下面我就針對目前市面上比較主流使用的Web端在線識別AI圖像生成的網(wǎng)站工具進行列舉與介紹。

1·Hive moderation

https://hivemoderation.com/ai-generated-content-detection/?demo=image

? Hive是目前市場中準確率最高的，在媒體的測試中是一眾識別鑒定AI中唯一一個拿下100%通過率的識別AI，在我的實際使用體驗中也確實是目前識別準確率最高的，但是100%顯然是樣本量太小導致的夸大其詞了，但是90-95%的準確率個人體感上還是有的。

? 同時Hive有提供AI文本鑒定，因為有最小的字數(shù)篇幅限制，所以我并沒有進行太多的測試，至少英語文本的檢測率還行。

Hive同時能夠為用戶提供一整套的AI檢測的商業(yè)方案

2·A.I or Not

https://www.aiornot.com/#home

? 個人體驗是個針對性很強的AI，對于二次元類圖像與部分重繪加工過后的圖像檢測準確率不算出眾，但是針對Midjourney生成的圖片具有較高的識別度，特別是風格偏向寫實的圖像

3·Sensity

https://sensity.ai/

? 需要付費使用，不過經(jīng)過注冊后可以免費使用7天。從介紹來看與其它AI的不同在于還能針對GAN網(wǎng)絡生成的換臉等圖像視頻進行檢測，同時它與Hive類似能夠提供給用戶和相關公司一整套的AI生成檢測商業(yè)解決方案。在媒體測試在中規(guī)中矩，實際準確率不明。（或許你可以V我50來讓我試試它，我絕對不是為了什么瘋狂星期四，什么KFC。）

4·illuminarty

? 各方面中規(guī)中矩的檢測AI，優(yōu)點的話，優(yōu)點可能就是界面簡潔，使用起來很方便吧（啊？）

? 之所以介紹好幾個檢測AI其實還有一個作用就是交叉檢測，以避免誤判的可能性。同時我個人是極不推薦只以一張圖片的鑒定結果就斷論這張圖的作者使用了AI，至少也要有大于10張以上的該圖作者的作品能夠用于檢測，才能得出一個相對可信的結果。這個我覺得完全不是難事——AI發(fā)布者基本上不可能只在自己的相關平臺上只發(fā)布幾張作品。這時候可能有人會說：“俺手頭里就這幾張圖俺也不知道是誰發(fā)在哪兒的圖??？更不用說找到更多同一人發(fā)布的圖了”

? 搜圖的話我比較推薦Yandex，這個俄羅斯的搜索引擎目前在以圖搜圖能力方面非常強（https://yandex.com）

? 要注意，識別AI并非能夠每次都能完全準確的識別出圖像是否為AI生成。但是如果一名畫師的復數(shù)畫作中大部分畫作都被檢測為AI生成，那么從概率學上來講，基本就可以判定為該創(chuàng)作者在創(chuàng)作過程中使用了AI——通過第三者的被動檢測，而非大大方方的主動在介紹與標題或者tag里就寫出。

開發(fā)側的措施

? 實際上對于自身產(chǎn)品被濫用與惡意使用的情況，人工智能的相關開發(fā)公司也深受其擾，Adobe的Firefly之所以是以云端模式部署，除了對盜版的遏制和減輕客戶端的硬件壓力的考慮外，很大程度上也是為了杜絕自身的產(chǎn)品產(chǎn)物被應用與非法或可能引起爭議與非法事件之中，列如NSFW類的圖像制作。(NSFW?(無比較級). 〈網(wǎng)〉 不適宜工作場所（"Not Safe (or Suitable) For Work;"），即包含成人影像或圖片，可能會冒犯到雇主或同事。)

[BBC：利用生成式AI生成大量兒童相關性虐待及性相關圖像產(chǎn)物進行大量傳播和販賣的嚴重問題。{https://www-bbc-com.translate.goog/news/uk-65932372?_x_tr_sl=auto&_x_tr_tl=ja&_x_tr_hl=ja&_x_tr_pto=wapp}其中點明了以利用Stable Diffusion生成的所謂“2.5D”(實際上是pixiv明令禁止的寫實風格)兒童相關的性圖像及產(chǎn)品在Pixiv上進行傳播與販賣的行為大量存在的現(xiàn)實情況]

? 為了遏制這種非法犯罪利用的傾向，Stable Diffusion的開發(fā)公司Stability AI.宣布將會在后續(xù)升級開發(fā)的模型產(chǎn)品中加入針對此類行為的限制，同時今年6月由馬里蘭大學攻讀計算機科學博士的Yuxin Wen向Stability AI.提出了一種在生成圖像中嵌入難以被各種手段消除的肉眼不可見的數(shù)字水印用于實現(xiàn)對使用者歸屬信息的追蹤技術——「Tree-Ring Watermarks(年輪水印)」

并發(fā)表了相關技術論文。

[2305.20030] Tree-Ring Watermarks: Fingerprints for Diffusion Images that are Invisible and Robust

https://arxiv.org/abs/2305.20030

? Tree-Ring Watermarks的原理是在圖像生成過程中將傅里葉變換生成“信息密鑰”合并到隨機噪聲數(shù)組（即初始值）中，這個“密鑰”在經(jīng)過標準的生成過程將隨機噪聲轉換為清晰圖像后，仍然以微小的潛在布局變化的形式存在，即使人工進行檢查，也無法將其與其他隨機生成的圖像區(qū)分開來。

? 通過在擴散模型中反向處理帶有鍵的圖像，可以恢復原始的隨機噪聲，并確認鍵的存在與否。由于鍵是在傅里葉空間中刻錄的模式，因此有研究團隊目前對該技術進行了驗證測試，發(fā)現(xiàn)變換圖像分辨度對電子水印的影響幾乎可以忽略不計，而相比現(xiàn)有的其它方法，它對于裁剪、顏色變更、翻轉、旋轉和添加噪聲等編輯操作更為堅固可靠。

目前該技術已經(jīng)可以通過API接口與現(xiàn)有的生成式圖像人工智能模型進行直接組合調(diào)用。

GitHub - YuxinWenRick/tree-ring-watermark
https://github.com/YuxinWenRick/tree-ring-watermark

? 實際上針對規(guī)制AI圖像生成技術的研究早在去年10月之前就已經(jīng)有不少研究開展與成果發(fā)表，例如防止AI學習的圖像處理與加密技術，破壞i2i生成的圖像處理技術等。

? 只是顯然AI以打破一切法律倫理道德底線束縛為代價的野蠻生長的速度與趨勢讓所有人都措手不及。

關于針對AI圖像生成的規(guī)制遏制規(guī)范技術目前的技術方法研究進度和相關介紹，我會在之后再單獨寫一篇專欄來專門介紹

? 在年初就有芝加哥大學的研究小組攜手藝術家社區(qū)正式推出了人類歷史上第一個防止AI學習圖像的免費技術軟件Glaze，盡管效果差強人意，但也標志著這種以后必然長期大規(guī)模存在的攻防拉鋸戰(zhàn)正式打響。

你憎恨被別人欺騙嗎？那就不要去欺騙別人。

? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ——古羅馬傳教者 克里索斯托