首先來看下面兩張圖片，你猜猜哪張圖片是真實(shí)的人臉，哪個(gè)圖片是人工智能（AI）生成的？

想好了嗎？

答案是，左邊這個(gè)是AI生成的，而右邊的圖片是真實(shí)的人臉。

再看看下面的圖片，你還能分辨哪些是AI生成的嗎？

結(jié)論是，以上這些照片都是AI生成的。

AI生成的人臉能夠起到隱私保護(hù)的作用，避免在一些情況下的真人出鏡，但是現(xiàn)在這個(gè)技術(shù)已經(jīng)被玩壞了。

3月中旬，烏克蘭總統(tǒng)Volodymyr Zelenskiy的一分鐘視頻首先出現(xiàn)在社交媒體上，后來出現(xiàn)在烏克蘭新聞網(wǎng)站上。在其中，Zelenskiy告訴烏克蘭士兵放下武器，向俄羅斯軍隊(duì)投降。但視頻被證明是假的，是由機(jī)器學(xué)習(xí)創(chuàng)造的。

這個(gè)技術(shù)的副作用似乎也蔓延到了學(xué)術(shù)界。一些科學(xué)家現(xiàn)在擔(dān)心，類似的技術(shù)可能會通過創(chuàng)建虛假的光譜或生物標(biāo)本圖像來進(jìn)行研究欺詐。

微生物學(xué)家兼科學(xué)誠信專家Elisabeth Bik說：“我一直非常擔(dān)心這些類型的技術(shù)。我認(rèn)為這已經(jīng)發(fā)生了，創(chuàng)建假圖像并發(fā)表它們。”她幫助發(fā)現(xiàn)的600多項(xiàng)完全捏造的研究中的圖像可能來自同一家論文工廠，可能是人工智能生成的。

與手動操作的圖像不同，人工智能生成的圖像幾乎不可能通過眼睛檢測到。在一項(xiàng)未經(jīng)同行評審的案例研究中，由中國廈門大學(xué)計(jì)算機(jī)科學(xué)家俞容山領(lǐng)導(dǎo)的團(tuán)隊(duì)創(chuàng)建了一系列深度偽造（deepfake）的免疫印跡和癌癥圖像。三分之二的生物醫(yī)學(xué)專家無法將他們與真實(shí)圖片區(qū)分開來。

俞容山說，問題是深度偽造圖像是獨(dú)一無二的。它們沒有顯示人們通常尋找的痕跡，例如，重復(fù)的元素和背景不一致。此外，俞說，“深度偽造和其他工具現(xiàn)在非常成熟”?！斑@不是火箭科學(xué)，你不需要人工智能領(lǐng)域的頂尖專家來使用它們?！?/span>

Deepfakes通常基于生成對抗網(wǎng)絡(luò)（Gan），其中生成器和鑒別器相互競爭。美國羅切斯特理工學(xué)院的deepfake技術(shù)研究員John Sohrawardi解釋說：“一個(gè)網(wǎng)絡(luò)試圖從白噪聲中生成假圖像，比如說一張臉。”“它最初不知道如何生成人臉，所以它需要鑒別器的幫助，這是一個(gè)學(xué)習(xí)如何區(qū)分圖像是真還是假的網(wǎng)絡(luò)?！?span style="color: #ab1942;">最終，生成器會愚弄鑒別者，使其認(rèn)為其圖像是真實(shí)的。

美國加州大學(xué)伯克利分校專門研究數(shù)字取證和錯(cuò)誤信息的Hany Farid說，鑒于Gans可以合成與真實(shí)面孔別無二致的面孔，“我認(rèn)為它能生成這些類型的相當(dāng)普通的生物圖像不應(yīng)該令人震驚?！钡?，雖然deepfakes是一個(gè)需要認(rèn)真對待的威脅，但“我更關(guān)心的是可復(fù)制性、黑客攻擊、P值篡改、Photoshop操縱，我懷疑這些老套的東西在相當(dāng)長的一段時(shí)間內(nèi)仍然會占主導(dǎo)地位。”

▲這些食道癌圖像是深度偽造的，是由生成式對抗網(wǎng)絡(luò)創(chuàng)建的

羅切斯特全球網(wǎng)絡(luò)安全研究所所長Matthew Wright表示同意?！拔抑皇怯X得這沒有特別具有威脅性，盡管從技術(shù)上講，這非?？赡埽铱赡芎茈y檢測到是否有人這樣做?！?/span>

Farid解釋說，機(jī)器學(xué)習(xí)留下的數(shù)字人工制品可用于識別假圖像，盡管欺詐者通常在短短幾個(gè)月后就找到了繞過這些方法的方法。Farid說：“歸根結(jié)底，唯一真正的解決方案是主動的，在記錄時(shí)使用硬加密進(jìn)行身份驗(yàn)證?！彼J(rèn)為，科學(xué)的自我糾正機(jī)制最終將處理虛假研究。

▲實(shí)際和偽造的光譜圖片，你能分清嗎？

余容山說，目前還不清楚文獻(xiàn)是否已經(jīng)包含人工智能生成的圖像。Bik說：“我認(rèn)為我們已經(jīng)到了不能再分辨文章是真的還是假的地步?！彼ㄗh：“我們需要更努力地與機(jī)構(gòu)合作，讓他們承擔(dān)部分責(zé)任，并消除研究人員的壓力，他們的整個(gè)職業(yè)生涯可能取決于在國際期刊上發(fā)表文章?！?/span>