最近，有人宣稱，要在蘇州的金雞湖上開游艇趴，報名費 3000 塊，每名參加者都會配備 " 隨身女仆一名 "。

(相關資料圖)

舉辦者還附上了部分女仆的照片，看著很頂，但也很奇怪，因為有幾位 " 女仆 " 的手指扭曲得不合常理。

后來事兒鬧大了，警方介入，才發(fā)現(xiàn)這些女仆照片，居然全都是用 AI 生成的。

而諸如此類利用 AI 以假亂真的例子，在過去的一年里可謂屢見不鮮，一再刷新著我們對 " 真實 " 這兩個字的認知。

你所愛戀的，都是幻象

今年 2 月，海外多家媒體發(fā)文，稱付費色情平臺 OnlyFans 可能會在不遠的未來，被 AI 創(chuàng)造的色圖所沖垮。

媒體說這話的原因，是因為在推特平臺上，有一個名叫 "heartereum 的 " 用戶上傳了數(shù)張由 AI 所生成的美女圖片。

乍看上去，圖里的小姐姐們與真人別無二致。

只有仔細觀察，你才能發(fā)現(xiàn)她們身上的一處處 " 不協(xié)調 "，然后才意識到這些辣妹，其實都只是精致的 " 人類模仿品 "。

雖然人是假的，但色卻是真的，就像下面這哥們所說的那樣：

不過 OnlyFans 的從業(yè)者倒是不擔心會被 AI 模特搶走工作，平臺知名艷星 Laura Lux 表示，她賺錢的點不僅是裸露，還在于與粉絲的親密互動，這一點，AI 是無法勝任的。

在幾乎同一時間節(jié)點，國內的網(wǎng)絡上也出現(xiàn)了一套由 AI 生成的小姐姐 Cosplay 圖。因其過于逼真，而被 B 站的審核直接分類進了 " 仿妝 Cos 區(qū) "。

Ai 生成的 cosplay 照，角色是《明日方舟》里的緘默德克薩斯，創(chuàng)造者：勘云工造

這事兒充滿一種 " 齊馬藍式 " 的科幻寓言感：

人類用 PS 修圖，努力將自己的面容 P 到完美，而 AI 卻努力去模仿真人臉上的復雜與瑕疵，最后二者實現(xiàn)了某種動態(tài)平衡。

男生也可以 ，創(chuàng)造者：海辛 Hyacinth

創(chuàng)造這套圖的，是國內的博主 " 勘云工造 "。在他的微博時間線上，技術的迭代似乎每隔幾天就會出現(xiàn)一次。

當漂亮的寫真可以被人工智能愈發(fā)完美地一次次復現(xiàn)時，你可能就無法意識到，小紅書上那個名叫 " 愛旅游的小多 " 的美女博主，其實只是一個由 AI 所締造的存在。

德國的 ColorDigital，已經(jīng)開始組建自己的 " 數(shù)字模特營銷團隊 "，用被生成的、身材完美的 AI 模特，來給各種潮牌做宣傳。

A I 生成的

而要說 AI 合成圖像最近最狠的一次應用，那還得看 Youtube 博主 Kyle Vorbach —— 這哥們決定在社交媒體上，利用 AI 偽造出自己一個月的全部生活。

最開始，他只是在 Instagram 上生成了一張自己從未拍過的自拍照。

AI 合成的

然后，Instagram 上的照片變成了小哥穿上了萬圣節(jié)的服裝；變成了他前往了紐約街頭，見到了自己的好友 —— 當然，這一切都是假的。

然而，它們卻成功騙過了小哥的朋友們。他們以為他真在紐約，有人甚至都準備打掃屋子迎接他了。

之后，小哥開始讓 AI 去完成它更多的幻想：他成了成功人士，搬到了紐約，和自己的愛犬住進了漂亮的公寓，在街頭偶遇名人……

AI 合成 的

在千萬次的訓練下，AI 創(chuàng)造出了一條完全平行的時空線，在那些真的可怕的合成照片里，小哥甚至開始覺得，機器所合成的他，似乎就是真正的他。

諸如此類的案例，正變得越來越多，而許多本不該被擊穿的 " 真實底線 "，也開始遇到了數(shù)字虛擬的全面刺破 —— 有人開始用 AI 生成的作品沽名釣譽，甚至開始搞數(shù)字詐騙。

你所看見的，都是虛假

從去年 10 月開始，Instagram 上火了一個叫 Jos Avery 的攝影師。

這個 Jos，以其精湛的人像攝影，在短時間內征服了 3 萬多名粉絲。

并且，面對攝影新人的請教，Jos 還貼心地指導他們：" 我這張照片，是用尼康 D810 拍的，用的是 24-70 毫米的鏡頭。"

然而在一段時間后，Jos 本人實在忍不住，向 Ars Technica 的記者坦言：" 其實我根本就不是什么攝影師，這些人像都是我用 AI 生成出來的。"

這不禁讓人想起國內最近有個知名的畫師，因被曝出用 AI 繪畫而塌房，讓許多模仿他作畫的萌新失去了繼續(xù)畫下去的動力，也讓許多網(wǎng)民開始了一場賽博獵巫 —— 逼畫師們自證在繪畫中沒用過人工智能輔助。

與之類似，當人類的容貌，可以被機器在短時間內創(chuàng)造出成百上千張，就會有像 Informa Systems 這樣的企業(yè)，用生成的臉孔創(chuàng)造假的員工，讓公司看上去有一個人數(shù)眾多的專業(yè)團隊。

同一時刻，F(xiàn)acebook 的母公司在去年底表示，在它們 2022 年的取締活動中，有三分之二的違禁賬戶，用的頭像是 AI 生成的。

這并不讓人感到意外，因為在 2022 年的一篇論文里，研究者發(fā)現(xiàn)有 3 成到 5 成的美國人，根本就無法在真實臉孔和用 DeepFake 所生成的虛擬臉孔間做區(qū)分。

所以在 TikTok 上，由 AI 合成的明星整活兒類視頻遍地都是，難辨真假，比如下面的這個基努里維斯：

對于騙子來說，DeepFake 實在是一件的趁手的工具。

去年 8 月，有個詐騙團隊就利用 DeepFake，偽造出一張數(shù)字貨幣公司高管的臉。騙子將這張假臉套在自己的面部，然后通過在線聊天軟件 Zoom，去和那些項目團隊的成員開會，讓他們以為自己正在和大公司的負責人對接。"

被 " 偷臉 " 的這位高管表示，這群騙子的技術很厲害 :" 他們唯一沒模仿出來的，就是我在疫情期間胖出來的那 15 磅。"

不止面孔，像 Midjourney 這樣的圖像生成 AI，甚至會影響你對這個世界的認知。

譬如去年 9 月 26 日，東京時間凌晨 4 點 39 分，有一名家住東京的推特用戶，發(fā)了三張靜岡縣遭遇水災后的慘狀。

該貼被迅速轉發(fā)，許多網(wǎng)友又是震驚不已又是要籌措捐款。

結果在推文發(fā)出 11 小時后，原作者道歉，稱靜岡發(fā)水災是真的，但災情圖片卻是他用 AI 做出來的。他也知道撒謊不好，但就是舍不得海量的推特轉發(fā)和點贊。

無獨有偶，在今年 2 月初的土耳其敘利亞大地震后，也有人在網(wǎng)上用一張 " 地震現(xiàn)場的救援圖 " 來號召愛心人士們捐款，結果立刻就被眼尖的網(wǎng)友扒出來，說這圖上的人有六根手指，應該是用 Midjourney 做出來的。

而當被 AI 生成的圖像，配合上同樣被 AI 生成的音頻與文字時，那你所理解的一切真實，就將會迎來一場徹底的崩塌。

你所相信的，都在崩塌

在以假亂真這個層面，AI 合成的音頻絲毫不遜色于圖像。

上個月， ElevenLabs 發(fā)布了自家的語音合成平臺，原本是幫助電影和游戲配音，結果很快就被網(wǎng)友們拿來合成 " 比爾蓋茨稱新冠疫苗會造成艾滋病 "，以及 " 艾瑪沃特森大聲朗讀《我的奮斗》"。

而早在去年 12 月，中國臺灣的刑事局就已經(jīng)破獲了一起 AI 語音詐騙案。

騙子先以 5 萬新臺幣的價格從科技公司購入詐騙電話的 AI 模組，然后在 8 個月的時間里群發(fā)上百萬次，賺了 2700 萬新臺幣的贓款。

而當 AI 合成視頻加上了 AI 合成音頻，你便能在社交媒體上刷到埃隆馬斯克在鏡頭前懺悔自己吸毒過量，知名電臺主持人喬羅根（Joe Rogan）教觀眾如何去亞馬遜購買他推薦的壯陽藥。

在算法的加持與混淆下，那個 " 將名人的話語奉為真理 " 的時代正在離我們遠去。

這還沒完。

前些日子，ChatGPT 正好在情人節(jié)前后大火，加拿大反欺詐中心便趁此機會警告世人：未來操縱感情殺豬盤的，很可能就是這些聰明的聊天 AI。

而安全公司 McaFee 的研究則表明，10 個人里有 7 個都會把 AI 生成的情書，當成是真人所撰寫的甜言蜜語。

與此同時，美國知名科幻雜志《克拉克世界》被迫暫停投稿渠道，只因他們在短短一個月內，接到了 500 多篇由 AI 所生成的小說稿件。

" 目前已關閉稿 件提交，原因不難猜出 "by 克拉克世界

歐洲執(zhí)法組織去年 9 月預言：" 到 2026 年，全網(wǎng)有多達 90% 的在線內容可能是合成生成的。媒體將大多由人工智能生成與操縱。"

當然，為了防止以后互聯(lián)網(wǎng)上 " 無內容可信 "，各國也想出了相應的對策 —— 利用一套專門用來打假的 AI。

像韓國就聲稱將在 2 月的月底，用 AI 來輔助偵破電信詐騙案，而創(chuàng)造了 ChatGPT 的 OpenAI，最近剛研究出了一個專門鑒別 ChatGPT 的 AI。

這就讓以后的互聯(lián)網(wǎng)，變得越來越像一個 AI 神仙打架的地方了，變成了一個巨型的類生成對抗網(wǎng)絡，而所謂的真假，不過是用來證明哪方 AI 更強的一個標準。

況且，根據(jù)去年 12 月安永發(fā)布的一篇文章，許多用來訓練 AI 的數(shù)據(jù)，本身也都是虛構出來的。

像現(xiàn)在一些頂尖的汽車公司，就用隨機生成出來的模擬路況來訓練自動駕駛，而藥企則用千萬個用隨機數(shù)據(jù)做出的病歷，來進行非物質層面的臨床實驗。

相對于參考真實的案例去開發(fā)，AI 生成確實節(jié)省了大量的成本，也能將許多罕見的極端情況考慮在內。

模擬 駕駛環(huán)境

而我們也因此終于，走進了那片被《黑客帝國》稱為 " 真實的荒漠 " 的地方。

在那個地方，真實被 AI 托管，網(wǎng)絡上的種種欺詐，像一個個被精心策劃的真相，沒有真與假，只有神經(jīng)網(wǎng)絡與復雜的算法。

來源：X 博士