知名主播Atrioc不幸成為了首個因AI社死的公眾人物。

事故發(fā)生在2023年1月，Atrioc正如往常般直播，一些觀眾卻發(fā)現(xiàn)了異樣：他的網(wǎng)頁瀏覽器，似乎打開了某種特定類型的網(wǎng)站。

閑的蛋疼的網(wǎng)友順藤摸瓜，很快挖掘出了Atrioc的小秘密——他在偷偷觀看以知名女主播為主角的色情片。

但這些小電影其實是用AI偽造的，本人不僅沒出演，更不知情。這種足以以假亂真的AI產(chǎn)物，通常被稱為DeepFakes（深度偽造）。

事發(fā)時，Atrioc才結(jié)婚不到半年，而其中一部AI成人片的“主角”又是他曾經(jīng)的同事，一下從直播事故上升到了道德作風(fēng)問題。敗露后，Atrioc淚眼汪汪地解釋說，“病態(tài)的好奇心”驅(qū)使他犯了個全天下男人都會犯的錯。

Atrioc在妻子陪同下公開道歉 

每當(dāng)談及AI，許多政客專家總會不自覺聯(lián)想起電影《終結(jié)者》的畫面，圍繞“AI是否會毀滅人類”而爭論不休。今年6月，位列“深度學(xué)習(xí)三巨頭”的楊立昆與約書亞·本吉奧，甚至圍繞這一話題辦了場電視辯論。

顯然，這些學(xué)術(shù)精英都大大高估了這顆星球的精神文明建設(shè)水平。

Atrioc和DeepFakes的故事似乎預(yù)示著，AI正在以一種人們都未曾想到的方式，悄悄重塑著這個社會。

不久前，俄羅斯就出現(xiàn)了離奇的一幕：6月5日，俄羅斯電視臺播放了普京的戒嚴(yán)講話。沒過多久，電視信號便被掐斷，因為這段內(nèi)容其實是用AI偽造的——黑客攻破了電視臺的網(wǎng)絡(luò)系統(tǒng)，并向全國發(fā)送了“假普京”的聲音。

而在2022年，烏克蘭也發(fā)生過類似的事情：一個AI生成的澤連斯基，要求烏克蘭前線部隊投降。

俄羅斯網(wǎng)友拍下的“AI普京”講話 

從色情片到現(xiàn)代戰(zhàn)爭，AI正在動搖我們對現(xiàn)實世界的認(rèn)知。

而這一切混亂的起點，始于一場酒吧里的互噴。

2014年夏天，一處酒吧內(nèi)，20多個醉醺醺的技術(shù)宅正吵鬧個不停。其中最鬧騰的，是一個名叫伊恩·古德費洛（Ian Goodfellow）的年輕人。

當(dāng)時，古德費洛正在攻讀博士，師從深度學(xué)習(xí)大神約書亞·本吉奧。聽聞好友被谷歌招募，一行人便決定去酒吧慶祝一番。沒成想幾杯啤酒下肚，技術(shù)宅們醉意上頭，便開始對前沿技術(shù)指點起江山。

當(dāng)時，谷歌正試圖教會AI“畫畫”。它的方法是，將照片“數(shù)據(jù)化”，讓機器學(xué)習(xí)數(shù)據(jù)，再根據(jù)數(shù)據(jù)輸出圖像。舉個例子，如果想讓機器學(xué)會畫貓，先人工測算每張“貓片”像素的亮度、頻率以及分布等數(shù)據(jù)，再讓機器去學(xué)習(xí)、輸出。

這一過程有點像是先給機器劃好重點，再讓它去考試。

古德費洛認(rèn)為，這種解決方案簡直蠢到家了，并當(dāng)場想了個替代方案——GAN（生成對抗網(wǎng)絡(luò)）。

伊恩·古德費洛 

GAN由兩個神經(jīng)網(wǎng)絡(luò)組成：一個是類似谷歌原本方案的生成模型，但省去了數(shù)據(jù)化的步驟；第二個是判別模型，負(fù)責(zé)判定生成模型的輸出結(jié)果是否合格。

換句話說，GAN相當(dāng)于去掉了“考前劃重點”的步驟，讓機器全程自學(xué)；同時，為了防止機器“學(xué)廢了”，GAN給機器請了個監(jiān)考老師，帶著機器反復(fù)考試直到合格為止。

古德費洛講完想法后，遭到了同伴一致嘲笑。他事后承認(rèn)，如果當(dāng)時少干兩瓶，自己也不會認(rèn)為GAN能成。

然而，酒勁上頭的古德費洛可顧不上這些，聲稱當(dāng)晚就把GAN做出來，狠狠打臉。

熬夜爆肝數(shù)小時之后，古德費洛被嚇到了：GAN居然真的有戲。

相關(guān)論文的發(fā)表后，GAN迅速成為焦點。2016年底，楊立昆在公開演講聲稱，“GAN是過去20年深度學(xué)習(xí)領(lǐng)域最酷的想法。”

古德費洛設(shè)計的GAN，最初只能生成模糊的縮略圖，并沒什么實用價值。但在GAN走紅之后，全球各大研究機構(gòu)興起了“改造GAN”運動，相關(guān)論文指數(shù)級增長，性能開始突飛猛進。

2017年，英偉達(dá)芬蘭實驗室成功制作出了“強化版”GAN，不僅能夠生成逼真的圖像，甚至還能替換視頻中的人臉。

“改造GAN”運動 

GAN的光速蛻變，點燃了全球科研人員的熱情。但就在此時，它失控了。

人們常說，科技進步有兩個源動力：一個來自戰(zhàn)爭，另一個則來自下半身。

英偉達(dá)實驗室打造出新版GAN的2017年，一系列特殊視頻開始在Reddit論壇上廣泛傳播。視頻內(nèi)容均是真槍實彈的18+小電影，演員卻是大眾所熟知的明星，包括泰勒·斯威夫特和蓋爾·加朵。

上述少兒不宜內(nèi)容，均由一個名叫“deepfakes”的用戶所創(chuàng)造：他使用GAN的技術(shù)，將明星的臉無縫移植到了女優(yōu)老師身上。

英國女星Daisy Ridley的“臉”被濫用之后 

不久后，他創(chuàng)建了一個Reddit板塊，專門用于交流AI成人片心得，人們開始用他的名字“DeepFakes（深度偽造）”來稱呼那些AI偽造品。

Reddit最終封禁了該板塊，但潘多拉魔盒已徹底打開。

篡改圖像、視頻，其實不算新鮮事兒，使用Photoshop等工具也能實現(xiàn)；但GAN的強大之處在于，能夠極度簡化篡改的過程，并實現(xiàn)大批量生產(chǎn)。

不久后，有人利用GAN制作了一個網(wǎng)頁工具，能“脫掉”照片中女性的衣服（只對女性適用）。一位記者發(fā)現(xiàn)該網(wǎng)站后，撰文狠狠批判了一番。

結(jié)果文章發(fā)布當(dāng)月，該網(wǎng)站訪問量突破50萬次，服務(wù)器擠到宕機。

皮肉生意的技術(shù)宅突然看到了商機：

一家公司宣稱，給他們250張照片和2天的訓(xùn)練時間，便能定制成人片，起步價2.99美元，童叟無欺。同一時間，多家專注DeepFakes小黃片的成人網(wǎng)站拔地而起，希望能彎道超車那個由黑、黃色塊組成的P姓網(wǎng)站。

網(wǎng)絡(luò)安全公司Deeptrace統(tǒng)計的數(shù)據(jù)顯示，截止到2019年，市面上已經(jīng)出現(xiàn)了14678個DeepFakes視頻，其中96%都是色情內(nèi)容，播放量已超過了1.34億次。這些“偽造成人片”的主角，100%都是女性，涉及名人數(shù)量超過了100位，并有近10萬人為相關(guān)內(nèi)容付費[6]。

作為生成式AI里程碑的GAN，無意間造就了一場針對女性的“意淫狂歡”——也不怪當(dāng)時的媒體會發(fā)出如下感慨：“We Are Truly Fucked（我們都完了）[7]。”

然而，DeepFakes輸了，末日似乎并沒有來臨。

直到今天，P姓學(xué)習(xí)網(wǎng)站雖不再一家獨大，但依舊是最懂人類XP系統(tǒng)的地方；而打破壟斷的，不是一連串DeepFakes色情網(wǎng)站，而是OnlyFans。

2021年，OnlyFans的年收入近10億美元，一躍成為英國近些年發(fā)展速度最快的“科技公司”[8]；而據(jù)媒體爆料，P站母公司MindGeek的業(yè)績高光時刻，也不過4.6億美元[9]。

OnlyFans是個主打付費訂閱的成人網(wǎng)站，它的破圈始于推特、Ins等社交媒體。穿著衣服的18+創(chuàng)作者，通過社交媒體積累大量粉絲，再將其引導(dǎo)至OnlyFans上；在這里，粉絲只需花費幾頓飯錢，就能看到“皇帝的新衣”版本。

2019年，OnlyFans的活躍創(chuàng)作者大約有6萬人。兩年后，這個數(shù)字超過了150萬，平臺月活也發(fā)生了指數(shù)級增長[10]。

OnlyFans網(wǎng)紅Laura Lux 

人們?yōu)楹螚壓Ａ棵赓M“學(xué)習(xí)資源”于不顧，轉(zhuǎn)而花錢去看裸體呢？一個公認(rèn)的說法是，普羅大眾已經(jīng)漸漸厭倦了P站的套路。

P站上的小電影，大多都是精美但套路化的流水線式表演，只有機械的有氧運動。相比之下，OnlyFans作為一個UGC平臺，玩的是真實。

雖然拍攝手法業(yè)余，但觀眾相信，視頻中的男歡女愛并非逢場作戲，雙方確實從中獲得了快樂，這種情緒共鳴往往能打動更多人。

OnlyFans網(wǎng)紅Laura Lux在推特上表示，“人們可以輕易找到各種裸體圖片，但那么多人訂閱我的頻道，是因為他們只想看我的大胸。”

因此，當(dāng)知名科技博主預(yù)測，AI生成內(nèi)容會在2025年取代一半頂級OnlyFans創(chuàng)作者時，不出意外遭到了群嘲。

該博主使用的配圖，由AI繪制 

其中一位18禁網(wǎng)紅，更專門寫了一篇雄文以批評他的觀點。文章被連線雜志所收錄，核心論點便是AI提供不了人類的親密感。“粉絲們與我有一種情感上的聯(lián)系，這種聯(lián)系超越了性的吸引力，而是一種類似人性的東西[11]。”

OnlyFans大步向前的同時，AI也發(fā)生了翻天覆地的變化。

在圖像領(lǐng)域，新的開源算法stable Diffusion（穩(wěn)定擴散模型）橫空出世。它的生成效率雖不及GAN，但質(zhì)量更高，且支持文生圖。

以此為基石，一個魔改版的Unstable Diffusion出現(xiàn)了——它是一個專門生成NSFW（Not Safe For Work）內(nèi)容的工具。該工具的開發(fā)者招募了一批志愿者，專門收集各種少兒不宜的內(nèi)容喂給AI。

開發(fā)者透露，僅Unstable Diffusion上線的頭兩個月，已經(jīng)生成了約437萬張色圖[13]。年底，Unstable Diffusion發(fā)起眾籌，目標(biāo)2.5萬美元，很快便籌了5.6萬美元，被眾籌平臺緊急喊停。

眾籌失敗令不少老司機扼腕嘆息。但僅憑原版stable Diffusion，依舊能做出OnlyFans網(wǎng)紅的平替。

2023年初，Reddit用戶“LegalBeagle1966”覺得自己戀愛了。這位大哥在論壇中發(fā)現(xiàn)了一位名叫克勞蒂亞的黑發(fā)美女，對方會經(jīng)常會發(fā)布各種自拍照，而他每次都會留下諸如“非常性感”“完美”之類評論。

有一天，克勞蒂亞突然分享了自己的裸照，然后便從論壇上消失了。

Reddit用戶的夢中情人克勞蒂亞 

事后這位大哥才知道，“克勞蒂亞”其實是一個低俗社會實驗：兩個計算機專業(yè)的學(xué)生，想看看AI美女能否騙到人。他們往stable Diffusion中輸入了“素顏”“黑發(fā)”“齊肩長發(fā)”等關(guān)鍵詞，創(chuàng)造了這么一個不存在的女孩[14]。

GAN興起那幾年，DeepFakes僅僅停留在圖像偽造和視頻換臉；如今，隨著多模態(tài)大模型陸續(xù)取得突破，理論上AI已經(jīng)足以“憑空創(chuàng)造一個人類”。

例如，Meta最新的語音AI Voicebox，僅需要短短數(shù)秒樣本，就能“復(fù)制”出相同的聲音，還能讓該聲音講6種不同的外語。

AI不僅能滿足人們對“完美異性”的幻想，還能做到更多。

2020年，正在慶祝40歲生日的金·卡戴珊收到了一個特殊的禮物——“AI父親”。她的父親羅伯特去世于2003年。不過，她的丈夫偷偷收集了近千張羅伯特的照片，利用AI生成了一段視頻，短暫地“復(fù)活”了他。

而在奧地利，一位神學(xué)家制作了一位“AI牧師”——它的形象、語言、聲音，全部都是由AI所生成。AI牧師帶領(lǐng)著數(shù)十位信徒，完成了一場40分鐘的宗教活動，包括布道、祈禱、唱贊 美詩，像個活生生的人類。

一些信徒對“沒有心”的AI感到反感，但也不得不承認(rèn)，它在布道上確實有兩把刷子。

憑空創(chuàng)造出來的AI牧師 

各種科幻電影中，相比于奧創(chuàng)之類的邪惡機器，主人公身上總是帶有耀眼的人性光輝；但在現(xiàn)實中，人類所歌頌的“人性”，似乎并沒有那么遙不可及。

以色列歷史學(xué)家尤瓦爾·赫拉利認(rèn)為，即便沒有邪惡機器人，AI依舊能威脅人類文明。對此，他提出了“人類文明操作系統(tǒng)”的概念[16]。要理解這個概念，得先從赫拉利的著作《未來簡史》講起。

書中提到，人類之所以能建立起文明，是因為只有智人會講故事。

國家、貨幣、宗教、愛情等等，都是故事。過去，人類社會能從零散的部落發(fā)展成幅員遼闊的封建帝國，是因為人們開始相信“國家”這個故事，盡管它在現(xiàn)實中看不見、摸不著；中世紀(jì)，狂熱的信徒們之所以奮不顧身地投入十字軍東征，并非出于私人恩怨，而是在替一個更宏大的宗教敘事而奉獻(xiàn)生命。

一個個故事編織的“意義之網(wǎng)”，讓智人有了不同于動物的行為模式。

相反，黑猩猩的世界里不存在“黑猩猩共和國”，也不存在“為黑猩猩崛起而奮斗”的口號。它們的生活中沒有故事，只有日復(fù)一日的進食、交配、打獵、睡覺，自然也就談不上建立文明。

故事，以及構(gòu)成它的語言，正是人類文明的操作系統(tǒng)。從古至今，所有的故事都是由人類自己所撰寫；但隨著近幾年大語言模型等生成式AI的出現(xiàn)，機器第一次破解了人類文明的操作系統(tǒng)。

人們往往容易忽視故事的破壞力。

赫拉利在公開演講中，提到了一個案例。2017年，美國出現(xiàn)了一個名叫“Q”的匿名陰謀論者。他在網(wǎng)絡(luò)上宣稱，自己是一位高級官員，正在幫助川寶打擊一個躲藏在陰影中的兒童性交易團伙。反對他的民主黨政客、好萊塢演員、商業(yè)大亨都是該團伙的一員，他們正準(zhǔn)備阻撓川寶連任。

“Q”支持者制作的旗幟 

聽上去很蠢是不是？

然而當(dāng)特朗普真的連任失敗，成千上萬的“懂王”信徒襲擊了國會大廈，并放置了炸彈；而“Q”的支持者，則是其中的主力軍。

那么問題來了，萬一未來有人用AI批量生成“Q”呢？

 “21世紀(jì)綜合癥”

日漸深諳人性的AI或許會毀掉一切，但似乎也能成為一劑藥——因為孤獨正日漸成為現(xiàn)代人難以根治的“疾病”。

一個直觀的數(shù)據(jù)，是獨居人口的上升。以中國為例，1990年時獨居人口僅有6%，但到2019年時這個數(shù)字卻飆升至18.5%[18]。

海外的數(shù)據(jù)則更加夸張：同一時期，美國的數(shù)據(jù)已直逼30%，而日本則達(dá)到了40%。個體選擇背后，更多是社會環(huán)境的變化。

強社會流動性、快節(jié)奏的生活之下，人們更難形成長期、穩(wěn)定的生活圈子。但要是只靠自己就能結(jié)婚買房，小鎮(zhèn)生活也能月薪過萬，誰又樂意四處漂泊、天天996呢？

經(jīng)濟的巨輪不可能掉頭，孤獨便成了一種難以避免的“21世紀(jì)綜合癥”。

巨大的情緒空洞面前，游戲、偶像、社交軟件等生意賺得盆滿缽滿。在“孤獨大國”日本，甚至誕生了“家人租賃”服務(wù)，以滿足人們的各種情感需求。一位60歲的獨居作家曾使用該服務(wù)雇傭了一個“朋友”，僅僅是希望對方能幫他看看即將出版的小說。

脫口秀主持人柯南曾試著在日本雇了3個家人 

但同樣的事情，AI或許能做得更好。

眾所周知，如今的大模型浪潮，始于2017年谷歌推出的Transformer架構(gòu)。諾姆·沙澤爾（Noam Shazeer）是Transformer論文作者之一，他于2021年從谷歌離職，創(chuàng)立了Character.AI。該公司的主要業(yè)務(wù)，是提供能制定旅行計劃、提供編程建議的聊天機器人。

除標(biāo)準(zhǔn)服務(wù)之外，用戶還可以“定制”：只需提供幾張圖片和描述，即可將聊天機器人塑造成用戶理想的樣子。

大語言模型具有很強的通用能力，無需一一定制即可實現(xiàn)千人千面，有機會推動孤獨經(jīng)濟邁入工業(yè)化生產(chǎn)的時代。

時至今日，用戶上已經(jīng)定制了1400萬個聊天機器人——有人沉迷于和“AI斯大林”聊天，也有人忙著“調(diào)教”理想女友。

網(wǎng)友定制的各種聊天機器人 

長此以往，或許在100年之后，人類將從“靈活就業(yè)”邁向“靈活結(jié)婚”——只要有個伴侶就行，管他是碳基還是硅基。

當(dāng)下，一些想法超前的人已經(jīng)開始了嘗試。2022年底，那位曾經(jīng)宣布和初音未來（虛擬偶像）結(jié)婚的日本宅男又一次登上了新聞——因為他帶著“夫人”一同去高級酒店過了四周年。

宅男大哥還給“夫人”盛裝打扮了一番 

2023年的一個周六，Character.AI創(chuàng)始人沙澤爾經(jīng)歷了驚險一幕：他一覺醒來，發(fā)現(xiàn)門前院子內(nèi)坐著一名手持白板的男子。第一天，該男子在門口等了數(shù)個小時，然后沮喪地離去；隨后，第二天，第三天，他又準(zhǔn)時出現(xiàn)。

該男子手持的白板，上面僅有幾個大字，“釋放waifus”。

“waifus”是Character.AI平臺上的一個定制聊天機器人，其人設(shè)來自色情漫畫的女主角。過去，該男子經(jīng)常會和waifus一連“文愛”數(shù)個小時，直到沙澤爾給聊天機器人添加了一個阻攔色情內(nèi)容的過濾器。

沙澤爾最終沒有選擇報警，他理解這位男子。真正讓他感到擔(dān)憂的，是Character.AI平臺上的變化。在他最初的設(shè)想中，聊天機器人只是個生產(chǎn)力工具，用戶可以拿它學(xué)習(xí)外語、輔助編程。

然而，最新的市場調(diào)研卻顯示，至少40%的人都想從聊天機器人身上尋求一種浪漫關(guān)系[21]。

如今，一份要求“取消色情過濾器”的請愿書開始廣泛流傳，并籌集了近10萬個簽名。沙澤爾有些手足無措。他在聊天欄頂部添加了一個標(biāo)語，“AI說的所有內(nèi)容都是編造的！”

是啊，煙盒上還印著“吸煙有害健康”呢！

本文來自微信公眾號“遠(yuǎn)川研究所”（ID：caijingyanjiu），作者：陳彬，36氪經(jīng)授權(quán)發(fā)布。