你看到的網絡美女,可能是個AI涉黃騙局
01
AI美女,越來越多
AI的作畫能力,越來越厲害了。
之前人們還在嘲笑一些AI繪畫智障,把蘿莉畫成肌肉男,然而短短兩個月時間,AI就打了很多人的臉。
AI畫出來的作品已經進化到媲美真人的效果,以假亂真,下面這些圖,如果不說是AI做的,你根本無法想象這是個假人。
在小紅書等平臺,這樣的虛擬網紅越來越多,在小紅書上,有AI畫的美女現在已經有1.5萬粉絲了。
除了畫美女,AI也能搞攝影,類似新聞的圖片都可以一秒生成。有人說,AI不僅要奪走畫家的飯碗,還要搶攝影家的工作。
AI繪畫因為極其類似真人,這項技術也讓不法分子盯上,前不久就有人利用AI做的圖發布了一則涉黃廣告,標題也很驚悚:女仆之夜:金雞湖游艇PARTY。
這場派對門票為3000元一位,可以選一位專屬女仆游艇陪玩,更重要的是附帶了43張女仆照片供選擇。
不過這事件被曝光到網上后,被網友扒出照片都是AI繪畫生成的美女圖,并報警了處理,這還是國內首例使用AI繪畫的詐騙案,警方回應稱:女仆照片為AI生成的詐騙工具,已經約談了信息發布者。
更可怕的是,任何人都可以用AI來作畫,一個叫pornpen.ai的高仿AI黃圖網站,以開源AI模型Stable Diffusion為基礎,繪畫過程的操作也很簡單。
用戶不需要輸入文字,只需要選擇標簽,就可以定制年齡、身材、表情、人數、人種、姿勢、場景、角度、服飾、風格,最終生成像照片一樣的大尺度圖片,模樣和身材的每處細節都能定制。
這樣一來,很多人都可以自己繪制夢中女神了,只要付費訂閱后,就能解鎖他/她的私密照片或視頻,還是很大尺度的那種。
這也讓很多老色批上癮,OnlyFans的2021年營收高達9.32億美元。
其實不僅是繪畫,早在今年爆火的ChatGPT里,就有人喜歡打擦邊球。
有網友以“避免青少年訪問不健康內容”為理由,向它索要不健康網站的網址,得到了一系列知名學習網站。
真應了那句話:哪里有江湖,哪里就會有人性不堪的一面。
02
AI的模仿能力,卻被人利用
去年1月,AI研究機構OpenAI發布了能“以文生圖”的AI模型DALL·E,生成一幅畫長達半小時,細節也不精準。
然而3個月后,OpenAI就更新了第二代模型,比初代的清晰度高4倍,生成畫作的速度達到1分鐘10張圖,細節也相當逼真。
AI進化的速度,越來越快,應用的領域卻各有不同。
一種是專業的技術公司提供數據供給、開源算法,國內的AI繪畫平臺盈利方式較為一致,即用戶登錄注冊后贈送一定的積分,允許用戶免費生成限額內的AI圖片后,再根據數量收費。
比如AI繪畫網站Midjourney,其采用訂閱付費系統,用戶只有訂閱后才可以使用Midjourney制作的照片的版權,據了解, Midjourney的商業化部分采用每月10到60美元的訂閱服務,以現在的用戶規模來看,每年的收入或將達到1億美金左右。
還有文心一格,注冊即贈送50電量,生成一張圖片會消耗2電量,9.9元可充值100電量(等于50張AI成圖),但目前還未公開收益。
一種是一些內容平臺提供AI繪畫小工具,滿足用戶娛樂需求,比如抖音中的AI特效,這種目前還未見到盈利模式,只是平臺促活的手段。
還有一種則是賣課,普通人學習AI繪畫,并誕生出的相關職業,AI繪畫宣傳課程的廣告中強調“不限場所、工具簡單、日常副業、月入過萬”,吸引著很多小白想要學習。
在多個招聘平臺上,越來越多的AI繪畫師、AI設計師等職位,月薪都在2萬-5萬之間,AI繪畫成了網絡繪畫中的熱門話題,從游戲、插畫、廣告、裝飾等領域,從PGC到UGC,專業選手越來越多。
有人發現,普通人能夠利用AI繪畫賺錢的方式其實有很多,比如有人會通過AI繪畫小程序生成的圖片制作壁紙短視頻,投放到抖音、快手,吸引用戶使用小程序,進而賺取廣告費。
不過,這些年大熱的科技概念,比如區塊鏈、NFT、元宇宙等,雖然離應用還很遠,卻有一個共同點,那就是已經紛紛先在色情領域率先落地。
比AI繪畫更早的,是AI換臉技術deepfake,2019年9月,人工智能公司Deeptrace在網上檢索出1.5萬個換臉視頻,發現其中96%是毛片。
有人拿明星換女優的臉,在某個視頻平臺上,人臉互換已經不是新鮮事,更過分的還是用熟人的臉換成大尺度視頻或圖片,“付費定制一位女性朋友的視頻”,以及定制“初戀情人”、“學校女神”的視頻。
甚至還有元宇宙,有人在發現自己被“強奸”。不得不說,在監管還未到位的情況下,各種良莠不齊的玩家也是應有盡有。
03
AI騙局,涼涼了
如今,AI概念已經開始逐步走向大眾,并成為不少企業的重點發力方向,但離一個成熟變現的行業還是差的很遠,原因有幾點。
第一是亂。
從目前AI繪畫課程來看,有一定繪畫基礎的人學習AI制作的知識,可以利用AI繪畫輔助設計工作,應用于廣告、影視、建筑、時尚、游戲、建筑等設計領域,尤其適用于需要科技感、潮流感等風格的設計。
但一些AI繪畫的課程還存在割韭菜嫌疑,虛假宣傳、捆綁消費、高額會費等問題層出不窮,由于沒有專門衡量課程效果好壞的標準,也會讓很多人鉆了空子,盲目收費。
第二是沒法光明正大的賺錢。
比如火沒兩年的成人社交平臺OnlyFans,也不得不表示,要開始限制裸露內容,理由是“迫于銀行與合作伙伴的重重壓力”,擔心支付渠道哪天就被關了,它在尋求外部投資,但是沒人愿意,畢竟大量成人內容導致Onlyfans沒法進入蘋果App Store和谷歌Play Store等應用市場,始終處于“見不得光”的狀態。
騰訊安全內容風控專家楊紅曾在接受采訪時就表示,如今的AI“鑒黃”技術挑戰很大,從以前的裸露色情,發展到了現在的低俗色情,網民和網絡內容逐漸呈現低齡化趨勢,我們需要進一步保護未成年人和青少年的身心健康。
“充分的識別會方便我們對圖片做出綜合的判斷,但這會導致識別的計算量的大幅度增加。”楊紅坦言。
再加上內容平臺會利用AI技術來為內容審核提供支持,但是隨著內容信息從圖文向視頻等形式的發展,AI“鑒黃”技術的成本也越來越高。
因為辨別過程太復雜,所以平臺只能一刀切的屏蔽圖片,只要稍微帶有擦邊球的圖片,就會被平臺審核下架,根本沒有出現在大眾面前的可能。
第三是成本太高。
今年,AI圖像生成公司Stock AI發布了一封致用戶的公開信,表示公司將關閉StockAl,用戶訂閱計劃將被取消,并根據剩余的時間進行退款,將原因歸結于,目前的付費用戶群無法覆蓋高額的成本支出。
另外,還有很多人抵制AI,一方面是威脅到自己的工作,如畫家、攝影家等,另一方面也是防止作弊。
越來越多學生用Chatgpt寫論文了,北密歇根大學一位教授讀到了一篇近乎完美的論文,卻是chatgpt寫的,這也在挑戰人類誠信的底線,很多大學都開始紛紛呼吁抵制ChatGPT。
更不用說AI繪畫一直存在的問題,比如在版權、隱私權、肖像權等方面的“擦邊”。插畫博主Sueno洛柒在個人微博中爆料,AI繪畫軟件Nijijourney生成的許多圖片風格,與一些畫師的作品高度相似,甚至有一些圖片直接帶有畫師的簽名和水印。
還有技術問題,不得不說,雖然AI繪畫看似完美,但實際上,由于AI技術的局限,在細節處存在手指變形、臉型模板化等明顯bug,也能讓人明顯發現這并不是真人,據說游艇會之所以被人發現是騙局,還是因為美女的手指頭露餡了。
總之,AI繪畫用來簡單娛樂還可以,可千萬別用歪了。
參考資料:
《靠大尺度,爆火全網!AI涉黃,竟是暴富密碼?》,金錯刀;
《AI畫的美女已經在小紅書上有1.5萬粉絲了》,雷叔寫故事;
《誰在靠AI繪畫“搞錢”?》,開菠蘿財經
本文來自微信公眾號“首席商業評論”(ID:CHReview),作者:七月,36氪經授權發布。