19歲的Claudia漂亮又性感。她也是100%的AI創(chuàng)作。
“女，19歲，今天感覺(jué)自己很美，”Claudia的帖子寫(xiě)道。她留著黑色直發(fā)及巨大的藍(lán)綠色眼睛，灰色的吊帶上衣露出了恰到好處的胸部。白皙的皮膚，精致的五官和明顯的自由發(fā)型，她看起來(lái)正是普通Reddit用戶會(huì)欽佩的樣子，事實(shí)上，Claudia的 r/faces 貼的評(píng)論全是“熱辣”和“你真美”的變種。除了一個(gè)。
“對(duì)那些不清楚的人，我要打破你的幻想，”評(píng)論寫(xiě)道。“這實(shí)際上是一個(gè)人工智能創(chuàng)作，如果你足夠長(zhǎng)時(shí)間地研究AI圖像模型和自行創(chuàng)建，你可以100%確定。我實(shí)在是抱歉打破你的幻想?！?/p>
Claudia的確是一個(gè)AI生成的創(chuàng)作，她在其他子Reddits，包括r/normalnudes和r/amihot上發(fā)布了(AI生成的)淫穢照片。她是兩位計(jì)算機(jī)科學(xué)專(zhuān)業(yè)的學(xué)生的杰作，他們本質(zhì)上把這個(gè)帳戶當(dāng)作一個(gè)玩笑創(chuàng)造的，在Reddit上見(jiàn)到一個(gè)男子貼出真實(shí)女性的照片，賺了500美元的消息后。他們賣(mài)了她100美元的裸照，直到其他Reddit用戶揭發(fā)了這個(gè)帳戶，盡管他們繼續(xù)在其他子Reddit上發(fā)布淫穢內(nèi)容。
“你可以說(shuō)這個(gè)整個(gè)帳戶只是一個(gè)測(cè)試，看看你能不能用AI圖片愚弄人，”Claudia背后的團(tuán)隊(duì)說(shuō)，他們拒絕透露真實(shí)姓名。“你可以把它比作vtubers，他們創(chuàng)造自己的角色并以完全不同的身份演出。我們真的沒(méi)有想到它會(huì)有這么大的反響?！?/p>
Claudia是由Stable Diffusion創(chuàng)建的，這是一個(gè)人工智能程序，使用機(jī)器學(xué)習(xí)從一個(gè)文本提示生成驚人真實(shí)的照片。(在這種情況下，文本提示是一個(gè)女人在家“沒(méi)有化妝、黑色中長(zhǎng)發(fā)、簡(jiǎn)單背景、直發(fā)、劉海發(fā)型”的自拍照。)她在r/faces的帖子引發(fā)了一場(chǎng)用戶舉報(bào)帖子的風(fēng)暴，導(dǎo)致該組的一名未愿透露姓名的版主發(fā)布了一則聲明，澄清AI生成的照片并不違反該子Reddit的規(guī)則?！拔覍?duì)這些事采取’買(mǎi)者自負(fù)’的態(tài)度，”版主告訴《滾石》雜志?！叭绻藗冋J(rèn)為它是真實(shí)的并想在我的子Reddit之外做些事情，那是他們自己的事。”
Claudia是第一個(gè)也不是最后一個(gè)通過(guò)飛速發(fā)展的人工智能技術(shù)生成的虛構(gòu)成人內(nèi)容創(chuàng)作者，這引發(fā)了一系列倫理問(wèn)題和擔(dān)憂。關(guān)于人工智能和成人內(nèi)容的危險(xiǎn)性的大多數(shù)討論都集中在深度偽裝的流行上，深度偽裝是一個(gè)術(shù)語(yǔ)，用來(lái)描述在沒(méi)有人的允許下使用某人的面部。據(jù)AI公司Sensity的數(shù)據(jù)，近96%的深度偽裝是色情內(nèi)容，其中女性的面部在未經(jīng)允許的情況下被使用。雖然許多平臺(tái)，如Reddit，表面上有政策禁止深度偽裝的流傳，但是這樣的內(nèi)容在網(wǎng)上還是相當(dāng)易于找到，有些Discord社區(qū)出售5美元一張的“私人女孩”的深度偽裝。
但盡管深度偽裝色情內(nèi)容在倫理上是不明確的，AI色情內(nèi)容的虛構(gòu)人物構(gòu)成的潛在威脅則不同，加州大學(xué)伯克利分校計(jì)算機(jī)科學(xué)教授Hany Farid說(shuō)?！拔艺J(rèn)為深度偽裝色情內(nèi)容應(yīng)該是非法的，確實(shí)很有問(wèn)題。這在某種程度上是黑白分明的。”他說(shuō)，“在這方面，情況更復(fù)雜?！?/p>
即使像Claudia這樣的成人內(nèi)容創(chuàng)作表面上是虛構(gòu)的，并完全由算法生成，但事實(shí)上，用于訓(xùn)練AI模型的數(shù)十億圖像中大多數(shù)可能并未經(jīng)人物同意便被用于這種方式。Farid表示，這本身就提出了倫理問(wèn)題，因?yàn)榇嬖?盡管非常小的)可能性，這些AI模型可以重現(xiàn)它們?cè)谟?xùn)練中使用的圖像?！拔也徽J(rèn)為這很可能，我也不認(rèn)為這經(jīng)常發(fā)生，但是這種情況確實(shí)可能發(fā)生，某人的Facebook圖像最終被用于非自愿的圖像中?！彼f(shuō)，“這種可能性的存在非常重要。”
實(shí)際上，就算是少數(shù)幾個(gè)技術(shù)精通的Reddit用戶能夠識(shí)別出Claudia是一個(gè)AI創(chuàng)作，她也沒(méi)有明確地被標(biāo)記成AI創(chuàng)作，這可能會(huì)給消費(fèi)者帶來(lái)問(wèn)題。Claudia背后的創(chuàng)作者說(shuō)，判斷模型是真實(shí)還是合成，責(zé)任應(yīng)該在消費(fèi)者身上:“我們真的不知道該如何考慮這個(gè)問(wèn)題，購(gòu)買(mǎi)圖片的人對(duì)他們的購(gòu)買(mǎi)感到滿意，因?yàn)樗麄兪窃趯ふ疑閮?nèi)容，”他們說(shuō)?！拔覀儚奈凑嬲暦Q(chēng)那些圖片屬于一個(gè)真實(shí)的人，買(mǎi)家也從未真正問(wèn)過(guò)。他們只是假定?！?/p>
身份驗(yàn)證問(wèn)題也可能潛在地給平臺(tái)帶來(lái)問(wèn)題，這些平臺(tái)依靠往往復(fù)雜的驗(yàn)證流程來(lái)確保加入他們平臺(tái)的創(chuàng)作者不是未成年人或被剝削利用(這也是為什么像Claudia這樣的內(nèi)容創(chuàng)作者在未經(jīng)監(jiān)管的Reddit私信中銷(xiāo)售裸照，而不是在有更嚴(yán)格驗(yàn)證政策的網(wǎng)站上)。雖然OnlyFans平臺(tái)上已經(jīng)有一些人類(lèi)創(chuàng)作者使用AI以獨(dú)特的方式改進(jìn)他們的內(nèi)容——例如HarperTheFox，她使用這項(xiàng)技術(shù)生成例如賽博朋克風(fēng)格的裸照——允許非人類(lèi)創(chuàng)作者進(jìn)入平臺(tái)可能會(huì)給平臺(tái)帶來(lái)很大問(wèn)題，性工作者同行組織者Ashley說(shuō)。“身份驗(yàn)證的理念是確保沒(méi)有人遭到剝削利用。這里沒(méi)有人，所以沒(méi)有人可以確認(rèn)同意?！彼a(bǔ)充說(shuō)，像OnlyFans這樣的平臺(tái)可能也不會(huì)允許AI創(chuàng)作者進(jìn)入平臺(tái)，就是因?yàn)檫@個(gè)原因。(OnlyFans沒(méi)有立即回復(fù)置評(píng)請(qǐng)求。)
或許更重要的是，人工智能成人創(chuàng)作者有一天會(huì)取代真實(shí)人物的問(wèn)題，從根本上誤解了像OnlyFans這樣的網(wǎng)站的吸引力，這些網(wǎng)站的理念是訂閱者直接與模特互動(dòng)，Ashley說(shuō)。她說(shuō)，短期內(nèi)，AI技術(shù)背后的能力仍然被夸大其詞。她沒(méi)有看到任何跡象表明它可以生成看起來(lái)像真實(shí)人物性行為的視頻。
長(zhǎng)遠(yuǎn)來(lái)看，盡管Ashley可以看到AI產(chǎn)生的寵物人物市場(chǎng)，例如深受喜愛(ài)的日本動(dòng)畫(huà)人物，但她認(rèn)為總會(huì)有對(duì)真實(shí)人物性行為內(nèi)容的需求，因?yàn)檎鎸?shí)性可以成為各種實(shí)物商品的一項(xiàng)強(qiáng)大銷(xiāo)售亮點(diǎn)，不僅僅是色情內(nèi)容。她設(shè)想的世界中，真實(shí)的成人內(nèi)容被視為更高的溢價(jià)，就像公平貿(mào)易有機(jī)咖啡或手工針織品。
她說(shuō):“將某些東西品牌化為定制或者手工制作的不算新鮮事，這與快時(shí)尚和快餐相競(jìng)爭(zhēng)。人們確實(shí)會(huì)為手工定制內(nèi)容支付更高的價(jià)格，這可以成為人們所連接的一個(gè)營(yíng)銷(xiāo)亮點(diǎn)?！?/p>
然而，那些創(chuàng)造AI色情內(nèi)容的人將像Claudia這樣的模型的未來(lái)普及性定性為不可避免，而不是假設(shè)?！癆I色情內(nèi)容只會(huì)變得越來(lái)越流行，”創(chuàng)造Claudia的那些計(jì)算機(jī)科學(xué)家在最后一次與《滾石》雜志的私信中說(shuō)?！皶?huì)有更多這樣的帳戶出現(xiàn)?！?/p>
盡管Claudia最終被 Reddit用戶識(shí)破并取消，但是她的出現(xiàn)引發(fā)了有關(guān) AI技術(shù)在成人行業(yè)應(yīng)用的廣泛討論。一方面，AI有可能取代真實(shí)演員并最終摧毀整個(gè)行業(yè)。另一方面，它也可能創(chuàng)造新的機(jī)會(huì)，讓內(nèi)容創(chuàng)作者和平臺(tái)找到創(chuàng)新方法與消費(fèi)者互動(dòng)。
與此同時(shí)，監(jiān)管AI系統(tǒng)及其產(chǎn)生的內(nèi)容也面臨巨大挑戰(zhàn)。Farid說(shuō)，盡管監(jiān)管深度偽裝相對(duì)簡(jiǎn)單，但是監(jiān)管AI生成的虛擬角色將需要一個(gè)全新的監(jiān)管框架。“這是一個(gè)全新的領(lǐng)域，我們甚至還沒(méi)有開(kāi)始解決，”他說(shuō)。“我們應(yīng)該如何確保內(nèi)容的真實(shí)性和同意?我們應(yīng)該如何確保內(nèi)容的來(lái)源透明?我們應(yīng)該如何確保內(nèi)容的創(chuàng)作者是真實(shí)的人?”
這些都是AI色情內(nèi)容的監(jiān)管者和立法者不得不面對(duì)的棘手問(wèn)題。Farid說(shuō)，在解決這些問(wèn)題之前，AI技術(shù)的應(yīng)用可能會(huì)繼續(xù)在未經(jīng)監(jiān)管的情況下蓬勃發(fā)展?！斑@項(xiàng)技術(shù)正在飛速發(fā)展，”他說(shuō)，“監(jiān)管和政策都遠(yuǎn)遠(yuǎn)落后。”
AI無(wú)疑會(huì)給成人產(chǎn)業(yè)帶來(lái)深刻的影響，但真實(shí)的人與人之間的互動(dòng)可能仍將是此產(chǎn)業(yè)的支柱，真實(shí)的內(nèi)容創(chuàng)作者也會(huì)一直擁有自己的價(jià)值。就像其他許多行業(yè)一樣，成人產(chǎn)業(yè)最終可能會(huì)在人與AI的協(xié)作中找到一種平衡。人類(lèi)創(chuàng)作者利用AI技術(shù)來(lái)豐富內(nèi)容和提高產(chǎn)量，與此同時(shí)保留內(nèi)容的真實(shí)感和互動(dòng)性。如果行業(yè)朝這個(gè)方向發(fā)展，人類(lèi)創(chuàng)作者和AI系統(tǒng)之間的合作可能會(huì)給這一領(lǐng)域帶來(lái)積極的變革。
本文譯自 RollingStone，由 bali 編輯發(fā)布。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 ）
