網路行銷
去年多前，吳華在韓國旅遊，像數百萬遊客一樣享受假期。位朋友給她發了一張截圖，這打破了她內心的平靜：有人創建了一個與她幾乎一模一樣的帳戶，並附上了她的個人資料照片和用戶名。該帳戶的簡介是韓語的，並且包含一個可疑連結。
當吳點擊連結時，好奇變成了恐懼。被替換為她的臉孔人工智能技術的功勞。
8月下旬，當吳第一次讀到韓國的深度造假聞時，內心深處醞釀的恐懼爆發了。 36氪。
當吳起回憶第一次點擊這些人工智能產生的影片時，她仍然哽咽。 儘管她成功報告了該陰謀並打算將其刪除，但她仍然不確定自己的臉是否被其他地方使用。
Deepfake技術——利用人工智能生成和視訊等格式的合成媒體——引發了現在所謂的“N號房2.0案例”，使韓國陷入混亂。
仁荷大學的一名男學生創建了一個擁有1200多名成員的聊天室。
這個始於仁荷大學的陰謀很快就被揭穿了。
據報道，其中最大的聊天室擁有多達 22 名成員。
在這些群聊中，男性利用他們在現實生活中認識的女性作為羞辱的目標。集體辱罵，這往往會升級為線下威脅和騷擾。
新增的虐待室甚至被解讀為更具體的類別，例如“家庭虐待室”，其中男性上傳秘密拍攝的母親、姐妹或女兒的照片以允許公開羞辱。
2019年，當「N號房」案震驚世界時，一位網友評論道：「全韓國只有26萬輛出租車，這意味著你在街上遇到N號房成員的機會就像撞車一樣高。
隨著深度造假如今聊天室的瀰漫，這種氛圍更加令人不寒而慄。
雖然最初的「N號房」案件主要涉及犯罪者本人偷拍的窺鏡頭，但深度造假技術的快速進步已經大大降低了此類犯罪的偷竊成本。將它們與真實內容區分開來變得越來越困難。
今年5月，一位40歲的樸姓首爾大學鹽水因使用48名女性的照片製作了1852條性剝削內容而。
首爾的一位老師發現她是其中一個被虐待的房間的目標，而肇事者是她的學生，儘管她無法確定是哪一個。
「那張照片會陪伴我一輩子嗎？」她淚流滿面地向媒體詢問。
醜聞爆發後，志願者根據媒體報導和匿名報導創建了犯罪者地圖。
據網路安全監測組織SecurityHero稱，2023年全球53%的深度建設假教育內容來自韓國——考慮到該國GDP僅佔全球總體目標的不到2%，這一統計數字令人震驚。
絕望和憤怒，韓國女性一直在緊張的公共氣氛中回應。
進行一場無聲的戰鬥
沒有人知道有多少女性成為這個問題的受害者。
自八月底以來，她幾乎沒有睡覺。
戰鬥正在進行中。
在X（之前的Twitter）上，智英經常與韓國男性爭執。被更改。
在她和 36氪智英使用了變聲器——所有與此案有關的活躍在X上的女性都成為韓國男性肉搜索活動的主要目標。
在女性權利已經被邊緣化的韓國，被貼上女權主義的標籤是危險的。
「有時我們不洗澡也不睡覺，熬夜到凌晨三、四點，」智英告訴 36氪她和X上的戰友們正在緊急將所有與深度造假、受害者保護指南、女權文學相關的資訊翻譯成英文，並迅速分享。
這起Deepfake案件中的肇事者和受害者都比原來的N號房中的肇事者和受害者都要年輕。剝削案件，逮捕了178名嫌疑人。
許多人稱之為「N號房2.0」案件，但它並沒有引起公眾同等程度的關注。
由於人工智能產生的內容被視為“不真實”，因此最初沒有被執法部門注意。
「政府未能及時處理最初的N號房案件。現在，許多夜間造假的肇事者都是肇事者，許多受害者也是肇事者。肇事者不相信會有後果，他們也不擔心坐牢，」智英告訴 36氪。
迄今為止，韓國警方僅逮捕了約15人，其中一些罪犯已逃離移民逃亡海外逮捕。
「深度造假案以及之前的 Nth Room 和 Soranet 等案件估計超過 100 件受害者。沒有人知道故意的數字，」智英感嘆道。
韓國女性已開始向海外尋求協助，向中國和日本的社群媒體用戶轉發深度造假醜聞的訊息。
韓國大學生Eun-jung（化名）不顧帳號一再被封鎖的情況，開始使用小紅書，使用笨拙的機器翻譯來請求關注並傳播信息。就被轉發了近15萬次。
沒有人知道這些努力會帶來什麼結果。 36氪 她的妹妹現在是一名中學生。
直到這個問題在國際上爆發後，韓國政府才開始認真關注。
沒有任何的深度鍛造塗抹室
一個沒有人工智慧專業知識的普通中國人怎樣才能成為深度造假的肇事者？
根據SecurityHero的報告，中國的深度造假教育內容佔全球的3%。 。
在X上快速搜尋「deepfake」就會發現，中國賣家提供的工具標有「人工智能脫衣」、「束縛」和「比基尼」等讓人聽到的關鍵字。他們只提供工具，並不是使用它。
X、Instagram、Facebook等平台只是打開潘多拉魔盒的按鍵。
36氪 某賣家透過X上的QQ號聯絡了一位賣家，為了逃避平台審查，他的狀態資訊明確表示自己娛樂，嚴禁發布違法內容，後果自負。商的偽裝，從未提及任何與性有關的內容。
但性是交易未明說的目的。
即使在中國，讓女子網路羞辱並逃避法律處罰也非常容易。
人工智能降低了網路性暴力的成本，同時提高了其傳播速度。五送一的折扣。
最初，深度偽造技術是建立在生成對抗網路（GAN）之上的，相對無害。
GAN 於 2014 年在 Google Brain 首次開發，最初面臨著保持利基市場的所有障礙：軟體難以安裝、技術要求高、訓練資料集和昂貴的能力。公眾。
但事情在2019年左右開始失控。
那一年，一款名為 DeepNude 的應用程式聲稱它可以在 30 秒內脫掉任何人的衣服。 ，該軟裝添加女性生殖器，而不是脫掉他的衣服。
GAN技術的快速進步和軟體開源的興起減少了深度造假的障礙。
一方面，人工智能技術正在快速發展，另一方面，社會和監管體系本身無節制地造成了長的影響措手不及。
DeepNude 讓大家同意的一致的照片連接就像單擊按鈕一樣簡單。解釋說，該計劃源於「好奇」和「技術興趣」。
儘管 DeepNude 已經下架，但該應用程式的無數版本現在更加隱藏、更易於使用，並且生成了更高品質的圖像，年代久遠，已經充斥網路。
在Discord論壇上，DeepNude的安裝包售價為20美元。
DeepNude 被下架後三週內，該應用程式被重新設計為嵌入 Telegram 中的一鍵脫衣機器人。
從那時起，事件的發展與今天韓國的 N 號房 2.0 案例類似。
初步檢測到該機器人的網路安全公司Sensity發現，它在不到一年的時間內產生了超過68萬張假女性裸照。
婦女法律鬥爭螺旋式下降
自2019年以來，反擊DeepNude的努力一直持續著。
2019年7月，美國維吉尼亞州通過了一項法律，禁止銷售或分發電腦生產的教育內容。檢測Deepfake 的研究。
然而，無論是在韓國的N號房2.0，或是在中國的QQ、支付寶、閒魚等地下市場，深度造假聊天室的持續存在，揭示了一個嚴峻的事實：深度造假從未真正消失。
2019年，多倫多大學公民實驗室進行了一項研究，探索微信如何自動審查聊天中的大量圖像。新聞是其影像審查的核心焦點。
這說明平台對教育內容的監管仍存在更大差距。
但人總是能積極主動而出嗎？
北京一家律師事務所副主任張靜在過去二十年處理了大量涉及侵犯婦女權利的案件。 者、系統性不公義和法律體系中的漏洞而奮鬥。
「過去，科技沒有那麼先進，至少受害者可以識別違法者，並且可以透過法醫檢查來確定傷害，」張說。 36氪“但現在，深度造假內容的創作者和傳播者都無法追踪，這使得收集證據或確定的數量變得非常困難。”
許多網路旁觀者詢問受害者為何不直接向警方報案。
但在向警方報案之前，女性必須先收集大量證據。
此類證據包括分享原始內容的具體網站、大量目標圖像以及相當大的傳播範圍。
「對於那些不經常使用網路的人來說，收集此類證據並不容易。其中一些女性甚至可能不知道如何訪問相關網站，」張繼續說道。
即使婦女設法報案並立案，肇事者的法律意結果往往也不盡如人。
在中國裁判文書網資料庫中搜尋“AI換臉”，僅找到16份法庭文件，最早於2022年出現的案件。
這些障礙，女性對抗深度造假的鬥爭已面臨陷入螺旋式上升：社會壓力和嚴格的立案要求導致挺身而出的女性越來越少。引用。
2023年12月，台灣法院裁決為Deepfake受害者帶來了一些希望。保護法和其他指控而被判處五年監禁。
但五年夠嗎？
「過去，電影帶和3D電影是一個特定的小眾產業，它們的傳播不太可能對活人造成傷害，」張說。
「但今天深度造假與過去的教育產業的本質區別在於，它的傳播對現實生活中的特定人群造成傷害，」張補充道。 ”過輕。”
肇事者將面臨可預見的五年徒刑，但創傷可能會陪伴女性更久。
15歲那年，小雨（化名）在對陣她男朋友的男孩的深度格式騷擾後，開始不希望夏天到來。 40身高的高溫下，她仍然選擇穿著兩件短袖上衣來遮擋男孩的視線。
小宇告訴 36氪 她覺得老師和家長是徒勞無功的。
如今，距離騷擾事件已經過去一年多了。
人類準備好迎接深度造假技術了嗎？
韓國深度造假醜聞曝光後，Avolution.ai聯合專輯人李謙遜未已。不想說，但壞消息是，沒有辦法破壞科技徹底消除Deepfake 性暴力，」李告訴 36氪。
雖然消除深度造假幾乎是不可能的，但還有一個最佳選擇：緊貼在裡面，讓肇事者完全品嚐到自己的苦果。
RealAI聯合創始人肖子豪解釋說，他的公司如何定期進行「紅藍」演習，工程師被召回兩隊：紅隊模擬現實世界的攻擊，藍隊負責防禦他們。 ·犯罪網路收集情報，不斷創新策略。
對於那些利用人工智能打造假對抗深度的人來說，這項工作就是與新的、不可預見的案件進行持續不斷的鬥爭。 。
然而，這項工作的真正作用在於預警和預防。
2022年11月，中國推出了第一個專門針對Deepfake技術的法規。
但作為一位花了20年時間爭取婦女權利的資深律師，張表示，要執行該法律，還有很長有效的路要走。 ：參與處理這些案件的大多數警察、律師和法官都是男性。
張說，他參加了一個關於廢除嫖娼避免少女免受寬刑的論壇。進一步擴大危及受害者。
在大多數情況下，肇事者被拘留並被定罪，這最重要的是支持婦女的積極努力。
2023年，在蘇州大學的人工智能換臉事件中，受害者潛入了分享深度偽造照片的聊天室。 ，逐漸縮小了嫌疑人的範圍。
推動立法和公眾意識，需要具有里程碑意義的法律案例。
日本一位女權運動家表示：“有了法律先例，女性受害的歷史可以納入學校教科書，推動性別教育的發展。”
目前人工智慧產業是男性主導的領域，也有人認為，從某種意義上來說，從研發到產品落地，女性更可能成為人工智慧「壓迫」的人。
為了讓深度造假立法取得有意義的進展，社會也必須應對該行業的黑暗暗流。 ，成人內容佔40%，其中80%的內容以女性身體為主題。
一位投資者表示：“教育內容是人類人工智能消費產品在商業上最成功的商業模式。” 36氪對一些曼谷來說，經濟誘因實在太有利了，無法抗拒。
挑戰這種產業慣性是極為困難的。
身為奉獻道德人工智能利用新創公司的共同短片人，李拒絕走這條路。 ，」她說。
在李看來，如果有更多的女性在科技業擔任領導職務，人工智能的未來將會有所不同。她們的深度偽造檢測模型，允許任何人免費使用它。
張在微博中寫道：“如果一個人的火炬太小，我們就把聖火送給世界上每一個人。”
張想強調這樣一種信念，即雖然個人努力修復微不足道，但與他人分享並可以團結放大其影響，創造改變的集體力量。
事實上，當新科技迅速發展，而法律難以跟上時，最終推動社會前進的是廣大民眾的集體聲音和行動。
韓國女性就是這一點的活生生的證明。網路性暴力和墮胎合法化等議題。
儘管罵了無情的網域謾和騷擾，揭露了N號房案件的二女記者姜京潤和朴孝實依然堅持抗爭。
然而，韓國女性從未停止前進的腳步。名助揭露N號房間的大學生在將深度造假者繩之以法方面發揮了關鍵作用。
「我們不能停下來，我們不能放棄，」智英告訴 36氪，反映了深度造假危機前線女性的情感。 」
全球婦女現在正在聯合起來聲援韓國。偷窺醜聞。
他們的橫幅上用醒目的紅色寫著：“我的生活不是你的教育片。”
KrASIA Connection 收錄了最初由 36Kr 發布的翻譯和改編內容。 文章 由鄧勇毅、週新宇、邱曉芬為36氪撰寫。
