上週六，Heejin 的手機彈出一封來自匿名寄件者的 Telegram 訊息。 「你的照片和個人資訊已經洩露。我們來討論一下吧。

當這位大學生進入聊天室查看訊息時，她收到了一張幾年前她還在學校時拍攝的照片。接下來是使用同一張照片的第二張圖片，只有這張是露骨的，而且是假的。

希珍（化名）嚇壞了，沒有回應，但影像不斷出現。在所有這些照片中，她的臉都使用複雜的深度偽造技術附著在正在進行性行為的身體上。

Deepfakes，其中大多數將真實的臉與虛假的、露骨的身體結合在一起，越來越多地使用人工智慧生成。

「我嚇呆了，我感到很孤獨，」熙珍告訴 BBC。

但她並不孤單。

兩天前，韓國記者 Ko Narin 發表了一篇後來成為她職業生涯中最大的獨家新聞。最近有消息稱，警方正在調查該縣兩所主要大學的深度偽造色情團夥，高女士確信一定還有更多團夥。

她開始搜尋社交媒體，並在訊息應用程式 Telegram 上發現了數十個聊天群組，其中用戶正在分享他們認識的女性照片，並使用人工智慧軟體在幾秒鐘內將它們轉換成假色情圖片。

「每時每刻，人們都在上傳他們認識的女孩的照片，並要求將她們變成深度假貨，」Ko 女士告訴我們。

高女士發現這些團體不僅僅是針對大學生。有專門針對特定高中甚至國中的房間。如果很多內容是使用特定學生的圖像創建的，她甚至可能會得到自己的房間。它們被廣泛地貼上「羞辱室」或「朋友的朋友室」的標籤，通常有嚴格的准入條件。

高女士在《韓民族日報》上的報道震驚了韓國。週一，警方宣布，他們正在考慮效仿法國當局對 Telegram 展開調查，法國當局最近指控 Telegram 的俄羅斯創始人犯下與該應用程式相關的罪行。政府誓言要對涉案人員實施更嚴厲的懲罰，總統也呼籲年輕人接受更好的教育。

BBC 已聯繫 Telegram 尋求評論，雖然尚未對這一具體案件做出回應，但它此前曾告訴 BBC，它會在其網站上積極搜尋包括兒童性虐待在內的非法活動。報導稱，光是 8 月就對全球 45,000 個團體採取了未公開的行動。

BBC 查看了許多此類聊天室的描述。其中一項呼籲會員發布四張以上某人的照片，並附上他們的姓名、年齡和居住地區。

「我對這個過程的系統性和組織性感到震驚，」高女士說。 “我發現的最可怕的事情是，在一所學校裡有一個未成年學生團體，成員人數超過 2000 人。”

在高女士的文章發表後幾天，女權活動人士也開始搜尋 Telegram 並追蹤線索。

截至該週末，已有 500 多所學校和大學被確定為目標。受影響的實際人數仍有待確定，但據信許多人的年齡都在 16 歲以下，這是韓國的同意年齡。很大一部分犯罪嫌疑人本身就是青少年。

Heejin 表示，了解危機的規模讓她更加焦慮，因為她現在擔心有多少人可能看過她的深度假貨。起初她很自責。 “我不停地想，發生這種事是因為我將照片上傳到社交媒體，我應該更加小心嗎？”

此後，全國各地的數十名婦女和青少年從社交媒體上刪除了自己的照片或完全停用了自己的帳戶，因為擔心自己接下來可能會受到剝削。

「我們感到沮喪和憤怒，因為我們在沒有做錯任何事的情況下不得不審查我們的行為和社交媒體的使用，」一名大學生阿恩說，她的同齡人成為了攻擊目標。

阿恩說，警方告訴她大學的一名受害者不要費心追查她的案子，因為抓到肇事者太難了，而且這“並不是真正的犯罪”，因為“照片是假的”。

這起醜聞的核心是通訊應用程式 Telegram。與當局可以輕鬆訪問公共網站，然後要求刪除圖像不同，Telegram 是一款私密的加密訊息傳遞應用程式。

使用者通常是匿名的，房間可以設定為「秘密」模式，其內容很快就會被刪除得不留痕跡。這使其成為犯罪行為猖獗的主要場所。

上週，政界人士和警方做出了強有力的回應，承諾調查這些罪行並將肇事者繩之以法。

週一，首​​爾國家警察廳宣布將調查 Telegram 在傳播虛假兒童色情圖片方面所扮演的角色。

該應用程式的創始人 Pavel Durov 是 上週在法國被指控 參與了與該應用程式相關的許多犯罪行為，包括允許分享兒童色情內容。

但女權活動人士指責韓國當局允許 Telegram 上的性虐待行為不受控制地持續太久，因為韓國以前曾面臨過這場危機。 2019 年，有消息稱，一個性愛團夥正在利用 Telegram 強迫婦女和兒童創作並分享自己的露骨色情圖片。

警方當時向 Telegram 尋求幫助進行調查，但該應用程式忽略了他們的所有七項請求。儘管頭目最終被判處 40 多年監禁，但由於擔心審查制度，沒有對該平台採取任何行動。

「他們對主要演員判了刑，但在其他方面卻忽視了局勢，我認為這加劇了局勢，」高女士說。

朴智賢 (Park Jihyun) 早在 2019 年還是一名年輕的學生記者時就發現了 N 號房性犯罪團夥，此後成為了數位性犯罪受害者的政治倡導者。她說，自從深度造假醜聞爆發以來，學生和家長每天都會多次打電話給她哭。

“他們看到自己的學校出現在社交媒體上分享的名單上，並感到害怕。”

樸女士一直帶頭呼籲政府在韓國監管甚至禁止該應用程式。 「如果這些科技公司不與執法機構合作，那麼國家必須對其進行監管以保護其公民，」她說。

在這場最新的危機爆發之前，韓國線上性虐待受害者倡議中心（ACOSAV）已經注意到深度偽造色情內容的未成年受害者數量急劇上升。

2023 年，他們為 86 名受害者提供了諮詢。不包括過去 7 天，光是今年前 8 個月，這一數字就躍升至 238 起。

該中心的一位領導人樸成惠 (Park Seonghye) 表示，過去一周，她的工作人員接到了大量的電話，並且正在全天候工作。 「這對我們來說是一場全面的緊急情況，就像戰時局勢一樣，」她說。

“有了最新的深度換臉技術，現在的鏡頭比以前多了很多，我們擔心它只會增加。”

除了為受害者提供諮詢外，該中心還追蹤有害內容並與線上平台合作將其刪除。 Park 女士表示，在某些情況下，Telegram 應他們的要求刪除了內容。 “所以這並非不可能，”她指出。

雖然女權組織承認新的人工智慧技術使剝削受害者變得更容易，但他們認為這只是韓國網路上出現的最新形式的厭女症。

第一批女性在網路上遭受了一波又一波的辱罵。然後間諜攝影機流行起來，他們在公共廁所和更衣室被秘密拍攝。

84 個婦女團體簽署的聲明稱：“造成這種現象的根本原因是結構性性別歧視，解決辦法是性別平等。”

這是對該國總統尹錫烈的直接批評，他否認存在結構性性別歧視，削減了對受害者支持團體的資助，並廢除了政府的性別平等部。

治療年輕性犯罪者的李明華（Lee Myung-hwa）也認為，雖然深度偽造虐待的爆發可能看起來很突然，但它早已潛伏在表面之下。 「對青少年來說，深度假貨已經成為他們文化的一部分，它們被視為一種遊戲或惡作劇，」負責阿哈首爾青年文化中心的輔導員說。

李女士表示，教育年輕人至關重要，她引用的研究表明，當你準確地告訴罪犯他們做錯了什麼時，他們會更加清楚什麼才算性虐待，從而阻止他們再次犯罪。

同時，政府表示將加重對製作和分享深度造假圖像者的刑事處罰，並將懲罰觀看色情內容的人。

先前有人批評沒有足夠的肇事者受到懲罰。問題之一是，大多數犯罪者是青少年，他們通常在青少年法庭受審，在那裡他們會得到更寬大的刑罰。

自從聊天室被曝光以來，許多聊天室已經關閉，但新的聊天室幾乎肯定會取代它們。已經針對報道此事的記者設立了一個羞辱室。爆料這項消息的高女士表示，這讓她徹夜難眠。 「我一直在檢查房間，看看我的照片是否已上傳，」她說。

這種焦慮幾乎蔓延到韓國每個少女和年輕女性身上。大學生阿恩說，這讓她對她的男性熟人產生了懷疑。

「我現在不能確定人們不會在我不知情的情況下背著我犯下這些罪行，」她說。 “我在與人的所有互動中都變得高度警惕，這可不好。”

Hosu Lee 和 Suhnwook Lee 的補充報道