市檢察官起訴訪問量最高的網站，這些網站製作未經同意的深度偽造色情內容

舊金山（2024年8月15日）—舊金山市檢察官大衛邱（David Chiu）今日宣布，將對一些全球最大的、未經同意製作和傳播人工智慧生成色情內容的網站提起一項史無前例的訴訟。未經同意的深度偽造色情圖像的氾濫，已經使全球各地的女性和女孩遭受剝削。該訴訟針對16個訪問量最高的網站的所有者提起，這些網站邀請用戶製作未經同意的女性和女孩裸照。訴訟指控這些網站的所有者和經營者違反了州和聯邦法律，這些法律禁止深度偽造色情、復仇色情和兒童色情。

「這項調查將我們帶到了網路最黑暗的角落，我為那些遭受這種剝削的女性和女孩感到無比震驚，」市檢察官邱信福說道。 「人工智慧技術前景廣闊，但正如所有新技術一樣，它也會帶來意想不到的後果，並有犯罪分子試圖利用這項新技術。我們必須明確一點，這不是創新——這是性虐待。這是一個涉及方方面面的重大問題，需要我們整個社會盡快解決。我們每個人都應該盡自己的一份力，打擊那些利用人工智能和虐待包括兒童在內的真實人物的不虐待兒童法分子。」

背景
免費、複雜且開源的人工智慧模型的普及，使得不法分子能夠利用這些模型，並對其進行進一步的訓練和開發，以達到其不可告人的目的。如今，不法分子已經利用色情圖片和兒童性虐待材料來訓練人工智慧圖像生成模型，從而在未經當事人同意的情況下，產生真實、可識別身份的女性和女孩的裸體圖像。

這種令人不安的現像已經影響到加州及其他地區的女性和女孩，對從泰勒·斯威夫特和好萊塢明星到高中和初中學生等各界人士都造成了難以估量的傷害。例如，2024年2月，加州一所國中學生中流傳著16名八年級學生未經同意的、由人工智慧產生的裸照。

這些幾乎與真實照片無法區分的圖像被用來敲詐勒索、霸凌、威脅和羞辱婦女和女孩。聯邦調查局也警告稱，利用未經同意的人工智慧產生的色情內容進行敲詐勒索的案件有所增加。更糟的是，未經同意的深度偽造色情內容的受害者在影像傳播後幾乎沒有任何追索權或控制權。

被告擁有並經營全球訪問量最高的16個網站，這些網站提供「脫衣」服務，將女性和女孩的照片「脫光」。這些網站提供使用者友善的介面，使用者可以上傳穿著衣服的真人照片，產生逼真的色情版本。這些網站要求用戶訂閱或付費才能產生裸體照片，並透過未經同意的兒童和成人色情照片牟利。光是2024年的前六個月，這些網站的總造訪量就超過了2億次。

有些網站只允許用戶創建未經同意的成年人色情圖片，但有些網站允許用戶創建未經同意的兒童色情圖片。

其中一名被告的網站專門宣傳這些未經同意拍攝的照片，並聲稱“想像一下，與其浪費時間帶她出去約會，不如直接使用[網站]獲取她的裸照。”

該訴訟由加州人民提起，指控被告違反了州和聯邦法律中關於禁止深度偽造色情、復仇色情和兒童色情的規定，以及加州《不正當競爭法》。原告要求被告關閉其網站，並申請禁制令，永久禁止被告從事此類非法行為。該訴訟還要求被告支付民事罰款和訴訟費用。

本案為加州訴Sol Ecom公司等，舊金山高等法院審理。查看經刪節的起訴狀版本。

尖端
任何遭受未經同意的深度偽造色情製品侵害或掌握相關資訊的人士，歡迎並鼓勵透過市檢察官辦公室的消費者投訴入口網站或熱線電話 (415) 554-3977 聯繫該辦公室。