Văn phòng luật sư thành phố đóng cửa 10 trang web tạo ra nội dung khiêu dâm giả mạo (deepfake) không được sự đồng ý.

SAN FRANCISCO, CA (Ngày 2 tháng 6 năm 2025) – Luật sư Thành phố San Francisco, David Chiu, hôm nay thông báo rằng, kết quả của vụ kiện và cuộc điều tra đang diễn ra, bị cáo Briver LLC đã đồng ý với lệnh cấm vĩnh viễn, ngăn cấm công ty và chủ sở hữu của nó vận hành bất kỳ trang web nào tạo ra nội dung khiêu dâm deepfake không được sự đồng ý. Công ty cũng đã đồng ý trả cho Văn phòng Luật sư Thành phố 100.000 đô la tiền phạt dân sự. Vụ kiện của Văn phòng Luật sư Thành phố cáo buộc rằng Briver LLC đã vận hành hai trang web được sử dụng để tạo ra các video deepfake không được sự đồng ý.

Vụ kiện của Văn phòng Công tố Thành phố sẽ tiếp tục chống lại các bị cáo còn lại, bao gồm các trang web và chủ sở hữu mới được xác định trong đơn kiện sửa đổi. Vụ kiện cáo buộc các chủ sở hữu và người điều hành trang web này vi phạm luật tiểu bang và liên bang cấm phim khiêu dâm giả mạo (deepfake pornography), phim khiêu dâm trả thù (revenge pornography) và phim khiêu dâm trẻ em. Kết quả của vụ kiện và cuộc điều tra, cho đến nay, 10 trong số các trang web được truy cập nhiều nhất thế giới tạo ra phim khiêu dâm giả mạo không được sự đồng ý đã bị ngừng hoạt động hoặc không còn truy cập được ở California.

“Mặc dù vụ kiện của chúng tôi cho đến nay đã dẫn đến một thỏa thuận dàn xếp ban đầu cũng như đóng cửa 10 trang web lợi dụng phụ nữ và trẻ em, nhưng chúng tôi sẽ không dừng lại cho đến khi tất cả chủ sở hữu phải chịu trách nhiệm và bị cấm mở các trang web tương tự,” luật sư thành phố Chiu cho biết. “Mặc dù trí tuệ nhân tạo tạo sinh có tiềm năng rất lớn, nhưng những người điều hành trang web này đang tham gia vào hành vi lạm dụng tình dục trắng trợn và phải bị ngăn chặn. Chúng tôi hy vọng thỏa thuận dàn xếp đầu tiên này, ngăn chặn vĩnh viễn Briver vận hành các trang web này, sẽ đánh dấu một xu hướng đối với các bị cáo còn lại của chúng tôi.”

Lý lịch
Việc có sẵn các mô hình AI mã nguồn mở, tinh vi và miễn phí đã cho phép các đối tượng xấu lợi dụng, huấn luyện và phát triển thêm các mô hình này cho mục đích riêng của chúng. Hiện nay, các đối tượng xấu đã huấn luyện các mô hình tạo ảnh AI dựa trên hình ảnh khiêu dâm và tài liệu lạm dụng tình dục trẻ em, để chúng có thể được sử dụng nhằm tạo ra hình ảnh khỏa thân của phụ nữ và trẻ em gái có thật, có thể nhận dạng được mà không cần sự đồng ý của họ.

Hiện tượng đáng lo ngại này đã ảnh hưởng đến phụ nữ và trẻ em gái ở California và nhiều nơi khác, gây ra những tổn hại khôn lường cho tất cả mọi người, từ Taylor Swift và các ngôi sao Hollywood đến học sinh trung học và cấp hai. Ví dụ, vào tháng 2 năm 2024, hình ảnh khỏa thân không được sự đồng ý của 16 học sinh lớp 8 do trí tuệ nhân tạo tạo ra đã được lan truyền trong học sinh tại một trường trung học cơ sở ở California.

Những hình ảnh này, gần như không thể phân biệt được với ảnh chụp thật, được sử dụng để tống tiền, bắt nạt, đe dọa và làm nhục phụ nữ và trẻ em gái. Cục Điều tra Liên bang (FBI) cũng đã cảnh báo về sự gia tăng các vụ tống tiền sử dụng hình ảnh khiêu dâm do trí tuệ nhân tạo tạo ra mà không có sự đồng ý. Tệ hơn nữa, các nạn nhân của hình ảnh khiêu dâm deepfake không được sự đồng ý hầu như không có cách nào để kiểm soát hình ảnh của chính mình sau khi những hình ảnh deepfake bị phát tán.

Các trang web này cung cấp giao diện thân thiện với người dùng để tải lên hình ảnh người thật mặc quần áo nhằm "cởi bỏ" hình ảnh phụ nữ và trẻ em gái, từ đó tạo ra các phiên bản khiêu dâm chân thực. Các trang web này yêu cầu người dùng đăng ký hoặc trả phí để tạo ra hình ảnh khỏa thân, thu lợi nhuận từ hình ảnh khiêu dâm không được sự đồng ý của trẻ em và người lớn. Tổng cộng, các trang web này đã được truy cập hàng trăm triệu lần chỉ trong năm ngoái.

Một trong những trang web của bị cáo đặc biệt quảng bá tính chất không được sự đồng ý của các hình ảnh, tuyên bố rằng “Hãy tưởng tượng bạn lãng phí thời gian hẹn hò với cô ấy, trong khi bạn chỉ cần sử dụng [trang web] để có được ảnh khỏa thân của cô ấy.”

Một số trang web cho phép người dùng tạo ra hình ảnh khiêu dâm không được sự đồng ý của người lớn, nhưng một số khác lại cho phép người dùng tạo ra hình ảnh khiêu dâm không được sự đồng ý của trẻ em. Trước khi bị đóng cửa, các trang web thuộc sở hữu của Briver LLC cho phép người dùng tạo ra hình ảnh khiêu dâm không được sự đồng ý của cả người lớn và trẻ em.

Vào tháng 8 năm 2024, Văn phòng Luật sư Thành phố đã đệ đơn kiện chủ sở hữu của 16 trang web được truy cập nhiều nhất thế giới, những trang web mời người dùng tạo ra hình ảnh khỏa thân không được sự đồng ý của phụ nữ và trẻ em gái. Vụ kiện, được đệ trình thay mặt cho Nhân dân Tiểu bang California, cáo buộc vi phạm luật tiểu bang và liên bang cấm phim khiêu dâm giả mạo (deepfake), lạm dụng hình ảnh và khiêu dâm trẻ em, cũng như vi phạm Luật Cạnh tranh Không lành mạnh của California. Nhân dân yêu cầu gỡ bỏ các trang web của bị cáo cũng như lệnh cấm vĩnh viễn để ngăn chặn bị cáo vận hành hoặc tạo ra các trang web tương tự. Vụ kiện cũng yêu cầu các hình phạt dân sự và chi phí cho việc khởi kiện.

Vào tháng 3 năm 2025, Văn phòng Luật sư Thành phố đã đệ trình đơn kiện sửa đổi, trong đó xác định các bị cáo chưa được biết đến trước đây sở hữu một số trang web lớn nhất thế giới chuyên tạo ra nội dung khiêu dâm deepfake không được sự đồng ý, và xác định thêm các trang web khác do các bị cáo này điều hành. Các bị cáo còn lại trong đơn kiện sửa đổi bao gồm Sol Ecom, Inc., Itai Tech Ltd., Defirex OÜ, CodeBionic Labs OÜ, Augustin Gribinets, Artem Ashirbekov, Bakhadyr Ashirbekov, Richard Tang và Gaofan Xu.

Trong quá trình điều tra các trang web này, một số nhà đăng ký tên miền và cơ quan đăng ký đã sẵn lòng hợp tác với Văn phòng Luật sư Thành phố trong việc gỡ bỏ các trang web này. Tính đến ngày 2 tháng 6 năm 2025, 10 trang web được truy cập nhiều nhất chuyên tạo ra nội dung khiêu dâm deepfake không được sự đồng ý hiện đã ngừng hoạt động hoặc không còn truy cập được ở California.

Bản án thỏa thuận và lệnh cấm vĩnh viễn đối với bị cáo Briver LLC đã được Tòa án cấp cao San Francisco phê chuẩn vào ngày 30 tháng 5 năm 2025. Thỏa thuận dàn xếp yêu cầu Briver LLC phải trả cho Thành phố 100.000 đô la tiền phạt dân sự và ngăn cấm họ vận hành các trang web tạo ra nội dung khiêu dâm deepfake không được sự đồng ý.

Vụ kiện là People of the State of California v. Sol Ecom, Inc, et al., Tòa án cấp cao San Francisco, Số vụ án CGC-24-617237.

Mẹo
Bất kỳ ai là nạn nhân của nội dung khiêu dâm deepfake không được sự đồng ý hoặc có thông tin liên quan, đều được hoan nghênh và khuyến khích liên hệ với Văn phòng Luật sư Thành phố thông qua cổng thông tin khiếu nại người tiêu dùng trực tuyến hoặc đường dây nóng theo số (415) 554-3977.