Luật sư thành phố khởi kiện các trang web được truy cập nhiều nhất vì tạo ra nội dung khiêu dâm giả mạo (deepfake) không được sự đồng ý.

SAN FRANCISCO (15 tháng 8 năm 2024) — Luật sư thành phố San Francisco, David Chiu, hôm nay đã công bố một vụ kiện chưa từng có tiền lệ chống lại một số trang web lớn nhất thế giới chuyên tạo ra và phân phối nội dung khiêu dâm giả mạo do trí tuệ nhân tạo tạo ra mà không có sự đồng ý của người dùng. Sự lan tràn của hình ảnh khiêu dâm giả mạo (deepfake) không được sự đồng ý đã bóc lột phụ nữ và trẻ em gái trên toàn cầu. Vụ kiện, được đệ trình chống lại chủ sở hữu của 16 trang web được truy cập nhiều nhất, nơi mời người dùng tạo ra hình ảnh khỏa thân không được sự đồng ý của phụ nữ và trẻ em gái, cáo buộc chủ sở hữu và người điều hành trang web vi phạm luật tiểu bang và liên bang cấm nội dung khiêu dâm giả mạo (deepfake), nội dung khiêu dâm trả thù và nội dung khiêu dâm trẻ em.

“Cuộc điều tra này đã đưa chúng ta đến những góc tối nhất của internet, và tôi vô cùng kinh hoàng cho những phụ nữ và trẻ em gái đã phải chịu đựng sự bóc lột này,” Luật sư thành phố David Chiu cho biết. “Trí tuệ nhân tạo tạo sinh (Generative AI) có tiềm năng rất lớn, nhưng cũng như tất cả các công nghệ mới, nó đều có những hậu quả không lường trước được và những kẻ tội phạm đang tìm cách lợi dụng công nghệ mới này. Chúng ta phải khẳng định rõ ràng rằng đây không phải là sự đổi mới – đây là lạm dụng tình dục. Đây là một vấn đề lớn, đa diện mà chúng ta, với tư cách là một xã hội, cần phải giải quyết càng sớm càng tốt. Tất cả chúng ta cần phải làm phần việc của mình để trấn áp những kẻ xấu sử dụng AI để bóc lột và lạm dụng con người, bao gồm cả trẻ em.”

Lý lịch
Việc có sẵn các mô hình AI mã nguồn mở, tinh vi và miễn phí đã cho phép các đối tượng xấu lợi dụng, huấn luyện và phát triển thêm các mô hình này cho mục đích riêng của chúng. Hiện nay, các đối tượng xấu đã huấn luyện các mô hình tạo ảnh AI dựa trên hình ảnh khiêu dâm và tài liệu lạm dụng tình dục trẻ em, để chúng có thể được sử dụng nhằm tạo ra hình ảnh khỏa thân của phụ nữ và trẻ em gái có thật, có thể nhận dạng được mà không cần sự đồng ý của họ.

Hiện tượng đáng lo ngại này đã ảnh hưởng đến phụ nữ và trẻ em gái ở California và nhiều nơi khác, gây ra những tổn hại khôn lường cho tất cả mọi người, từ Taylor Swift và các ngôi sao Hollywood đến học sinh trung học và cấp hai. Ví dụ, vào tháng 2 năm 2024, hình ảnh khỏa thân không được sự đồng ý của 16 học sinh lớp 8 do trí tuệ nhân tạo tạo ra đã được lan truyền trong học sinh tại một trường trung học cơ sở ở California.

Những hình ảnh này, gần như không thể phân biệt được với ảnh chụp thật, được sử dụng để tống tiền, bắt nạt, đe dọa và làm nhục phụ nữ và trẻ em gái. Cục Điều tra Liên bang (FBI) cũng đã cảnh báo về sự gia tăng các âm mưu tống tiền bằng cách sử dụng hình ảnh khiêu dâm do trí tuệ nhân tạo tạo ra mà không có sự đồng ý. Tệ hơn nữa, các nạn nhân của hình ảnh khiêu dâm deepfake không được sự đồng ý hầu như không có cách nào để kiểm soát hình ảnh của chính mình sau khi những hình ảnh deepfake bị phát tán.

Các bị cáo sở hữu và điều hành 16 trang web được truy cập nhiều nhất thế giới, chuyên cung cấp dịch vụ “cởi đồ” hình ảnh phụ nữ và trẻ em gái. Các trang web này cung cấp giao diện thân thiện với người dùng để tải lên hình ảnh người thật mặc quần áo nhằm tạo ra các phiên bản khiêu dâm chân thực từ những hình ảnh đó. Các trang web này yêu cầu người dùng đăng ký hoặc trả phí để tạo ra hình ảnh khỏa thân, thu lợi nhuận từ hình ảnh khiêu dâm không được sự đồng ý của trẻ em và người lớn. Tổng cộng, các trang web này đã được truy cập hơn 200 triệu lần chỉ trong sáu tháng đầu năm 2024.

Một số trang web cho phép người dùng tạo ra hình ảnh khiêu dâm không được sự đồng ý của người lớn, nhưng một số khác lại cho phép người dùng tạo ra hình ảnh khiêu dâm không được sự đồng ý của trẻ em.

Một trong những trang web của bị cáo đặc biệt quảng bá tính chất không được sự đồng ý của các hình ảnh, tuyên bố rằng “Hãy tưởng tượng bạn lãng phí thời gian hẹn hò với cô ấy, trong khi bạn chỉ cần sử dụng [trang web] để có được ảnh khỏa thân của cô ấy.”

Vụ kiện, được đệ trình thay mặt cho Nhân dân Tiểu bang California, cáo buộc vi phạm luật tiểu bang và liên bang cấm phim khiêu dâm giả mạo (deepfake pornography), phim khiêu dâm trả thù (revenge pornography) và phim khiêu dâm trẻ em, cũng như vi phạm Luật Cạnh tranh Không lành mạnh của California. Nhân dân yêu cầu gỡ bỏ các trang web của bị cáo cũng như lệnh cấm vĩnh viễn để ngăn chặn bị cáo tham gia vào hành vi bất hợp pháp này. Vụ kiện cũng yêu cầu các khoản phạt dân sự và chi phí cho việc khởi kiện.

Vụ kiện là People of the State of California v. Sol Ecom, Inc, et al., Tòa án cấp cao San Francisco. Xem phiên bản đã được biên tập lại của đơn kiện .

Mẹo
Bất kỳ ai là nạn nhân của nội dung khiêu dâm deepfake không được sự đồng ý hoặc có thông tin liên quan, đều được hoan nghênh và khuyến khích liên hệ với Văn phòng Luật sư Thành phố thông qua cổng thông tin khiếu nại người tiêu dùng trực tuyến hoặc đường dây nóng theo số (415) 554-3977.