Kinasuhan ng City Attorney ang mga website na pinakamadalas bisitahin na lumilikha ng mga deepfake pornography na hindi pinagkasunduan

SAN FRANCISCO (Agosto 15, 2024) — Inihayag ngayon ng Abugado ng Lungsod ng San Francisco na si David Chiu ang isang kauna-unahang kaso laban sa ilan sa pinakamalalaking website sa mundo na lumilikha at namamahagi ng hindi pinagkakasunduang pornograpiyang nilikha ng AI. Ang paglaganap ng mga hindi pinagkakasunduang deepfake na imahe ng pornograpiko ay sinamantala ang mga totoong babae at batang babae sa buong mundo. Ang kaso, na isinampa laban sa mga may-ari ng 16 sa mga pinakabinibisitang website na nag-aanyaya sa mga gumagamit na lumikha ng mga hindi pinagkakasunduang hubad na imahe ng mga babae at batang babae, ay nagsasabing nilalabag ng mga may-ari at operator ng website ang mga batas ng estado at pederal na nagbabawal sa deepfake na pornograpiya, revenge pornography, at child pornography.

“Dinala tayo ng imbestigasyong ito sa pinakamadilim na sulok ng internet, at lubos akong natakot para sa mga kababaihan at batang babae na kinailangang tiisin ang pagsasamantalang ito,” sabi ng City Attorney na si David Chiu . “Ang generative AI ay may napakalaking pangako, ngunit tulad ng lahat ng mga bagong teknolohiya, may mga hindi inaasahang kahihinatnan at mga kriminal na naghahangad na pagsamantalahan ang bagong teknolohiya. Kailangan nating maging napakalinaw na hindi ito inobasyon—ito ay sekswal na pang-aabuso. Ito ay isang malaki at maraming aspeto na problema na kailangan nating, bilang isang lipunan, na lutasin sa lalong madaling panahon. Kailangan nating lahat na gawin ang ating bahagi upang supilin ang mga masasamang aktor na gumagamit ng AI upang pagsamantalahan at abusuhin ang mga totoong tao, kabilang ang mga bata.”

Kaligiran
Ang pagkakaroon ng libre, sopistikado, at open-source na mga modelo ng AI ay nagbigay-daan sa masasamang aktor na samantalahin at higit pang sanayin at paunlarin ang mga modelong ito para sa kanilang sariling mga layunin. Sinanay na ngayon ng masasamang aktor ang mga modelo ng pagbuo ng imahe ng AI sa mga pornograpikong imahe at mga materyales sa pang-aabusong sekswal sa bata, upang magamit ang mga ito upang makabuo ng mga hubad na imahe ng mga tunay at makikilalang kababaihan at batang babae nang walang kanilang pahintulot.

Ang nakakabahalang penomenong ito ay nakaapekto sa mga kababaihan at mga batang babae sa California at sa iba pang lugar, na nagdulot ng napakalaking pinsala sa lahat mula kay Taylor Swift at mga kilalang tao sa Hollywood hanggang sa mga estudyante sa high school at middle school. Halimbawa, noong Pebrero 2024, ang mga hubad na larawan ng 16 na estudyante sa ikawalong baitang na nabuo ng AI ay kumalat sa mga estudyante sa isang middle school sa California.

Ang mga larawang ito, na halos hindi mapag-iba sa mga totoong litrato, ay ginagamit upang mangikil, manakot, magbanta, at manghiya ng mga kababaihan at batang babae. Nagbabala rin ang Federal Bureau of Investigation tungkol sa pagtaas ng mga pakana ng pangingikil gamit ang nonconsensual AI-generated pornography. Mas malala pa, ang mga biktima ng nonconsensual deepfake pornography ay halos walang nakitang paraan o kakayahang kontrolin ang kanilang sariling imahe matapos maipamahagi ang mga deepfake na larawan.

Ang mga akusado ay nagmamay-ari at nagpapatakbo ng 16 sa mga pinakabinibisitang website sa mundo na nag-aalok ng "paghuhubad" ng mga larawan ng mga babae at batang babae. Nag-aalok ang mga website na ito ng mga user-friendly na interface para sa pag-upload ng mga nakadamit na larawan ng mga totoong tao upang makabuo ng mga makatotohanang pornograpikong bersyon ng mga larawang iyon. Ang mga website na ito ay nangangailangan ng mga user na mag-subscribe o magbayad upang makabuo ng mga hubad na larawan, na kumikita mula sa mga hindi pinagkasunduang pornograpikong larawan ng mga bata at matatanda. Sama-sama, ang mga website na ito ay nabisita na ng mahigit 200 milyong beses sa unang anim na buwan lamang ng 2024.

Ang ilang mga website ay nagpapahintulot sa mga gumagamit na lumikha lamang ng mga pornograpikong larawan ng mga nasa hustong gulang nang walang pahintulot, ngunit ang iba ay nagpapahintulot sa mga gumagamit na lumikha lamang ng mga pornograpikong larawan ng mga bata nang walang pahintulot.

Partikular na itinataguyod ng website ng isang akusado ang pagiging walang pahintulot ng mga larawan, na nagsasabing "Isipin mong nag-aaksaya ka ng oras na isama siya sa mga date, kung kailan puwede mo namang gamitin ang [website] para makuha ang mga hubad niyang larawan."

Ang kaso, na isinampa para sa mga Tao ng Estado ng California, ay nag-aakusa ng mga paglabag sa mga batas ng estado at pederal na nagbabawal sa deepfake pornography, revenge pornography, at child pornography, pati na rin ang mga paglabag sa Unfair Competition Law ng California. Hinihiling ng mga Tao ang pag-alis ng mga website ng mga Nasasakdal pati na rin ang injunctive relief upang permanenteng pigilan ang mga Nasasakdal sa pakikisangkot sa ilegal na pag-uugaling ito. Hinihiling din ng kaso ang mga sibil na parusa at mga gastos para sa pagsasampa ng kaso.

Ang kaso ay People of the State of California v. Sol Ecom, Inc, et al., San Francisco Superior Court. Tingnan ang isang binagong bersyon ng reklamo .

Mga Tip
Ang sinumang naging biktima ng hindi pinagkakasunduang deepfake pornography o may kaugnay na impormasyon ay malugod na tinatanggap at hinihikayat na makipag-ugnayan sa Tanggapan ng Abugado ng Lungsod sa pamamagitan ng web portal o hotline ng reklamo ng mamimili sa (415) 554-3977.