Isinara ng City Attorney ang 10 website na gumagawa ng mga deepfake pornography na hindi ayon sa konsensual na pahintulot.

SAN FRANCISCO, CA (Hunyo 2, 2025) – Inihayag ngayon ng Abugado ng Lungsod ng San Francisco na si David Chiu na bilang resulta ng kanyang patuloy na kaso at imbestigasyon, sumang-ayon ang Nasasakdal na Briver LLC sa isang permanenteng utos na nagbabawal sa kumpanya at sa mga may-ari nito na magpatakbo ng anumang mga website na lumilikha ng mga hindi pinagkakasunduang deepfake na pornograpiya. Sumang-ayon din ang kumpanya na bayaran ang Tanggapan ng Abugado ng Lungsod ng $100,000 bilang mga sibil na parusa. Iginiit ng kaso ng Abugado ng Lungsod na ang Briver LLC ay nagpatakbo ng dalawang website na ginagamit upang makabuo ng mga hindi pinagkakasunduang deepfake.

Magpapatuloy ang kaso ng City Attorney laban sa mga natitirang Akusado, kabilang ang mga bagong website at may-ari na kinilala sa susog na reklamo. Inaakusahan ng kaso na nilalabag ng mga may-ari at operator ng website na ito ang mga batas ng estado at pederal na nagbabawal sa deepfake pornography, revenge pornography, at child pornography. Bilang resulta ng kaso at imbestigasyon, sa ngayon ay 10 sa mga pinakabinibisitang website sa mundo na lumilikha ng nonconsensual deepfake pornography ay offline na ngayon o hindi na maa-access sa California.

“Bagama't ang aming kaso ay humantong na sa isang paunang kasunduan at nakapagsara na rin ng 10 website na nagsasamantala sa mga kababaihan at bata, hindi kami titigil hangga't hindi nananagot ang lahat ng may-ari at naharangan sa pagbubukas ng mga katulad na site,” sabi ni City Attorney Chiu . “Bagama't may napakalaking pangako ang generative AI, ang mga operator ng website na ito ay nakikibahagi sa tahasang sekswal na pang-aabuso at dapat pigilan. Umaasa kami na ang unang kasunduang ito na permanenteng pumipigil sa Briver sa pagpapatakbo ng mga site na ito ay magmamarka ng isang trend para sa aming mga natitirang Akusado.”

Kaligiran
Ang pagkakaroon ng libre, sopistikado, at open-source na mga modelo ng AI ay nagbigay-daan sa masasamang aktor na samantalahin at higit pang sanayin at paunlarin ang mga modelong ito para sa kanilang sariling mga layunin. Sinanay na ngayon ng masasamang aktor ang mga modelo ng pagbuo ng imahe ng AI sa mga pornograpikong imahe at mga materyales sa pang-aabusong sekswal sa bata, upang magamit ang mga ito upang makabuo ng mga hubad na imahe ng mga tunay at makikilalang kababaihan at batang babae nang walang kanilang pahintulot.

Ang nakakabahalang penomenong ito ay nakaapekto sa mga kababaihan at mga batang babae sa California at sa iba pang lugar, na nagdulot ng napakalaking pinsala sa lahat mula kay Taylor Swift at mga kilalang tao sa Hollywood hanggang sa mga estudyante sa high school at middle school. Halimbawa, noong Pebrero 2024, ang mga hubad na larawan ng 16 na estudyante sa ikawalong baitang na nabuo ng AI ay kumalat sa mga estudyante sa isang middle school sa California.

Ang mga larawang ito, na halos hindi mapag-iba sa mga totoong litrato, ay ginagamit upang mangikil, manakot, magbanta, at manghiya ng mga kababaihan at batang babae. Nagbabala rin ang Federal Bureau of Investigation tungkol sa pagtaas ng mga pakana ng pangingikil gamit ang nonconsensual AI-generated pornography. Mas malala pa, ang mga biktima ng nonconsensual deepfake pornography ay halos walang nakitang paraan o kakayahang kontrolin ang kanilang sariling imahe matapos maipamahagi ang mga deepfake na imahe.

Nag-aalok ang mga website na ito ng mga user-friendly na interface para sa pag-upload ng mga nakadamit na larawan ng mga totoong tao upang "hubaran" ang mga larawan ng mga babae at batang babae at makabuo ng mga makatotohanang bersyon ng pornograpiko. Kinakailangan ng mga website ang mga user na mag-subscribe o magbayad upang makabuo ng mga hubad na larawan, na kumikita mula sa mga hindi pinagkasunduang pornograpikong larawan ng mga bata at matatanda. Sama-sama, ang mga site na ito ay nabisita na daan-daang milyong beses sa nakaraang taon lamang.

Partikular na itinataguyod ng website ng isang akusado ang pagiging walang pahintulot ng mga larawan, na nagsasabing "Isipin mong nag-aaksaya ka ng oras na isama siya sa mga date, kung kailan puwede mo namang gamitin ang [website] para makuha ang mga hubad niyang larawan."

Ang ilang mga website ay nagpapahintulot sa mga user na lumikha ng mga larawang pornograpiko ng mga nasa hustong gulang na walang pahintulot lamang, ngunit ang iba ay nagpapahintulot sa mga user na lumikha ng mga larawang pornograpiko ng mga bata na walang pahintulot. Bago ito isinara, ang mga website na pagmamay-ari ng Briver LLC ay nagpapahintulot sa mga user na lumikha ng mga larawang pornograpiko ng mga nasa hustong gulang at bata na walang pahintulot.

Noong Agosto 2024, nagsampa ng kaso ang City Attorney laban sa mga may-ari ng 16 na pinakabinibisitang website sa mundo na nag-aanyaya sa mga user na lumikha ng mga hubad na larawan ng mga babae at batang babae nang walang pahintulot. Ang kaso, na isinampa para sa People of the State of California, ay nag-aakusa ng mga paglabag sa mga batas ng estado at pederal na nagbabawal sa deepfake pornography, pang-aabuso batay sa imahe, at child pornography, pati na rin ang mga paglabag sa Unfair Competition Law ng California. Hinihiling ng People ang pag-alis ng mga website ng mga Akusado pati na rin ang injunctive relief upang permanenteng pigilan ang mga Akusado sa pagpapatakbo o paglikha ng mga katulad na website. Humihingi rin ang kaso ng mga sibil na parusa at gastos para sa pagsasampa ng kaso.

Noong Marso 2025, naghain ang City Attorney ng isang susog na reklamo na nagpakilala sa mga dating hindi kilalang akusado na nagmamay-ari ng ilan sa pinakamalalaking website sa mundo na lumilikha ng mga hindi pinagkakasunduang deepfake pornography at nagpakilala ng mga karagdagang website na pinapatakbo ng mga akusado. Kabilang sa mga natitirang Akusado sa susog na reklamo ang Sol Ecom, Inc., Itai Tech Ltd., Defirex OÜ, CodeBionic Labs OÜ, Augustin Gribinets, Artem Ashirbekov, Bakhadyr Ashirbekov, Richard Tang, at Gaofan Xu.

Sa panahon ng imbestigasyon sa mga website na ito, may ilang domain registrar at registry na handang makipagtulungan sa City Attorney's Office sa pagtanggal sa mga site na ito. Simula Hunyo 2, 2025, 10 sa mga pinakabinibisitang website na lumilikha ng mga nonconsensual deepfake pornography ay offline na ngayon o hindi na maa-access sa California.

Ang itinakdang hatol at permanenteng utos ng hukuman sa Nasasakdal na Briver LLC ay inaprubahan ng San Francisco Superior Court noong Mayo 30, 2025. Ang kasunduan sa pag-aayos ay nag-aatas sa Briver LLC na magbayad sa Lungsod ng $100,000 bilang mga sibil na multa at pinipigilan sila sa pagpapatakbo ng mga website na lumilikha ng mga hindi pinagkasunduang deepfake na pornograpiya.

Ang kaso ay People of the State of California v. Sol Ecom, Inc, et al., San Francisco Superior Court, Case No. CGC-24-617237.

Mga Tip
Ang sinumang naging biktima ng hindi pinagkakasunduang deepfake pornography o may kaugnay na impormasyon ay malugod na tinatanggap at hinihikayat na makipag-ugnayan sa Tanggapan ng Abugado ng Lungsod sa pamamagitan ng web portal o hotline ng reklamo ng mamimili sa (415) 554-3977.