El Fiscal de la Ciudad cierra 10 sitios web que crean pornografía deepfake no consensuada

SAN FRANCISCO, CA (2 de junio de 2025) – El Fiscal de la Ciudad de San Francisco, David Chiu, anunció hoy que, como resultado de su demanda e investigación en curso, la empresa demandada Briver LLC ha acordado una orden judicial permanente que prohíbe a la empresa y a sus propietarios operar cualquier sitio web que genere pornografía deepfake no consentida. La empresa también ha acordado pagar a la Fiscalía de la Ciudad $100,000 en sanciones civiles. La demanda del Fiscal de la Ciudad alega que Briver LLC operaba dos sitios web utilizados para generar deepfakes no consentidos.

La demanda del Fiscal Municipal procederá contra los demás Demandados, incluyendo los nuevos sitios web y propietarios identificados en la demanda enmendada. La demanda alega que estos propietarios y operadores de sitios web violan las leyes estatales y federales que prohíben la pornografía deepfake, la pornografía de venganza y la pornografía infantil. Como resultado de la demanda y la investigación, hasta la fecha, 10 de los sitios web más visitados del mundo que generan pornografía deepfake no consentida se encuentran fuera de línea o ya no son accesibles en California.

“Si bien nuestra demanda ha dado lugar hasta ahora a un acuerdo inicial y al cierre de 10 sitios web que explotan a mujeres y niños, no nos detendremos hasta que todos los propietarios rindan cuentas y se les impida abrir sitios similares”, declaró el fiscal municipal Chiu . “Si bien la IA generativa es muy prometedora, estos operadores de sitios web cometen abusos sexuales flagrantes y deben ser detenidos. Esperamos que este primer acuerdo, que impide permanentemente a Briver operar estos sitios, marque una tendencia para los demás demandados”.

Fondo
La disponibilidad de modelos de IA gratuitos, sofisticados y de código abierto ha permitido a actores maliciosos explotar, entrenar y desarrollar estos modelos para sus propios fines. Actualmente, han entrenado modelos de generación de imágenes de IA con imágenes pornográficas y materiales de abuso sexual infantil, de modo que puedan utilizarse para generar imágenes de desnudos de mujeres y niñas reales e identificables sin su consentimiento.

Este inquietante fenómeno ha afectado a mujeres y niñas en California y otros lugares, causando un daño inconmensurable a todos, desde Taylor Swift y celebridades de Hollywood hasta estudiantes de secundaria y preparatoria. Por ejemplo, en febrero de 2024, imágenes de desnudos no consensuados generadas por IA de 16 estudiantes de octavo grado circularon entre estudiantes de una escuela secundaria de California.

Estas imágenes, prácticamente indistinguibles de las fotografías reales, se utilizan para extorsionar, intimidar, amenazar y humillar a mujeres y niñas. El FBI también ha advertido sobre un aumento en los esquemas de extorsión que utilizan pornografía no consentida generada por IA. Peor aún, las víctimas de pornografía deepfake no consentida prácticamente no han encontrado ningún recurso ni posibilidad de controlar su propia imagen tras la distribución de imágenes deepfake.

Estos sitios web ofrecen interfaces intuitivas para subir imágenes de personas reales vestidas, desvestir imágenes de mujeres y niñas y generar versiones pornográficas realistas. Requieren que los usuarios se suscriban o paguen para generar imágenes de desnudos, lucrando con imágenes pornográficas no consentidas de niños y adultos. En conjunto, estos sitios han recibido cientos de millones de visitas solo el año pasado.

El sitio web de uno de los acusados ​​promueve específicamente la naturaleza no consensuada de las imágenes, afirmando: "Imagínese perder el tiempo llevándola a citas, cuando puede usar [sitio web] para obtener sus desnudos".

Algunos sitios web permiten a los usuarios crear imágenes pornográficas no consentidas solo de adultos, mientras que otros permiten crear imágenes pornográficas no consentidas de niños. Antes de su cierre, los sitios web propiedad de Briver LLC permitían a los usuarios crear imágenes pornográficas no consentidas tanto de adultos como de niños.

En agosto de 2024, el Fiscal de la Ciudad presentó una demanda contra los propietarios de los 16 sitios web más visitados del mundo, que invitan a los usuarios a crear imágenes no consensuadas de desnudos de mujeres y niñas. La demanda, presentada en nombre del Pueblo del Estado de California, alega violaciones de las leyes estatales y federales que prohíben la pornografía deepfake, el abuso basado en imágenes y la pornografía infantil, así como violaciones de la Ley de Competencia Desleal de California. El Pueblo solicita la eliminación de los sitios web de los Demandados, así como una medida cautelar para impedirles permanentemente operar o crear sitios web similares. La demanda también solicita sanciones civiles y el pago de costas judiciales.

En marzo de 2025, el Fiscal de la Ciudad presentó una demanda enmendada que identificó a los acusados, previamente desconocidos, propietarios de algunos de los sitios web más grandes del mundo que generan pornografía deepfake no consentida, e identificó otros sitios web operados por los acusados. Los demás acusados ​​en la demanda enmendada incluyen a Sol Ecom, Inc., Itai Tech Ltd., Defirex OÜ, CodeBionic Labs OÜ, Augustin Gribinets, Artem Ashirbekov, Bakhadyr Ashirbekov, Richard Tang y Gaofan Xu.

Durante la investigación de estos sitios web, ciertos registradores de dominios se mostraron dispuestos a cooperar con la Fiscalía Municipal para desmantelarlos. A partir del 2 de junio de 2025, 10 de los sitios web más visitados que generan pornografía deepfake no consensuada se encuentran fuera de línea o inaccesibles en California.

El 30 de mayo de 2025, el Tribunal Superior de San Francisco aprobó la sentencia estipulada y la orden judicial permanente contra el demandado Briver LLC. El acuerdo de conciliación requiere que Briver LLC pague a la Ciudad $100,000 en multas civiles y les impide operar sitios web que creen pornografía deepfake no consensuada.

El caso es People of the State of California v. Sol Ecom, Inc, et al., Tribunal Superior de San Francisco, Caso No. CGC-24-617237.

Consejos
Cualquier persona que haya sido víctima de pornografía deepfake no consensuada o que tenga información relevante, es bienvenida y se le anima a comunicarse con la Oficina del Fiscal de la Ciudad a través de su portal web de quejas de consumidores o su línea directa al (415) 554-3977.