Fiscal de la ciudad demanda a los sitios web más visitados que crean pornografía deepfake no consensuada

SAN FRANCISCO (15 de agosto de 2024) — El fiscal de la ciudad de San Francisco, David Chiu, anunció hoy una demanda inédita contra algunos de los sitios web más grandes del mundo que crean y distribuyen pornografía no consentida generada por IA. La proliferación de imágenes pornográficas deepfake no consentidas ha explotado a mujeres y niñas reales en todo el mundo. La demanda, presentada contra los propietarios de 16 de los sitios web más visitados que invitan a los usuarios a crear imágenes de desnudos no consentidos de mujeres y niñas, alega que los propietarios y operadores de los sitios web violan las leyes estatales y federales que prohíben la pornografía deepfake, la pornografía de venganza y la pornografía infantil.

“Esta investigación nos ha llevado a los rincones más oscuros de internet, y estoy absolutamente horrorizado por las mujeres y niñas que han tenido que soportar esta explotación”, declaró el fiscal municipal David Chiu . “La IA generativa es muy prometedora, pero como ocurre con todas las nuevas tecnologías, conlleva consecuencias imprevistas y delincuentes que buscan explotarla. Debemos ser muy claros: esto no es innovación, sino abuso sexual. Se trata de un problema grave y multifacético que, como sociedad, debemos resolver cuanto antes. Todos debemos hacer nuestra parte para acabar con los delincuentes que utilizan la IA para explotar y abusar de personas reales, incluidos los niños”.

Fondo
La disponibilidad de modelos de IA gratuitos, sofisticados y de código abierto ha permitido a actores maliciosos explotar, entrenar y desarrollar estos modelos para sus propios fines. Actualmente, han entrenado modelos de generación de imágenes de IA con imágenes pornográficas y materiales de abuso sexual infantil, de modo que puedan utilizarse para generar imágenes de desnudos de mujeres y niñas reales e identificables sin su consentimiento.

Este inquietante fenómeno ha afectado a mujeres y niñas en California y otros lugares, causando un daño inconmensurable a todos, desde Taylor Swift y celebridades de Hollywood hasta estudiantes de secundaria y preparatoria. Por ejemplo, en febrero de 2024, imágenes de desnudos no consensuados generadas por IA de 16 estudiantes de octavo grado circularon entre estudiantes de una escuela secundaria de California.

Estas imágenes, prácticamente indistinguibles de las fotografías reales, se utilizan para extorsionar, intimidar, amenazar y humillar a mujeres y niñas. El FBI también ha advertido sobre un aumento en los esquemas de extorsión que utilizan pornografía no consentida generada por IA. Peor aún, las víctimas de pornografía deepfake no consentida prácticamente no han encontrado ningún recurso ni posibilidad de controlar su propia imagen tras la distribución de imágenes deepfake.

Los demandados poseen y operan 16 de los sitios web más visitados del mundo que ofrecen imágenes de mujeres y niñas desnudas. Estos sitios web ofrecen interfaces intuitivas para subir imágenes de personas reales vestidas y generar versiones pornográficas realistas. Estos sitios web requieren que los usuarios se suscriban o paguen para generar imágenes de desnudos, lucrándose así con imágenes pornográficas no consentidas de niños y adultos. En conjunto, estos sitios web han recibido más de 200 millones de visitas solo en el primer semestre de 2024.

Algunos sitios web permiten a los usuarios crear imágenes pornográficas no consensuadas sólo de adultos, pero otros permiten a los usuarios crear imágenes pornográficas no consensuadas de niños.

El sitio web de uno de los acusados ​​promueve específicamente la naturaleza no consensuada de las imágenes, afirmando: "Imagínese perder el tiempo llevándola a citas, cuando puede usar [sitio web] para obtener sus desnudos".

La demanda, presentada en nombre del Pueblo del Estado de California, alega violaciones de las leyes estatales y federales que prohíben la pornografía deepfake, la pornografía de venganza y la pornografía infantil, así como violaciones de la Ley de Competencia Desleal de California. El Pueblo solicita la eliminación de los sitios web de los Demandados, así como medidas cautelares para impedirles permanentemente participar en esta conducta ilegal. La demanda también solicita sanciones civiles y el pago de costas judiciales.

El caso es Pueblo del Estado de California contra Sol Ecom, Inc., et al., Tribunal Superior de San Francisco. Consulte una versión redactada de la demanda .

Consejos
Cualquier persona que haya sido víctima de pornografía deepfake no consensuada o que tenga información relevante, es bienvenida y se le anima a comunicarse con la Oficina del Fiscal de la Ciudad a través de su portal web de quejas de consumidores o su línea directa al (415) 554-3977.