Directrices de IA generativa de San Francisco

Las 5 pautas principales para explorar con IA generativa

1. Eres responsable
   Independientemente de que lo haya creado una IA o un humano, usted es responsable de todo lo que use o comparta.
2. Utilice herramientas seguras
   Copilot Chat está aprobado para el uso municipal y está disponible para todo el personal. Evite las herramientas de inteligencia artificial públicas o para consumidores a menos que estén aprobadas formalmente; nunca introduzca datos confidenciales ni del Ayuntamiento en ellas.
3. Compruebe siempre la salida
   La IA no siempre tiene razón. Revisa, edita, verifica y prueba todo lo que genera.
4. Sea transparente
   Divulgue el uso de IA en trabajos de cara al público o sensibles. Registre las herramientas en el inventario 22J de la ciudad y notifique a cualquier persona directamente afectada.
5. No se permiten deepfakes
   No utilice IA para crear imágenes, audios, vídeos u otros contenidos falsos que alguien pueda interpretar erróneamente como reales.

Introducción y alcance

Las herramientas de inteligencia artificial generativa empresarial (GenAI) adquiridas y autorizadas por el Departamento de Tecnología (DT) ahora están disponibles para que las use el personal de la Ciudad y el Condado de San Francisco (Ciudad), lo que abre nuevas oportunidades para mejorar la eficacia, la eficiencia y la capacidad de respuesta de los servicios de la Ciudad para todos los habitantes de San Francisco.

Estas pautas están diseñadas para ayudar al personal de la Ciudad a utilizar las herramientas GenAI de manera eficaz y responsable, al tiempo que mantienen la confianza pública, protegen los datos de los residentes y preservan la integridad de los sistemas de la Ciudad.

Con algunas distinciones importantes, las directrices descritas se aplican a ambos:

• Herramientas de GenAI empresarial , como ChatGPT Enterprise, Microsoft Copilot, Snowflake Cortex, aplicaciones de Adobe y Express, y otros sistemas aprobados, con licencia y gestión del Departamento de Tecnología (DT). Estas herramientas se han adquirido y configurado para el uso municipal y permiten el uso de datos confidenciales municipales (y restringen el uso de datos municipales por parte de cualquier proveedor para el entrenamiento de IA).
• Herramientas GenAI públicas o para el consumidor : Si bien se desaconseja encarecidamente el uso de herramientas GenAI públicas o para el consumidor en asuntos municipales, reconocemos que aún pueden utilizarse en circunstancias limitadas. Si desea utilizar herramientas GenAI públicas o para el consumidor, debe obtener la aprobación previa del departamento.

Directrices de la ciudad para el uso de la IA generativa

Los usos de GenAI que se describen a continuación están agrupados por nivel de riesgo, cada uno con estrategias de mitigación y requisitos de divulgación correspondientes.

Como regla general, los empleados municipales siempre deben revisar, editar, verificar, validar y/o probar exhaustivamente su contenido, según corresponda. Usted es el responsable final del contenido que use o comparta.

Uso de bajo riesgo

Tareas de eficiencia interna realizadas mediante herramientas de IA generativa empresarial

Puede utilizar las herramientas de inteligencia artificial adquiridas por la Ciudad para:

• Redactar correos electrónicos, memorandos o comunicaciones internas.
• Crear resúmenes de reuniones, documentos o informes.
• Escribir, editar o depurar código.
• Generar esquemas o primeros borradores de materiales internos.
• Mejorar el acceso lingüístico entre el público en general y el personal de la ciudad.

Estos usos ayudan a mejorar la eficiencia y reducir la carga de trabajo, pero usted sigue siendo el revisor experto.

Salvaguardias y responsabilidades

La IA puede cometer errores o incluir información sesgada o desactualizada. Para usarla responsablemente:

• Trabaja únicamente con contenido que conozcas bien para poder detectar errores.
• Verifique siempre los datos y enlaces y fuentes.
• Revise y edite la salida de IA antes de usarla o compartirla.
• Utilice IA para codificar solo si conoce el lenguaje y puede probar el código.

Divulgación

No se necesita ninguna divulgación para la redacción interna, pero usted es responsable de todo el contenido que utiliza, incluidos los errores generados por IA.

Uso de riesgo medio a alto

Trabajos públicos o sensibles realizados con herramientas de IA generativa empresarial

Tenga especial cuidado y siga pasos adicionales cuando se utilicen herramientas de inteligencia artificial aprobadas por la Ciudad para realizar tareas que afecten la comunicación, los servicios o las decisiones públicas, como:

• Redactar o traducir contenido dirigido al público.
• Redacción de preguntas de entrevistas y materiales de selección para procesos de contratación.
• Resumen de datos relacionados con las políticas.
• Apoyar decisiones relacionadas con servicios, cumplimiento o elegibilidad.
• Contribuir a documentos que afecten a la regulación o la seguridad.

Para estos casos de uso, la IA puede servir como herramienta de apoyo, pero nunca debería tomar decisiones finales que afecten a las personas o a los resultados públicos.

Salvaguardias y responsabilidades

• Utilice GenAI solo si tiene un profundo conocimiento en la materia para poder revisar sus resultados.
• Alinear los resultados con los valores de la ciudad, los objetivos de equidad, la accesibilidad y los estándares éticos.
• Supervisar activamente los casos de sesgo y corregirlos manualmente.

Divulgación

• El uso de IA para trabajos públicos o sensibles debe documentarse a través del proceso 22J.
• Notificar a las personas afectadas cuando la IA contribuya sustancialmente a un producto de trabajo. Las notificaciones deben incluir:
  • Declaración de que se utilizó GenAI
  • Nombre/versión de la herramienta
  • Confirmación de la revisión del personal
  • Información de contacto para preguntas o correcciones
• Cite a AI como cualquier fuente externa al citar o parafrasear su resultado.
• Siempre verifique y cite fuentes originales, no solo resúmenes de IA, cuando haga referencia a contenido de terceros.

Usos prohibidos

Para proteger la confianza pública, la seguridad y los estándares éticos, no utilice las herramientas GenAI para ninguno de los siguientes fines:

• Confiar en la IA para crear documentos oficiales de la ciudad o tomar decisiones sin revisión humana experta.
• Generar imágenes, audio o vídeos que puedan confundirse con personas reales (incluidos funcionarios públicos o miembros del público).
• Crear “deepfakes” o suplantaciones de cualquier persona o funcionario, incluso con descargos de responsabilidad.
• Fabricar encuestados ficticios o aportaciones del público con fines de investigación o divulgación.
• Confiar en la IA para revisar cuestiones legales o regulatorias.

Requisitos de protección de datos

El uso de datos de la ciudad en herramientas de inteligencia artificial empresarial está sujeto a las siguientes restricciones:

• Para Copilot Chat y Snowflake , puedes usar datos de nivel 4 e inferiores ( niveles 1 a 4 ).
• Para ChatGPT Enterprise , puede utilizar datos de nivel 3 e inferiores ( niveles 1 a 3 ).
• Utilice su PHI (Información Médica Protegida) únicamente en herramientas que cuenten con un Acuerdo de Asociado Comercial (BAA), como Copilot Chat y Snowflake, sujeto a la aprobación de su departamento . Para verificar qué tipos de datos específicos del departamento se permiten con las herramientas aprobadas por la Ciudad, consulte siempre con su departamento. 
• No ingrese ningún dato confidencial o protegido, incluida información personal, información de salud o información financiera, en herramientas de inteligencia artificial públicas o de consumo que no estén previstas o aprobadas para el uso de la Ciudad.

Desarrollo de directrices, control de versiones y contacto

El Equipo de Tecnología Emergente desarrolló estas pautas actualizadas centradas en GenAI en estrecha coordinación con el Comité Asesor de IA de la Ciudad, un grupo de trabajo del personal que brinda orientación sobre la adopción, la gobernanza y el uso ético de las tecnologías emergentes en la Ciudad.

El Comité Asesor de IA actualizará periódicamente las Directrices Municipales para el Uso de la IA Generativa para reflejar las nuevas leyes, normativas, lecciones aprendidas de su aplicación y los avances en la tecnología GenAI. Consulte estas Directrices periódicamente para obtener actualizaciones y guárdelas en sus favoritos o suscríbase para mantenerse informado.

Si tiene preguntas o necesita ayuda con la selección de herramientas, oportunidades de capacitación o interpretación de políticas, consulte con el Equipo de Tecnología Emergente en ai@sfgov.org

La versión impresa completa se encuentra a continuación: