Hướng dẫn về AI tạo sinh của San Francisco

5 nguyên tắc hàng đầu để khám phá với AI tạo sinh

1. Bạn có trách nhiệm
   Cho dù được tạo ra bởi AI hay con người, bạn đều phải chịu trách nhiệm về mọi thứ bạn sử dụng hoặc chia sẻ.
2. Sử dụng các công cụ an toàn
   Copilot Chat được chấp thuận để Thành phố sử dụng và có sẵn cho tất cả nhân viên. Tránh các công cụ AI công cộng hoặc dành cho người tiêu dùng trừ khi được thẩm định chính thức — không bao giờ nhập dữ liệu nhạy cảm hoặc dữ liệu của Thành phố vào đó.
3. Luôn kiểm tra đầu ra
   AI không phải lúc nào cũng đúng. Hãy xem xét, chỉnh sửa, kiểm tra thực tế và thử nghiệm mọi thứ mà nó tạo ra.
4. Hãy minh bạch
   Tiết lộ việc sử dụng AI trong công việc nhạy cảm hoặc công khai. Ghi lại các công cụ trong kho dữ liệu 22J của Thành phố và thông báo cho bất kỳ ai bị ảnh hưởng trực tiếp.
5. Không có deepfake
   Không sử dụng AI để tạo ra hình ảnh, âm thanh, video hoặc nội dung giả mạo khác có thể bị người khác hiểu nhầm là nội dung thật.

Giới thiệu & Phạm vi

Các công cụ AI tạo sinh doanh nghiệp (GenAI) được Bộ Công nghệ (DT) mua sắm và cấp phép hiện đã có sẵn để nhân viên của Thành phố và Quận San Francisco (Thành phố) sử dụng, mở ra những cơ hội mới để cải thiện hiệu quả, hiệu suất và khả năng phản hồi của các dịch vụ Thành phố dành cho tất cả người dân San Francisco.

Các hướng dẫn này được thiết kế để giúp nhân viên Thành phố sử dụng các công cụ GenAI một cách hiệu quả và có trách nhiệm, đồng thời duy trì niềm tin của công chúng, bảo vệ dữ liệu của cư dân và bảo vệ tính toàn vẹn của các hệ thống Thành phố.

Với một số điểm khác biệt quan trọng, các hướng dẫn nêu trên áp dụng cho cả hai:

• Các công cụ Enterprise GenAI —như ChatGPT Enterprise, Microsoft Copilot, Snowflake Cortex, Adobe apps và Express, cùng các hệ thống được chấp thuận khác—được cấp phép và quản lý thông qua Bộ Công nghệ (DT). Các công cụ này đã được mua và định cấu hình để Thành phố sử dụng và cho phép sử dụng dữ liệu nhạy cảm của Thành phố (và hạn chế bất kỳ nhà cung cấp nào sử dụng dữ liệu của Thành phố để đào tạo AI).
• Công cụ GenAI công cộng hoặc dành cho người tiêu dùng —Mặc dù việc sử dụng công cụ GenAI công cộng hoặc dành cho người tiêu dùng cho doanh nghiệp của Thành phố bị ngăn cấm mạnh mẽ, chúng tôi nhận ra rằng các công cụ như vậy vẫn có thể được sử dụng trong một số trường hợp hạn chế. Nếu bạn muốn sử dụng công cụ GenAI công cộng hoặc dành cho người tiêu dùng, bạn phải có được sự chấp thuận trước của sở.

Hướng dẫn của thành phố về việc sử dụng AI tạo sinh

Các cách sử dụng GenAI được nêu dưới đây được nhóm theo mức độ rủi ro, mỗi cách có các chiến lược giảm thiểu và yêu cầu công bố tương ứng.

Theo nguyên tắc chung, nhân viên Thành phố phải luôn xem xét, chỉnh sửa, kiểm tra thực tế, xác thực và/hoặc kiểm tra kỹ lưỡng sản phẩm đầu ra của họ, nếu có. Bạn chịu trách nhiệm cuối cùng về mọi nội dung bạn sử dụng hoặc chia sẻ.

Sử dụng rủi ro thấp

Nhiệm vụ hiệu quả nội bộ được thực hiện bằng cách sử dụng công cụ AI tạo doanh nghiệp

Bạn có thể sử dụng các công cụ AI do Thành phố mua cho:

• Soạn thảo email, bản ghi nhớ hoặc thông báo nội bộ.
• Tạo tóm tắt các cuộc họp, tài liệu hoặc báo cáo.
• Viết, chỉnh sửa hoặc gỡ lỗi mã.
• Tạo dàn ý hoặc bản thảo đầu tiên của tài liệu nội bộ.
• Cải thiện khả năng tiếp cận ngôn ngữ giữa công chúng và nhân viên Thành phố.

Những cách sử dụng này giúp cải thiện hiệu quả và giảm khối lượng công việc, nhưng bạn vẫn là người đánh giá chuyên gia.

Bảo vệ và Trách nhiệm

AI có thể mắc lỗi hoặc đưa vào thông tin thiên vị hoặc lỗi thời. Để sử dụng AI một cách có trách nhiệm:

• Chỉ làm việc với nội dung mà bạn hiểu rõ để có thể phát hiện lỗi.
• Luôn kiểm tra thực tế và xác minh các liên kết và nguồn.
• Xem lại và chỉnh sửa đầu ra AI trước khi sử dụng hoặc chia sẻ.
• Chỉ sử dụng AI để viết mã nếu bạn biết ngôn ngữ đó và có thể kiểm tra mã.

Tiết lộ

Không cần tiết lộ thông tin khi soạn thảo nội bộ, nhưng bạn phải chịu trách nhiệm về mọi nội dung bạn sử dụng, bao gồm cả lỗi do AI tạo ra.

Sử dụng có nguy cơ trung bình đến cao

Công việc công khai hoặc nhạy cảm được thực hiện bằng cách sử dụng công cụ AI tạo doanh nghiệp

Hãy hết sức thận trọng và thực hiện các bước bổ sung khi sử dụng các công cụ AI được Thành phố chấp thuận để thực hiện các nhiệm vụ ảnh hưởng đến truyền thông công cộng, dịch vụ hoặc quyết định như:

• Soạn thảo hoặc biên dịch nội dung dành cho công chúng.
• Soạn thảo các câu hỏi phỏng vấn và tài liệu sàng lọc cho quá trình tuyển dụng.
• Tóm tắt dữ liệu liên quan đến chính sách.
• Hỗ trợ các quyết định liên quan đến dịch vụ, thực thi hoặc đủ điều kiện.
• Đóng góp vào các tài liệu ảnh hưởng đến quy định hoặc an toàn.

Đối với những trường hợp sử dụng này, AI có thể đóng vai trò là công cụ hỗ trợ, nhưng không bao giờ được đưa ra quyết định cuối cùng ảnh hưởng đến cá nhân hoặc kết quả công cộng.

Bảo vệ và Trách nhiệm

• Chỉ sử dụng GenAI nếu bạn có chuyên môn sâu về một chủ đề nào đó để xem xét kết quả đầu ra của nó.
• Điều chỉnh kết quả đầu ra phù hợp với các giá trị, mục tiêu công bằng, khả năng tiếp cận và tiêu chuẩn đạo đức của Thành phố.
• Chủ động theo dõi các trường hợp thiên vị và sửa chúng theo cách thủ công.

Tiết lộ

• Việc sử dụng AI cho công việc công cộng hoặc nhạy cảm phải được ghi lại thông qua quy trình 22J.
• Thông báo cho những cá nhân bị ảnh hưởng khi AI đóng góp đáng kể vào sản phẩm công việc. Thông báo phải bao gồm:
  • Tuyên bố rằng GenAI đã được sử dụng
  • Tên/phiên bản công cụ
  • Xác nhận đánh giá của nhân viên
  • Thông tin liên hệ để hỏi hoặc chỉnh sửa
• Trích dẫn AI giống như bất kỳ nguồn bên ngoài nào khi trích dẫn hoặc diễn giải lại nội dung của AI.
• Luôn xác minh và trích dẫn nguồn gốc—không chỉ tóm tắt AI—khi tham khảo nội dung của bên thứ ba.

Sử dụng bị cấm

Để bảo vệ niềm tin của công chúng, sự an toàn và các tiêu chuẩn đạo đức, không sử dụng các công cụ GenAI cho bất kỳ mục đích nào sau đây:

• Dựa vào AI để tạo ra các tài liệu chính thức của Thành phố hoặc đưa ra quyết định mà không cần sự đánh giá của chuyên gia.
• Tạo ra hình ảnh, âm thanh hoặc video có thể bị nhầm là người thật (bao gồm cả viên chức nhà nước hoặc người dân).
• Tạo “deepfake” hoặc mạo danh bất kỳ người hoặc quan chức nào—kể cả khi có tuyên bố từ chối trách nhiệm.
• Bịa đặt người trả lời khảo sát hư cấu hoặc ý kiến đóng góp của công chúng cho mục đích nghiên cứu hoặc tiếp cận cộng đồng.
• Dựa vào AI để xem xét các vấn đề pháp lý hoặc quy định.

Yêu cầu bảo vệ dữ liệu

Việc sử dụng dữ liệu Thành phố trong các công cụ AI Doanh nghiệp phải tuân theo các hạn chế sau:

• Đối với Copilot Chat và Snowflake , bạn có thể sử dụng dữ liệu Cấp độ 4 trở xuống ( Cấp độ 1–4 ).
• Đối với ChatGPT Enterprise , bạn có thể sử dụng dữ liệu Cấp độ 3 trở xuống ( Cấp độ 1–3 ).
• Chỉ sử dụng PHI (Thông tin sức khỏe được bảo vệ) trong các công cụ có BAA (Thỏa thuận liên kết kinh doanh), chẳng hạn như Copilot Chat và Snowflake tùy thuộc vào sự chấp thuận của sở của bạn . Để xác minh loại dữ liệu cụ thể của sở nào được phép sử dụng với các công cụ được Thành phố chấp thuận, hãy luôn kiểm tra với Sở của bạn. 
• Không nhập bất kỳ dữ liệu nhạy cảm hoặc được bảo vệ nào bao gồm thông tin cá nhân, thông tin sức khỏe và/hoặc thông tin tài chính vào các công cụ AI công cộng hoặc dành cho người tiêu dùng không được cung cấp hoặc chấp thuận để Thành phố sử dụng.

Phát triển các hướng dẫn, phiên bản và liên hệ

Nhóm Công nghệ mới nổi đã phát triển các hướng dẫn cập nhật tập trung vào GenAI này với sự phối hợp chặt chẽ với Ủy ban cố vấn AI của Thành phố, một nhóm làm việc cung cấp hướng dẫn về việc áp dụng, quản lý và sử dụng có đạo đức các công nghệ mới nổi trong Thành phố.

Ủy ban cố vấn AI sẽ thường xuyên cập nhật Hướng dẫn của Thành phố về Sử dụng AI tạo sinh để phản ánh luật mới, quy định, bài học kinh nghiệm từ ứng dụng và sự phát triển trong công nghệ GenAI. Kiểm tra các Hướng dẫn này thường xuyên để cập nhật và đánh dấu trang hoặc đăng ký để luôn được thông báo.

Nếu có thắc mắc hoặc cần trợ giúp về việc lựa chọn công cụ, cơ hội đào tạo hoặc giải thích chính sách, vui lòng liên hệ với Nhóm công nghệ mới nổi tại ai@sfgov.org

Phiên bản in đầy đủ được liên kết bên dưới: