舊金山生成式人工智慧指南

探索生成式人工智慧的五大準則

1. 你有責任
   無論是由人工智慧還是人類創造的，您都要對您使用或分享的任何東西負責。
2. 使用安全工具
   Copilot Chat 已獲批准供市政府使用，所有工作人員均可使用。除非經過正式審查，否則請避免使用公共或消費級 AI 工具——切勿在其中輸入敏感數據或市政府數據。
3. 始終檢查輸出
   人工智慧並非總是正確。審查、編輯、核實並測試其產生的所有內容。
4. 透明化
   揭露在面向公眾或敏感工作中使用人工智慧的情況。將工具記錄在市政府22J清單中，並通知所有直接受影響的人員。
5. 無深度偽造
   不要使用人工智慧創建虛假的圖像、音訊、視訊或其他可能被他人誤認為真實的內容。

簡介和範圍

由技術部 (DT) 採購和授權的企業生成人工智慧 (GenAI) 工具現已可供舊金山市和縣 (City) 的工作人員使用，為提高所有舊金山居民的城市服務的有效性、效率和響應能力開闢了新的機會。

這些指導方針旨在幫助市政府工作人員有效、負責任地使用 GenAI 工具，同時維護公眾信任、保護居民資料並維護市政府系統的完整性。

除了一些重要的區別外，概述的指導方針適用於兩者：

• 企業 GenAI 工具——例如 ChatGPT Enterprise、Microsoft Copilot、Snowflake Cortex、Adobe 應用和 Express 以及其他已批准的系統——均由技術部 (DT) 授權和管理。這些工具已採購並配置為供市政府使用，允許使用敏感的市政府資料（並限制任何供應商使用市政府資料進行 AI 訓練）。
• 公共或消費者 GenAI 工具—雖然我們強烈反對將公共或消費者 GenAI 工具用於市政府業務，但我們承認此類工具在有限情況下仍可使用。如果您想使用公共或消費者 GenAI工具，必須事先獲得部門批准。

生成式人工智慧使用的城市指南

以下概述的 GenAI 用途按風險等級分組，每種用途都有相應的緩解策略和揭露要求。

一般而言，市政府工作人員必須始終徹底審查、編輯、核實事實、驗證和/或測試其產出內容（如適用）。您最終應對您使用或分享的任何內容負責。

低風險使用

使用企業生成式人工智慧工具執行的內部效率任務

您可以使用市政府採購的人工智慧工具來執行以下操作：

• 起草內部電子郵件、備忘錄或通訊。
• 建立會議、文件或報告的摘要。
• 編寫、編輯或調試程式碼。
• 產生內部資料的大綱或初稿。
• 改善公眾和市政府工作人員之間的語言溝通。

這些用途有助於提高效率並減少工作量，但您仍然是專家審查者。

保障措施和責任

人工智慧可能會犯錯，或包含帶有偏見或過時的資訊。為了負責任地使用它，請遵循以下原則：

• 只處理你熟悉的內容，這樣你就能發現錯誤。
• 始終核實事實並驗證連結和來源。
• 在使用或共用 AI 輸出之前，請先檢查並編輯它。
• 僅當您了解語言並且可以測試程式碼時才使用 AI 進行編碼。

揭露

內部起草無需披露，但您要對您使用的所有內容負責，包括人工智慧生成的錯誤。

中高風險使用

使用企業生成式人工智慧工具執行面向大眾或敏感的工作

當使用市政府批准的人工智慧工具執行影響公共通訊、服務或決策的任務時，要格外小心並遵循額外的步驟，例如：

• 起草或翻譯面向公眾的內容。
• 起草面試問題和篩選招募流程的資料。
• 總結與政策相關的數據。
• 支持與服務、執法或資格相關的決定。
• 為影響法規或安全的文件做出貢獻。

對於這些用例，人工智慧可以作為支援工具，但它絕不能做出影響個人或公共結果的最終決定。

保障措施和責任

• 僅當您具有深厚的專業知識來審查其輸出時才使用 GenAI。
• 使產出與城市的價值觀、公平目標、可及性和道德標準保持一致。
• 主動監控偏見實例並手動修正。

揭露

• 使用人工智慧進行面向公眾或敏感的工作必須透過 22J 流程進行記錄。
• 當人工智慧對工作成果做出重大貢獻時，應通知受影響的個人。通知必須包含以下內容：
  • 使用 GenAI 的聲明
  • 工具名稱/版本
  • 確認員工審核
  • 如有疑問或更正，請聯絡資訊
• 引用或解釋其輸出時，像引用任何外部來源一樣引用 AI。
• 引用第三方內容時，請務必驗證並引用原始來源（而不僅僅是 AI 摘要）。

禁止使用

為了保護公眾信任、安全和道德標準，請勿將 GenAI 工具用於以下任何用途：

• 依靠人工智慧來創建城市官方文件或做出決策，無需專家人工審查。
• 產生可能被誤認為是真人（包括公職人員或公眾成員）的圖像、音訊或視訊。
• 製作“深度偽造”或冒充任何人或官員——即使帶有免責聲明。
• 為了研究或推廣目的而捏造虛構的調查受訪者或公眾意見。
• 依靠人工智慧審查法律或監管問題。

資料保護要求

企業 AI 工具中使用城市數據受到以下限制：

• 對於Copilot Chat和Snowflake ，您可以使用4 級及以下的資料（ 1-4 級）。
• 對於ChatGPT Enterprise ，您可以使用3 級及以下資料（ 1-3 級）。
• 僅在已簽署 BAA（業務夥伴協議）的工具中使用 PHI（受保護的健康資訊），例如 Copilot Chat 和 Snowflake，且需獲得您部門的批准。如需確認哪些類型的部門特定資料允許與市政府批准的工具一起使用，請務必諮詢您所在部門。 
• 請勿將任何敏感或受保護的資料（包括個人資訊、健康資訊和/或財務資訊）輸入未經市政府提供或批准使用的公共或消費者 AI 工具中。

指南、版本控制和聯絡方式的製定

新興技術團隊與城市人工智慧諮詢委員會密切協調，制定了這些更新的以 GenAI 為重點的指南，該委員會是一個工作人員工作小組，為城市新興技術的採用、治理和道德使用提供指導。

人工智慧諮詢委員會將定期更新《城市生成式人工智慧使用指南》，以反映新的法律法規、應用經驗以及 GenAI 技術的發展。請定期查看本指南以獲取更新，並收藏或訂閱以獲取最新資訊。

如果您對工具選擇、培訓機會或政策解釋有任何疑問或需要協助，請聯絡新興技術團隊： ai@sfgov.org

完整印刷版連結如下：