San Francisco Generative AI Guidelines

Nangungunang 3 Mga Alituntunin para sa Pag-explore gamit ang Generative AI

• Palaging suriin at suriin ang katotohanan ng nilalamang binuo ng AI bago ito gamitin
• Palaging ibunyag ang paggamit ng Generative AI sa iyong output
• Huwag kailanman magpasok ng sensitibong impormasyon sa mga pampublikong Generative AI tool, tulad ng ChatGPT. Ang impormasyong ipinasok mo ay maaaring tingnan ng mga kumpanyang gumagawa ng mga tool at, sa ilang mga kaso, mga miyembro ng publiko

Panimula

Ang Artificial Intelligence (AI) ay may malaking potensyal na magbigay ng mga pampublikong benepisyo, kapag ginamit nang responsable. Kamakailan, ang teknolohiyang Generative AI ay nakakuha ng pangunahing atensyon at naging available para magamit ng mga kawani ng Lungsod at County ng San Francisco (City). Bumubuo ang Generative AI ng bagong data batay sa mga pattern na natutunan mula sa umiiral na data at maaaring makagawa ng content na ginagaya ang pagkamalikhain ng tao. Kasama sa mga halimbawa ang pagbuo ng text, paggawa ng larawan, at komposisyon ng musika. Naiiba ang Generative AI sa teknolohiya ng AI na kasalukuyang ginagamit ng Lungsod, na sumusuporta sa matalinong mga desisyon batay sa input data ngunit hindi gumagawa ng bagong content. Nag-aalok ang Generative AI ng mga bagong pagkakataon at nagdudulot din ng mga natatanging hamon upang matiyak ang responsable at epektibong paggamit.

Saklaw ng Mga Alituntunin

Ang mga sumusunod na alituntunin ay nalalapat sa lahat ng tauhan ng departamento ng lungsod, kabilang ang mga empleyado, kontratista, consultant, boluntaryo, at vendor habang nagtatrabaho sa ngalan ng Lungsod. Magbabago ang mga alituntunin batay sa mga pagpapaunlad ng pambatasan at regulasyon at mga pagbabago sa teknolohiyang Generative AI. I-a-update ng Opisina ng Administrator ng Lungsod ang mga alituntunin kapag lumalabas ang mga pagsulong, mga kaso ng paggamit at bagong impormasyon.

Mga Kahulugan

Ano ang Generative AI?

Ang Generative AI ay tumutukoy sa mga bagong software tool na maaaring makabuo ng makatotohanang teksto, mga larawan, audio, video, at iba pang media batay sa isang prompt na ibinigay ng user. Kasama sa mga karaniwang generative AI application ang ChatGPT, Bard, at Dall-E. Gumagamit ang mga tool na ito ng mga algorithm sa pag-aaral ng machine na sinanay sa napakalaking set ng text at data ng imahe na kinuha mula sa internet. Ang mga modelong ito ay nakakuha ng karaniwang mga pattern ng wika at larawan mula sa data ng pagsasanay at maaaring tumugon nang mabilis sa mga prompt sa isang makatotohanang paraan.

Binuo ang mga application ng Generative AI gamit ang mga dataset ng pagsasanay mula sa iba't ibang source sa internet at kadalasang kinabibilangan ng kasarian, lahi, pulitikal at iba pang bias. Bilang resulta, ang mga output ng Generative AI ay maaaring magpalaganap ng mga bias. Bukod pa rito, kahit na ang pinaka-advanced na kasalukuyang mga tool ng Generative AI ay maaaring magbigay ng hindi pare-parehong mga sagot sa mga tanong na batay sa katotohanan. Dapat palaging suriin ng mga user ang content na binuo ng AI para sa katumpakan, gayundin para sa mga bias na maaari nilang ipakita.

Paano ang Tradisyunal na AI?

Ang Generative AI ay naiiba sa mga modelo ng Discriminative Machine Learning na malawakang ginagamit mula noong unang bahagi ng 2000s, kabilang ang Lungsod. Ang mga modelo ng Discriminative Machine Learning ay hindi bumubuo ng bagong nilalaman. Limitado ang mga ito sa pagbuo ng mga kilala at napatunayang halaga. Ang mga modelong ito ay pangunahing ginagamit upang hulaan ang mga dami (halimbawa, hulaan ang mga presyo ng bahay) o upang magtalaga ng membership ng grupo (halimbawa, pag-uuri ng mga larawan sa mga kategorya).

Ano ang mga benepisyo para sa pamahalaang Lungsod?

Ang mga tool ng Generative AI, na ginamit nang naaangkop, ay may potensyal na palawakin ang toolkit ng San Francisco para sa pampublikong serbisyo. Maaaring mapabilis o mapahusay ng mga feature ng text, code, at pagbuo ng imahe ang mga karaniwang gawain kapag ginamit nang mabuti.

Halimbawa, ginamit sa loob ng mga alituntunin, maaaring tumulong ang mga generative AI tool sa:

• Paglikha ng mga unang draft ng mga dokumento, plano, memo, at brief
• "Pagsasalin" ng teksto sa mga antas ng pormalidad, mga antas ng pagbabasa, atbp.
  • Pagsusulat muli ng isang impormal na email sa isang draft ng isang memo
  • Pagbubuod ng teknikal o legal na dokumentasyon sa simpleng wika at mga buod ng pag-target para sa iba't ibang madla
  • Ang paggawa ng mga bigong kaisipan sa isang magalang na kahilingan sa pagitan ng departamento
• Mga paulit-ulit na gawain sa pag-coding at pagsubok para sa mga developer ng software, na may naaangkop na mga pagsusuri sa engineering
• Pagbuo ng mga diagram o iba pang mga paliwanag na larawan
• Pagbuo ng mga interface ng serbisyo tulad ng mga chatbot na may naaangkop na atensyon sa pag-access at katumpakan ng wika

Ang lahat ng mga benepisyong ito ay may pinakamahusay na epekto kapag sinuri ng isang tao na:

1. May kaalaman tungkol sa nilalaman at serbisyong ibinibigay
2. Alam ang mga karaniwang pagkakamali at limitasyon ng Generative AI

Ano ang mga panganib ng Generative AI?

Napakahusay ng Generative AI sa paggawa ng content na mukhang may awtoridad at pulido, na ginagawang madali ang pagtanggap ng content na binuo ng AI sa halaga ng mukha. Kung walang taong may sapat na kaalaman o ekspertong sistema upang suriin ang nilalaman para sa katumpakan, ang Generative AI ay may potensyal na linlangin ang mga user at ang publiko. Ang mga panganib na ito ay pinalalaki kung ang output ay hindi nilalagyan ng label bilang nilikha, na-draft, o ipinaalam ng AI. Maaari ding malapat ang mga panganib kapag ang teknolohiyang Generative AI ay bahagi ng iba pang software, gaya ng cloud business application o productivity tool, na maaaring hindi nakikita ng mga user.

Dapat gamitin ng staff nang may pag-iingat ang mga tool ng Generative AI upang maiwasan ang mga posibleng negatibong resulta:

• Paggawa ng hindi naaangkop na desisyon na nakakaapekto sa mga residente batay sa nilalamang binuo ng AI
• Ang paggawa ng impormasyon, sa publiko man o sa loob, na hindi tumpak
• Pagsasama ng mga bias na makikita sa data ng pagsasanay ng AI, na nagreresulta sa mga hindi pagkakapantay-pantay
• Mga problema sa cybersecurity o iba pang mga error dahil sa paggamit ng AI-generated code
• Ang paglalantad ng hindi pampublikong data bilang bahagi ng mga set ng data ng pagsasanay. (Dapat ipagpalagay ng staff na ang lahat ng data na ipinasok sa isang Generative AI tool ay nagiging bahagi ng set ng pagsasanay.)
• Hindi tumpak na pag-uugnay ng nilalamang binuo ng AI sa mga opisyal na mapagkukunan ng SF

Mga Alituntunin ng Lungsod para sa Generative AI Use

Upang suportahan ang seguridad ng mga sistema at data ng Lungsod at pinakamahusay na mapagsilbihan ang publiko, habang itinataguyod ang tiwala ng publiko, sundin ang Mga Dapat at Hindi Dapat gawin ng Generative AI Usage.

Gawin

• Subukan ito! Mag-eksperimento sa mga tool ng Generative AI para sa pag-draft, leveling, at pag-format ng text at mga paliwanag na larawan gamit ang pampublikong impormasyon
• Makipagtulungan sa iyong departamento ng IT team at masusing mag-eksperimento sa iba't ibang kaso ng paggamit bago gumamit ng generative AI sa paghahatid ng mga programa o serbisyo
• Masusing suriin at suriin ng katotohanan ang lahat ng nilalamang binuo ng AI (hal. text, code, mga larawan, atbp). Responsable ka para sa kung ano ang iyong nilikha gamit ang generative AI na tulong
• Ibunyag kung kailan at paano ginamit ang generative AI sa iyong output. Halimbawa:
  • "Ang imahe ng header ay nilikha gamit ang AI tool na MidJourney"
  • "Ginawa ang abstract na ito gamit ang Bard, isang generative AI tool"
  • “FYI, ginamit ko ang ChatGPT para baguhin ang email na ito”

huwag

• Ipasok sa pampublikong mga tool sa Generative AI (hal. ChatGPT) ang anumang impormasyon na hindi ganap na maipalabas sa publiko. Ang impormasyong ito ay maaaring tingnan ng mga kumpanyang gumagawa ng mga tool at, sa ilang mga kaso, iba pang mga miyembro ng publiko. Kapag naipasok na, ang impormasyong ito ay magiging bahagi ng pampublikong rekord. Ang pangangasiwa at pagsisiwalat ng sensitibong impormasyon ay pinamamahalaan na ng ilang mga patakaran ng Lungsod, kabilang ngunit hindi limitado sa:
  • Charter Section 16.130, Privacy First Policy
  • Administrative Code Seksyon 12M.2(a), Hindi Pagbubunyag ng Pribadong Impormasyon
  • Kodigo sa Kampanya at Pag-uugali ng Pamahalaan seksyon 3.228, Pagbubunyag o Paggamit ng Kumpidensyal na Impormasyon ng Lungsod
  • Ang seksyong “Mga Computer at Data Information Systems” ng Departamento ng Human Resource's Employee Handbook (Enero 2012, pahina 48)
  • Mangyaring sumangguni sa Citywide Data Classification Standard para sa higit pang mga detalye sa pag-uuri ng data at mga responsableng tungkulin ng departamento
• I-publish ang Generative AI output (text man, imahe, o code) nang walang ganap na kaalamang pagsusuri at pagsisiwalat
• Hilingin sa mga tool ng Generative AI na maghanap ng mga katotohanan o gumawa ng mga desisyon nang walang pagsusuri ng ekspertong tao
• Bumuo ng mga larawan, audio, o video na maaaring mapagkamalang tunay na tao, halimbawa:
  • Paggawa ng pekeng larawan o pag-record ng isang partikular na opisyal ng San Francisco o miyembro ng publiko (“deepfake”) – kahit na may pagsisiwalat
  • Bumubuo ng pekeng imahe o recording na nagsasabing isang San Franciscan o pampublikong opisyal, kahit na hindi partikular
  • Pagbuo ng mga pekeng "respondent" o ginawang profile para sa mga survey o iba pang pananaliksik
• Itago ang paggamit ng Generative AI sa panahon ng pakikipag-ugnayan sa mga kasamahan o publiko, gaya ng mga tool na maaaring nakikinig at nagsasalin ng pag-uusap o mga tool na nagbibigay ng sabay-sabay na pagsasalin

Karagdagang Patnubay para sa mga Pinuno ng IT sa Pangkagawaran

Ang mga pinuno ng IT sa departamento ay may responsibilidad na suportahan ang tamang laki ng mga generative na paggamit ng AI na naghahatid ng pinakamalaking pampublikong benepisyo. Dapat isaalang-alang ng mga pinuno ng IT ang sumusunod na karagdagang patnubay habang nakikipagtulungan sa mga tauhan upang matukoy ang naaangkop na mga kaso ng paggamit para sa Generative AI.

Asahan ang mga tool na ito, at gabay tungkol sa mga tool na ito, na mag-evolve sa paglipas ng panahon. Ito ang simula. Mahalagang magkaroon ng kamalayan at subaybayan ang paggamit upang payagan ang transparency sa publiko at matiyak ang responsableng paggamit.

Simulan ang pagkolekta ng mga kaso ng paggamit at maging handa na iulat ang iyong mga paggamit sa isang pampublikong forum upang matiyak ang transparency at pananagutan.

Alamin kung ang software na iyong pinamamahalaan - at ang mga bahagi nito - ay may kasamang Generative AI; ipaalam sa iyong koponan kung paano ito ginagamit at kung ano ang mga partikular na panganib.

Magtanong ng mga tanong tungkol sa Generative AI sa iyong mga paghingi ng procurement.

Makipagtulungan sa mga vendor upang matiyak na ang AI na binuo sa mga nakuhang tool ay maipaliwanag at maa-audit. Ang mga vendor ay dapat na makapagbigay ng impormasyon at dokumentasyon sa mga pinagmumulan ng data, pamamaraan, at pagpapatunay.

Mag-eksperimento sa pagsasanay ng mga panloob na modelo sa panloob na data.

Kapag isinasaalang-alang ang pagpapatupad ng mga chatbot para sa serbisyo sa publiko, masusing subukan at bumuo ng isang plano sa pag-access sa wika.

Kumonsulta sa Office of Cybersecurity nang maaga sa proseso ng pagsubok kapag gumagawa o kumukuha ng mga application gamit ang Generative AI technology.

Background

Kasalukuyang Legislative at Regulatory Landscape

Ang mga pamahalaan, mananaliksik, at mga eksperto sa patakaran sa tech ay mahigpit na binabantayan ang ebolusyon ng mga tool ng Generative AI upang maunawaan ang mga potensyal na panganib at benepisyo para sa pampublikong serbisyo. Noong Oktubre 2023, naglabas si Pangulong Biden ng Executive Order na naglalayong pahusayin ang kaligtasan at seguridad ng AI sa publiko at pribadong sektor. Sa antas ng estado, naglabas si Gobernador Newsom ng Executive Order noong Setyembre 2023 na nagtuturo sa mga ahensya ng estado na pag-aralan ang pag-unlad, paggamit, at mga panganib ng AI at bumuo ng isang proseso para sa pag-deploy sa loob ng pamahalaan ng California. Ang parehong mga lehislatura ng pederal at estado ay nagdebate rin ng maraming mga panukalang batas na may kaugnayan sa pag-regulate ng paggamit ng AI. Dahil sa maagang estado ng Generative AI, patuloy na pagsisikap sa antas ng pederal at estado at ang pagiging kumplikado ng mga operasyon ng lungsod at mga potensyal na kaso ng paggamit ng AI, patuloy na susuriin ng Lungsod ang larangan bago maglabas ng higit pang mga proscriptive na patakaran na namamahala sa AI.

Paunang Pagbuo ng Mga Alituntunin

Binuo ng City Administrator's Office (pinununahan ng Digital & Data Services, Department of Technology, at Committee on Information Technology) itong mga Generative AI-focused guidelines pagkatapos suriin ang kamakailang Generative AI guidance na inisyu ng Boston, San Jose, the United Kingdom, the White. House Office of Science and Technology Policy, at ang Office of Governor Newsom.

Ang Lungsod at County ng San Francisco ay tinatanggap ang pagbabago na may responsable at pantay na paggamit. Ilang departamento ng lungsod ang kasalukuyang gumagamit ng iba't ibang uri ng AI upang suportahan ang paghahatid ng serbisyo. Halimbawa, ginagamit ng SF311 ang AI upang ikategorya ang mga paglalarawan at larawang isinumite ng publiko upang mapabilis ang mga tugon sa mga kahilingan sa serbisyo. Ang Opisina ng Assessor-Recorder ay gumagamit ng AI upang hulaan ang mga presyo ng ari-arian at tukuyin ang mga ari-arian na nangangailangan ng buong pagtatasa.

Ebolusyon ng Mga Alituntunin

Habang patuloy na umuunlad ang federal at state legislative at regulatory frameworks, ibinibigay ng San Francisco ang mga paunang patnubay na ito para sa mga kawani na gumagamit ng Generative AI sa mga operasyon ng lungsod. Ang mga empleyado ng lungsod ay dapat na maunawaan at manatiling may kamalayan sa parehong mga potensyal na panganib at benepisyo habang nagbabago ang teknolohiya at ang mga patakarang namamahala dito.

Ang mga alituntuning ito ay idinisenyo upang magbigay ng sapat na patnubay para sa mga empleyado na gamitin ang mga tool sa isang responsableng paraan, pagpapahusay ng serbisyo publiko nang hindi napipigilan ang pagbabago. Ang dokumentong ito ay kumakatawan sa isang unang hakbang sa isang pinalawig na proseso upang maunawaan, subukan, at suriin ang paggamit ng AI nang malawakan sa loob ng pamahalaang lungsod ng San Francisco. Kasama sa mga susunod na hakbang ang komprehensibong survey ng kasalukuyan at iminungkahing paggamit ng AI sa departamento ng lungsod, mga pagpupulong sa mga eksperto sa larangan ng AI at paglikha ng komunidad ng gumagamit, bukod sa iba pang mga gawain, upang mapakinabangan ang mga benepisyo at mabawasan ang mga panganib ng Artipisyal na Katalinuhan sa paghahatid ng serbisyo sa mga residente at bisita ng San Francisco.

Konklusyon

Mabilis na umuunlad ang Generative AI at patuloy na umuunlad ang mga legislative at regulatory framework sa antas ng estado at pederal. Upang pinakamahusay na makapaglingkod sa publiko, itaguyod ang tiwala ng publiko, at protektahan ang seguridad ng mga sistema at data ng lungsod, dapat na alam ng mga kawani ng lungsod ang mga potensyal na panganib at limitasyon ng teknolohiya, habang tinutuklas ang mga potensyal na benepisyo ng Generative AI sa paghahatid ng serbisyo publiko.

Bagama't nilalayon ng mga alituntuning ito na turuan ang mga tauhan ng lungsod tungkol sa responsableng paggamit ng Generative AI, ang mga ito ay simula pa lamang. Ang City Administrator's Office ay patuloy na makikipagtulungan sa alkalde, mga departamento ng lungsod, mga vendor ng teknolohiya ng lungsod at mga eksperto sa labas upang suportahan ang paggamit ng departamento ng mga teknolohiya ng AI, pamahalaan ang panganib, at protektahan ang data ng residente at lungsod. Kasama sa mga aksyon sa hinaharap ang:

• Pagbuo ng mas detalyadong mga alituntunin at pagsasanay sa mga tauhan sa mga partikular na paggamit ng AI Pagbuo ng etikal, transparent, at pinagkakatiwalaang mga prinsipyo sa paggamit ng AI
• Pagtukoy sa pamamahala ng AI at mga proseso ng pagsubaybay sa epekto
• Pag-aangkop sa mga proseso ng pagkuha para sa mga tool ng AI
• Pagkolekta at pagdodokumento ng mga kaso ng paggamit ng departamento at pagsuporta sa mga ito sa pamamahala ng panganib
• Patuloy na protektahan ang data ng Lungsod at residente habang nakikipagtulungan sa mga nagtitinda ng teknolohiya
• Naghahanap ng panlabas na kadalubhasaan mula sa iba pang pampublikong sektor na nag-adopt at akademya ng AI
• Pagbabahagi ng mga natutunan sa ibang mga kasosyo ng gobyerno

Ang Opisina ng Administrator ng Lungsod ay muling bisitahin at babaguhin ang mga alituntuning ito. Para sa mga katanungan, mangyaring makipag-ugnayan sa Committee on Information Technology sa COIT.staff@sfgov.org.

Talasalitaan

Algorithm: ay isang hanay ng mga panuntunan na sinusunod ng isang makina upang makabuo ng isang resulta o isang desisyon.

Artificial Intelligence (AI) : tumutukoy sa isang pangkat ng mga teknolohiya na maaaring magsagawa ng mga kumplikadong gawaing nagbibigay-malay tulad ng pagkilala at pag-uuri ng mga larawan o pagpapagana ng mga autonomous na sasakyan. Maraming AI system ang binuo gamit ang mga machine learning model. Para sa isang gawain tulad ng pagkilala sa imahe, natututo ang modelo ng mga pattern ng pixel mula sa isang malaking dataset ng mga umiiral na larawan at ginagamit ang mga pattern na ito upang makilala at maiuri ang mga bagong larawan.

Auditability para sa AI: AI kung saan ang mga output ay naipaliliwanag, sinusubaybayan at napapatunayan sa isang regular na batayan.

Bard: ay isang conversational Gen AI chatbot na binuo ng Google

Mga modelong black box : ay ang mga kung saan hindi mo mabisang matukoy kung paano o bakit gumawa ang isang modelo ng isang partikular na resulta.

Chatbots: ay mga computer program na gayahin ang mga pag-uusap. Ilang dekada na ang mga chatbot. Gumagamit ang mga basic chatbots (walang Gen AI) ng ML para maunawaan ang mga prompt ng tao at magbigay ng mas marami o mas kaunting scripted na mga sagot na maaaring gabayan ang mga user sa isang proseso. Ang mga Gen AI chatbots ay maaaring magbigay ng higit pang katulad ng tao, mga sagot sa pakikipag-usap.

chatGPT: ay isang conversational Gen AI chatbot na binuo ng OpenAI

Ang Dall-e : ay isang Gen AI application na maaaring makabuo ng mga larawan batay sa mga text prompt

Discriminative AI: Kabaligtaran sa Gen AI, ang mga modelo ng Discriminative AI ay hindi bumubuo ng bagong content ngunit maaaring gamitin upang hulaan ang mga dami (halimbawa, paghula ng mga presyo ng bahay) o para magtalaga ng membership ng grupo (halimbawa, pag-uuri ng mga larawan).

Generative AI (Gen AI): tumutukoy sa isang pangkat ng mga teknolohiya na maaaring makabuo ng bagong content batay sa prompt na ibinigay ng user. Marami ang pinapagana ng mga LLM.

Large language models (LLMs) : ay isang uri ng machine learning model na sinanay gamit ang malaking halaga ng text data. Ang mga modelong ito ay natututo ng mga nuanced na pattern at istruktura ng wika. Nagbibigay-daan ito sa modelo na maunawaan ang isang prompt na binuo ng user at magbigay ng text na tugon na magkakaugnay. Ang mga tugon ay batay sa paghula ng pinaka-malamang na salita sa isang pagkakasunud-sunod ng mga salita at bilang resulta, ang mga sagot ay hindi palaging tama ayon sa konteksto. Ang mga dataset ng pagsasanay na ginamit upang bumuo ng mga modelong ito ay maaaring maglaman ng kasarian, lahi, pulitikal at iba pang mga bias. Dahil natuto ang mga modelo mula sa biased na data, maaaring ipakita ng kanilang mga output ang mga bias na ito. Ang mga generative AI application ay binuo gamit ang mga LLM na ito.

Machine Learning (ML): ay isang paraan para sa pag-aaral ng mga panuntunan ng isang algorithm batay sa umiiral na data.

7Machine learning model : ay isang algorithm na binuo ng mga pattern ng pag-aaral sa umiiral na data. Halimbawa, ang isang modelo ng machine learning upang mahulaan ang mga presyo ng bahay ay binuo sa pamamagitan ng pag-aaral mula sa makasaysayang data sa mga presyo ng bahay. Maaaring malaman ng modelo na tumataas ang presyo nang may square footage, nagbabago ayon sa kapitbahayan, at depende sa taon ng pagtatayo.

Pagpapatunay ng modelo: mga paraan upang matukoy kung ang mga output na nabuo ng isang machine learning model ay walang kinikilingan at tumpak.

Data ng pagsasanay: Ang dataset na ginagamit ng isang machine learning model para matutunan ang mga panuntunan.