Kako gradovi prihvaćaju generativnu umjetnu inteligenciju
San Jose i Seattle bili su rani pokretači generativne umjetne inteligencije, koja uključuje alate kao što su ChatGPT, Google Bard i Stable Diffusion. Tehnološki čelnici ovih gradova sada dijele dosadašnja iskustva.
“Nitko ne kupi bicikl, da ga svom djetetu i kaže: ‘Idi, koristi ga’. Naravno da ne.“, primjećuje Khaled Tawfik, glavni službenik za informiranje grada San Josea. “Ali to smo učinili s pametnim telefonima.“
Kada je u pitanju internet, društvo se još uvijek bavi neželjenim posljedicama kao što su prijetnje kibernetičkoj sigurnosti, online zlostavljanje i porast dezinformacija.
Tawfik vidi priliku – i odgovornost – da se iz ovoga izvuku pouke i što prije djeluje s novim tehnologijama kao što je umjetna inteligencija (AI).
Uz gradove kao što su Boston i Seattle, San Jose je bio predvodnik u izradi smjernica koje su gradskim zaposlenicima omogućile sigurno eksperimentiranje s generativnom umjetnom inteligencijom, pokrivajući područja kao što su povjerljivost, atribucija i točnost.
To se nadovezuje na postojeće procese uspostavljene u San Joseu kako bi se procijenila jednakost, privatnost i sigurnost tehnologija te kako bi se putem registra transparentno koristila umjetna inteligencija.
Uz generativne AI smjernice objavljene u srpnju, Tawfik je rekao da grad želi biti otvoren i prikupiti povratne informacije od zaposlenika, stanovnika i drugih zainteresiranih čimbenika.
“Svjesni smo da nemamo pojma kako će ova tehnologija potaknuti inovacije i promijeniti naše živote“, kaže on. “Obrazovanje je veliki dio svega toga.
“Postoji mnogo dobrih stvari koje će proizaći iz ove nove tehnologije, ali postoji i mnogo potencijalnih rizika kojih moramo biti svjesni i razmisliti o tome kako ih možemo kolektivno ublažiti.“
Nove brige
Generativna umjetna inteligencija također je potaknula nove političke napore u Seattleu.
“Početkom godine vidjeli smo veliku količinu pozornosti i brzu stopu usvajanja za ChatGPT i srodne tehnologije“, kaže Jim Loter, privremeni glavni tehnološki direktor Seattlea. “IT u Seattleu znao je da moramo biti u poziciji da procijenimo i odgovorimo na zahtjeve naših gradskih partnera koji su bili zainteresirani za korištenje tehnologije za vođenje gradskog poslovanja.
„Već imamo uspostavljene prakse za procjenu novih i nestandardnih tehnologija duž različitih osi, kao što su privatnost, sigurnost, kompatibilnost, upravljanje podacima, upotrebljivost, pristupačnost i tako dalje. Čini se da je generativna AI tehnologija uvela dovoljno novih i novih problema da smo smatrali da zaslužuje razmatranje i definiranje određenih stavova po tom pitanju.”
Seattle je u travnju objavio privremenu politiku vezanu uz generativne umjetne inteligencije, koja je u to vrijeme predstavljala “najbolje razmišljanje o temi”. Savjetodavni tim potom je proveo četiri mjeseca istražujući potencijalnu korisnost i rizike tehnologije. Njihove preporuke sada se ugrađuju u konačnu politiku koja će biti objavljena prije kraja godine.
Nacrt pravila usmjerava osoblje da dobije dopuštenja od IT odjela prije pristupa ili nabave generativnog AI proizvoda.
“Anegdotalno, ljudi govore da su ih smjernice natjerale da zastanu i razmisle o učincima korištenja računalno generiranog sadržaja u gradskim publikacijama”, kaže Loter. “Nismo rekli ljudima da ne koriste generativnu umjetnu inteligenciju, već samo da budemo odgovorni u tome i da zapamtimo da gradski zaposlenici rade posao kao predstavnici vlasti i da imamo obvezu biti odgovorni svojim biračima za posao koji provodimo.
“Većina ljudi koje sam čuo iz grada smatra da su smjernice razumne i odražavaju načela našeg grada kao što su transparentnost i odgovornost.“
Smjernice San Josea zahtijevaju od osoblja da zabilježi svoju upotrebu generativne umjetne inteligencije putem internog obrasca kako bi pomoglo gradu da razumije kako ljudi koriste alate. Do sada su se pojavila neka ključna područja interesa: pisanje dopisa vijeću, izrada zahtjeva za prijedloge (RFP) za nabavu i slučajevi korištenja ljudskih resursa koji se odnose na klasifikaciju poslova i objave. U tim područjima uspostavljene su mjesečne radne skupine za razmjenu iskustava i ublažavanje rizika.
Izdane smjernice bile su prvi nacrt i uskoro se očekuju ažuriranja i nove, poboljšane verzije.
“Moramo priznati da to nije zrelo područje i da mi nismo zreli u razumijevanju onoga što se događa. Moje je očekivanje da ćemo imati nekoliko generacija prije nego što ovo bude dovoljno stabilno područje,” kaže Tawfik.
Magija nestaje?
Dok su gradovi često skloni riziku, s tehnologijama kao što je generativna umjetna inteligencija nemaju drugog izbora nego prigrliti tu neizvjesnost.
“Mislim da ono što mi predstavlja izazov nije ono što danas znamo; to je ono što još ne vidimo i ne znamo,” kaže Tawfik. “I potrebno je mnogo poniznosti da prepoznamo i priznamo da ne znamo. Moramo više slušati nego govoriti i trebamo promatrati više nego što diktiramo.
“Moj posao je provocirati i potaknuti sve da razmišljaju o područjima koja trebamo razmotriti.”
Priznaje da će ponekad biti moguće gledati unaprijed, ali ponekad će to značiti “prekinuti i naučiti” da bismo razumjeli više o tome kako alati rade u različitim kontekstima i koji su doista rizici.
Loter također ima neke specifične brige.
“Postoji mnogo otvorenih pitanja o odgovornosti za štetu uzrokovanu netočnim informacijama, pogrešnim prijevodom, kršenjem intelektualnog vlasništva ili drugim problemima koje je stvorio sadržaj proizveden od strane AI”, kaže.
“Također smo zabrinuti zbog neprozirnosti i temeljnog jezičnog modela i temeljnih modela, kao i zbog činjenice da je tehnologija konsolidirana u rukama najvećih tehnoloških kompanija i nije doista ‘otvorena’.”
Praktično eksperimentiranje može pomoći gradovima da demistificiraju tehnologije u nastajanju i prevaziđu marketinšku pompu.
“Mislim da je stvarna uporabna vrijednost ovih tehnologija otvoreno pitanje“, kaže Loter. “Mislim da raste svijest o tome da ove tehnologije nisu toliko ‘magične’ kao što su neke od pomnije izrađenih demonstracija koje smo svi vidjeli ranije ove godine možda navele neke na takvo vjerovanje.”
SAVJET: Počnite sada i držite se zajedno
Unatoč izazovima, oba IT čelnika misle da gradovi nemaju drugog izbora nego da se izravno suoče s ovim područjem koje se brzo kreće naprijed.
“Definitivno bih preporučio da, ako se Vaš grad nije uključio u AI tehnologiju i nije razmotrio potencijalne rizike i utjecaje na svoj okoliš, započne s time odmah prije nego što se upotreba generativnih AI tehnologija proširi na njihovim radnim mjestima“, kaže Loter. “Kada se generativna AI funkcionalnost uvede u standardne uredske aplikacije, duh će biti izvan boce za mnoge organizacije.“
Dodaje: “Tretirajte to kao bilo što drugo: testirajte tvrdnje, kritički preispitajte strahove, pošteno procijenite, pobrinite se da postoje osnovne zaštitne ograde, bilo da se radi o tehničkim, kontrolama vještina ili političkim kontrolama.“
Tawfik također vjeruje da je važno da gradovi surađuju u razmjeni znanja i iskustva, kao i da utječu na nacionalnu politiku i osiguraju da dobavljači čuju perspektivu lokalne uprave.
“Kritično je za sve nas pronaći platformu na kojoj možemo dijeliti i učiti jedni od drugih“, kaže.
“Pokušavamo osmisliti i osnovati poseban konzorcij gradova koji su voljni pokrenuti jedinstveni glas u tom smjeru.“
