Kako Zakon EU o umjetnoj inteligenciji oblikuje primjenu tehnologije u gradovima

Zakon EU o umjetnoj inteligenciji (EU Artificial Intelligence Act) prvi je sveobuhvatni propis koji uređuje ovu tehnologiju putem okvira za upravljanje umjetnom inteligencijom. Njegov je cilj osigurati sigurnost, zaštititi temeljna prava i promovirati primjenu umjetne inteligencije usmjerene na čovjeka, a istovremeno ojačati usvajanje, ulaganja i inovacije diljem Europske unije.

Za gradove će Zakon imati izravan utjecaj na način na koji djeluju, budući da se lokalne vlasti ne smatraju samo korisnicima sustava umjetne inteligencije, već u nekim slučajevima i programerima ili nabavljačima tih sustava. Propis uvodi nove zahtjeve za upravljanje umjetnom inteligencijom, transparentnost i upravljanje rizicima za gradove.

Što je Zakon EU o umjetnoj inteligenciji i na koga se odnosi?

Zakon EU o umjetnoj inteligenciji revolucionarni je zakon koji će transformirati upravljanje umjetnom inteligencijom. Prepoznaje potencijal i koristi koje sustavi i modeli umjetne inteligencije mogu pružiti društvu, gospodarstvu i inovacijama.

Istodobno, priznaje potrebu za robusnim pravnim okvirom za sprječavanje rizika povezanih sa sigurnošću, temeljnim pravima i sistemskim utjecajima.

Zakon EU o umjetnoj inteligenciji klasificira ove rizike u četiri kategorije.

Neprihvatljiv rizik

Ovo su AI sustavi koji se smatraju prijetnjom temeljnim pravima. Jedan primjer relevantan za gradove je korištenje biometrijske identifikacije u stvarnom vremenu u javnim prostorima.

Visok rizik

Ovo su sustavi koji mogu imati značajan utjecaj na živote, sigurnost ili prava ljudi te stoga zahtijevaju stroge kontrole, dokumentaciju i ljudski nadzor. U urbanom kontekstu, primjer bi bila lokalna vlast koja koristi algoritam za procjenu zahtjeva za socijalne naknade ili javno stanovanje.

Ograničeni rizik transparentnosti

Ovo su sustavi koji izravno komuniciraju s ljudima i stoga moraju ispunjavati zahtjeve transparentnosti. Na primjer, gradski chatbotovi moraju jasno obavijestiti korisnike da komuniciraju s AI sustavom.

Minimalan ili nikakav rizik

Ovo su AI aplikacije s niskim utjecajem koje se mogu slobodno koristiti, kao što su filteri za neželjenu poštu, sustavi za preporuke glazbe ili AI alati koji pomažu u organiziranju fotografija.

Na koga se primjenjuje ovaj Zakon?

Zakon ima široko područje primjene i primjenjuje se na javne i privatne organizacije, bez obzira na to jesu li sa sjedištem unutar ili izvan EU, pod uvjetom da se AI sustav stavlja na tržište ili koristi unutar Europske unije.

Na primjer, tvrtka koja koristi umjetnu inteligenciju za provjeru prijava za posao, lokalna uprava koja koristi umjetnu inteligenciju za obradu zahtjeva za javnu pomoć ili bolnica koja se oslanja na dijagnostičke algoritme pokretane umjetnom inteligencijom mogu biti podložni specifičnim obvezama prema Zakonu EU o umjetnoj inteligenciji.

Zakon se postupno provodi. Zabrane određenih praksi umjetne inteligencije i zahtjevi za pismenost u području umjetne inteligencije stupili su na snagu u veljači 2025., a zatim su u kolovozu 2025. uslijedila pravila koja reguliraju modele umjetne inteligencije opće namjene. Od kolovoza 2026. počinju se primjenjivati ​​obveze za visokorizične sustave umjetne inteligencije i zahtjevi za transparentnost. Uredba će se u potpunosti primjenjivati ​​od kolovoza 2027.

Od 01.08. ušao je u novu fazu primjene

Pravila zahtijevaju od tvrtki da obavijeste građane kada komuniciraju sa sustavima umjetne inteligencije. Sadržaj manipuliran umjetnom inteligencijom, uključujući tekst, audio i vizualni sadržaj, također mora biti označen kao takav. Tvrtke koje se ne pridržavaju propisa bit će kažnjene s do 15 milijuna eura ili 3% godišnjeg globalnog prometa, ovisno o tome što je veće.

Propisi o transparentnosti dio su prvog zakona EU o umjetnoj inteligenciji na svijetu. Sastavljen je kako bi se postavile određene zaštitne mjere za brzorastuću tehnologiju i osnažili građani da donose informirane odluke o korištenju umjetne inteligencije.

Henna Virkkunen, izvršna potpredsjednica Europske komisije, rekla je da je zakon „važan korak prema umjetnoj inteligenciji koju ljudi i tvrtke mogu razumjeti i kojoj mogu vjerovati“.

Nova pravila pozdravili su kreatori, koji se natječu s ogromnim količinama takozvanog „otpada umjetne inteligencije“. Međutim, kreatori su također kritizirali Zakon o umjetnoj inteligenciji jer nije zabranio praksu obuke sustava umjetne inteligencije na djelima zaštićenim autorskim pravima.

Nisu svi uvjereni u obvezne izjave o odricanju odgovornosti. „Ako moramo sve označavati, od jednostavnih e-poruka s provjerom pravopisa do fotografija, označavanje sadržaja umjetne inteligencije izgubit će svako značenje“, rekao je Boniface de Champris iz Udruženja računalne i komunikacijske industrije.

Kako Zakon EU o umjetnoj inteligenciji utječe na primjenu gradskih tehnologija?

Zakon EU o umjetnoj inteligenciji vjerojatno će oblikovati primjenu urbanih tehnologija zahtijevajući od lokalnih uprava da procjenjuju, upravljaju i nadziru korištenje sustava umjetne inteligencije prije nego što se uvedu u javne usluge.

Dodatni zahtjevi

Ovi zahtjevi mijenjaju način na koji se dizajniraju projekti pametnih gradova. Do sada su mnogi gradovi usvajali nove tehnologije prvenstveno na temelju povećanja učinkovitosti ili uštede troškova.

Prema novom okviru, moraju uzeti u obzir i čimbenike poput razine rizika sustava umjetne inteligencije, njegovog potencijalnog utjecaja na građane i mogućnosti pristranosti ili diskriminacije.

Na primjer, sustav umjetne inteligencije koji optimizira prometne signale bit će podložan manjem broju zahtjeva od onog koji se koristi za određivanje koje obitelji dobivaju prioritetni pristup socijalnoj pomoći.

Digitalne javne usluge također će biti pogođene, jer se mnoge već oslanjaju na umjetnu inteligenciju u kanalima usluga građanima, uključujući upravljanje urbanim incidentima, optimizaciju korištenja energije u javnim zgradama, predviđanje prometa i digitalne blizance.

Transparentnost

Građani moraju biti obaviješteni kad god komuniciraju sa sustavom umjetne inteligencije, bilo da se radi o virtualnom asistentu ili generativnom alatu umjetne inteligencije koji proizvodi odgovore ili izvješća. Osim toga, odluke sa značajnim posljedicama ne mogu se u potpunosti automatizirati i moraju uključivati ​​smislen ljudski nadzor.

Utjecaj na javnu nabavu

Lokalne vlasti morat će od pružatelja tehnologije zahtijevati da dokažu usklađenost sa Zakonom EU o umjetnoj inteligenciji. To će utjecati na javne natječaje koji uključuju pametnu mobilnost, sigurnost u urbanim područjima, gospodarenje otpadom i energetsku učinkovitost.

Slično Općoj uredbi EU o zaštiti podataka (EU General Data Protection Regulation), usklađenost sa Zakonom EU o umjetnoj inteligenciji postat će ključni pravni zahtjev.

Zahtijeva okvire za upravljanje umjetnom inteligencijom

Gradske vlasti morat će voditi popis sustava umjetne inteligencije, razviti protokole za procjenu rizika, provoditi redovite revizije i provjere usklađenosti te zaposlenicima osigurati obuku o umjetnoj inteligenciji i zahtjevima utvrđenim u Uredbi.

Nekoliko europskih gradova već razvija namjenske okvire za upravljanje umjetnom inteligencijom. Barcelona je odobrila gradsku strategiju umjetne inteligencije za razdoblje 2026. – 2028. usmjerenu na upravljanje, transparentnost, upravljanje rizicima i odgovornu ponovnu upotrebu sustava umjetne inteligencije.

U međuvremenu, Bologna i Milano objavili su smjernice za korištenje umjetne inteligencije u administrativnim procesima i javnim uslugama.

Pitanja i odgovori: Kako Zakon EU o umjetnoj inteligenciji definira primjenu gradskih tehnologija

Koji je glavni cilj Zakona EU o umjetnoj inteligenciji?

Regulirati korištenje umjetne inteligencije kako bi se osigurala sigurnost, zaštitila temeljna prava i promicala umjetna inteligencija usmjerena na čovjeka.

Koji se sustavi umjetne inteligencije smatraju visokorizičnima za lokalne vlasti?

Oni koji bi mogli utjecati na temeljna prava ili bitne javne usluge, poput sustava koji se koriste za upravljanje zahtjevima za socijalne naknade ili javno stanovanje.

Kako Zakon utječe na projekte pametnih gradova?

Zahtijeva od lokalnih vlasti da procijene rizike, procijene potencijalni utjecaj na građane, identificiraju moguće pristranosti i uspostave odgovarajuće mehanizme nadzora prije primjene AI rješenja.

Koje zahtjeve za transparentnost uvodi Zakon?

Građani moraju biti obaviješteni kad god komuniciraju sa AI sustavom, a odluke sa značajnim posljedicama ne mogu se donositi isključivo putem automatiziranih procesa.

Koje će nove obveze imati lokalne vlasti?

Morat će voditi popis AI sustava, provoditi procjene rizika, revidirati korištenje AI i osigurati obuku o AI za zaposlenike.