Umjetna inteligencija će u Europskoj uniji morati igrati po pravilima
Europsko vijeće po prvi je put zakonski reguliralo status umjetne inteligencije i njezinu primjenu u obliku dokumenta koji će u ožujku 2023. ratificirati Europski parlament.
Europski zakon o umjetnoj inteligenciji tako je postao jedno od najsuvremenijih zakonskih rješenja za reguliranje područja tehnologije umjetne inteligencije.
Pronalaženje adekvatne pravne definicije umjetne inteligencije bilo je polazište u izradi ovog važnog dokumenta. Jedna od prvih zabrinutosti bila je zabrinutost da bi definicija mogla biti preširoka da bi uključila tradicionalni softver i nepotrebno ga povezivala s rizicima koji mu nisu svojstveni.
Zbog toga je uvedena uža definicija sustava vezanih uz umjetnu inteligenciju koja je uključivala strojno učenje i pristupe temeljene na logici i znanju. Ti su elementi odabrani jer ih zakonodavna tijela EU mogu lako naknadno ažurirati kroz odgovarajuće pravne akte, piše asadria.com.
Što je umjetna inteligencija “opće namjene”?
Važnu ulogu u izradi Zakona o umjetnoj inteligenciji imali su razrađeni popis “visokorizičnih” AI sustava, nova uloga Povjerenstva za umjetnu inteligenciju te jasnije definiranje iznimaka za primjenu AI u području nacionalne sigurnosti i provedbe zakona. zakon. Za početak je dana definicija umjetne inteligencije “opće namjene”. Prema novom zakonskom okviru, AI opće namjene uključuje velike jezične modele koji se mogu prilagoditi za obavljanje različitih zadataka, a ne samo ciljeva.
Države članice Europske unije smatrale su da bi izostavljanje ovih kritičnih sustava izvan pravnog okvira “osakatilo” prateću regulativu o umjetnoj inteligenciji. To je posebno važno u trenutku kada je potrebno regulirati ovako dinamično tržište. Ovaj problem je riješen tako što je Europska komisija dobila zadatak da u roku od godinu i pol dana od stupanja uredbe na snagu provede procjenu utjecaja i konzultacije o pravilima za AI opće namjene.
Što je AI sustav visokog rizika?
Kada je riječ o klasifikaciji, tekst daje prijeko potrebnu analizu “visokorizičnih” AI sustava. Time se želio osigurati da ovaj pravni okvir ne izostavi nijedan sustav umjetne inteligencije koji bi mogao uzrokovati ozbiljna kršenja temeljnih prava ili dovesti do pojave značajnih rizika. Kategorije visokog rizika opisane su u Prilogu III Uredbe, gdje se navodi da ovaj koncept podrazumijeva sustav AI čija primjena podrazumijeva visok rizik od nanošenja štete ljudima ili imovini, zbog čega se na ove UI primjenjuju strože zakonske obveze. sustava.
Da bi sustav mogao biti klasificiran kao visokorizičan mora imati odgovarajuću težinu u procesu odlučivanja. To znači da oni ne mogu biti “pomoćni” AI sustavi čije je detaljno definiranje prepušteno Povjerenstvu u obliku budućeg podzakonskog akta. Važno je napomenuti da je Europsko vijeće s popisa tih sustava uklonilo sustave za detekciju manipulacije deepfake i prepoznavanje emocija koje koriste agencije za provođenje zakona, kao i AI sustave za analizu zločina i autentifikaciju putnih isprava. S druge strane, na popis su dodani kritična digitalna infrastruktura te životno i zdravstveno osiguranje. Radi dodatne fleksibilnosti Komisija će ubuduće moći ne samo dodavati visokorizične vrste primjene umjetne inteligencije putem aneksa, već ih pod određenim uvjetima i brisati.
Stoga je proširena obveza korisnika visokorizičnih sustava umjetne inteligencije da se prijave u EU bazu podataka. Ta se obveza sada odnosi i na javna tijela, s izuzetkom tijela za provedbu zakona. Korisnici visokorizičnih sustava umjetne inteligencije morat će svoj rad uskladiti sa zahtjevima Zakona, poput osiguravanja dovoljno kvalitetnih skupova podataka i jednako detaljne tehničke dokumentacije.
Što to znači za tvrtke i druge dionike?
Sustavi umjetne inteligencije razvijaju se i distribuiraju kroz složene lance vrijednosti. Izmjenama i dopunama zakona o umjetnoj inteligenciji sada se detaljno pojašnjava raspodjela odgovornosti i uloga različitih aktera u tim lancima, posebice dobavljača i korisnika sustava umjetne inteligencije. Novi zakonski okvir preciznije definira raspodjelu odgovornosti svih sudionika unutar složenih lanaca primjene te tehnologije. Primjerice, mala i srednja poduzeća koja koriste AI sustave označene kao visokorizični od sada će morati imati dovoljno detaljne podatke o njihovoj primjeni, ali i kompletnu tehničku dokumentaciju kojom će morati dokazati svoju usklađenost s novim zakonom.
Nova uredba također pojašnjava odnos različitih nadležnosti prema Zakonu o umjetnoj inteligenciji u okviru sektorskog zakonodavstva, npr. Europski propisi o zaštiti podataka i sektoru financijskih usluga. Konačno, Zakon će ostati u živom dijalogu s postojećim sektorskim zakonodavstvom za različita područja u kojima se primjenjuje umjetna inteligencija.
Iznimke za provedbu zakona i nacionalnu sigurnost
Europski zakonodavci slažu se da će adekvatna primjena Zakona uvelike ovisiti o dobro definiranim iznimkama od njegove primjene. Agencije za nacionalnu sigurnost, agencije za provođenje zakona i vojska navode se kao najvažniji subjekti na koje se Zakon o umjetnoj inteligenciji neće jednako primjenjivati. Pojašnjeno je da
Zakon o umjetnoj inteligenciji ne bi se trebao primjenjivati na sustave umjetne inteligencije i njihove rezultate koji se koriste isključivo u svrhe istraživanja i razvoja. Isto vrijedi i za zabranu korištenja umjetne inteligencije u neprofesionalne i netransparentne svrhe, izvan područja primjene Zakona o umjetnoj inteligenciji. U skladu s procjenom odgovarajućih zaštitnih mjera, ove zakonske izmjene trebale bi odražavati potrebu zaštite povjerljivosti osjetljivih operativnih podataka kojima se pristupa u sklopu operativnih aktivnosti potpomognutih umjetnom inteligencijom.
Isto tako, nova regulativa zabranjuje korištenje umjetne inteligencije za iskorištavanje ranjivosti i uspostavu sustava “socijalnog bodovanja”, kakav se koristi u nekim azijskim zemljama.
Složenost regulacije
Zabrana društvenog bodovanja pomoću umjetne inteligencije sada je proširena na privatne aktere kako bi se izbjeglo zaobilaženje zabrane preko podizvođača, dok je koncept iskorištavanja ranjivosti proširen na socioekonomsku sferu.
Konačno, Zakon predviđa jačanje tehničkih kapaciteta za njegovu lakšu provedbu. To također podrazumijeva angažman Povjerenstva u imenovanju institucija za tehničku potporu u primjeni ovog tehnološki orijentiranog zakona. Isto vrijedi i za uspostavu kontroliranih okruženja u kojima tvrtke mogu testirati AI rješenja uz odgovarajući nadzor. Složenost prateće uredbe o umjetnoj inteligenciji pokazatelj je da primjena ovog zakona neće biti jednosmjerna ulica, budući da je umjetna inteligencija dinamično i mlado tržište.
Ipak, kao prvi korak u uvođenju ove tehnologije u pravi okvir, Zakon o umjetnoj inteligenciji je povijesni dokument od kojeg se s pravom puno očekuje.
