Tamna strana umjetne inteligencije

Raste zabrinutost zbog pitanja rasizma AI-ja i njihovog stereotipnog ponašanja

Usred brzog napretka umjetne inteligencije (AI), pojavio se val zabrinutosti u vezi s njezinim potencijalnim negativnim učincima. Od rasnih predrasuda do stereotipnog ponašanja, sposobnosti AI-a za automatsko donošenje odluka izazivaju kritike iz raznih sektora društva.

Rasizam, stereotpi,…

Jedan od glavnih problema oko umjetne inteligencije je njezina sklonost odražavanju rasizma. Sustavi umjetne inteligencije treniraju se na pristranim skupovima podataka, stoga je utvrđeno da pokazuju diskriminirajuće ponašanje. Algoritmi dizajnirani za donošenje autonomnih odluka nenamjerno reproduciraju društvene predrasude, što dovodi do nepravednih ishoda, kao što je rasno profiliranje i diskriminacija u raznim područjima, uključujući provođenje zakona i procese zapošljavanja.

Nadalje, stereotipna priroda umjetne inteligencije također je zabrinjavajuća. Neki sustavi umjetne inteligencije imaju tendenciju jačanja društvenih stereotipa, što dovodi do perpetuiranja štetnih predrasuda i generalizacija. To može imati dalekosežne posljedice, utjecati na živote pojedinaca i dodatno pogoršati društvene nejednakosti.

Evo primjera kako AI može ovjekovječiti stereotipe. Discord, komunikacijska platforma, omogućuje korisnicima stvaranje zajednica i sudjelovanje u glasovnim, video i tekstualnim razgovorima u stvarnom vremenu. Sada ima mogućnost generiranja bilo koje slike koju želite, za samo 4 eura mjesečno.

Problem je u tome što su generirane slike vrlo stereotipne i diskriminirajuće. Na primjer, korištenje riječi Irish ili Scottish kada se traži da generira bilo koji portret uvijek bi generiralo osobu boje đumbira, čak i kada bi se tražilo da generira druge boje kose, bot će i dalje proizvoditi osobe bijele puti.

Još gore, kada se koriste riječi koje se odnose na islamski svijet kao što su džihad, musliman ili samo tradicionalna muslimanska imena, stroj stvara stereotipne i diskriminirajuće slike.

Emocionalni deficit AI sustava

Još jedno upadljivo ograničenje umjetne inteligencije je njezina nesposobnost da točno oponaša ili prepozna ljudske emocije. Taj nedostatak postavlja izazove u područjima kao što su skrb o mentalnom zdravlju i služba za korisnike, gdje emocionalna inteligencija igra ključnu ulogu.

Unatoč napretku u obradi prirodnog jezika i analizi osjećaja, umjetna inteligencija još uvijek ima problema s razumijevanjem ljudskih emocija i odgovarajućim odgovorom na njih, ostavljajući značajnu prazninu u svojim sposobnostima.

Pitanja demokracije i odgovornosti AI

Vlade diljem svijeta sve se više oslanjaju na automatske procese donošenja odluka koje pokreće AI. Iako to obećava učinkovitost i racionalizaciju javnih usluga, kritičari tvrde da bi to moglo potaknuti lijenost i učiniti ljude neproduktivnima.

Kako vlade prepuštaju donošenje odluka umjetnoj inteligenciji, postoji strah da bi se ljudska odgovornost i kritičko razmišljanje mogli smanjiti, što bi dovelo do potencijalne zlouporabe moći i erozije demokratskih vrijednosti.

Kada je riječ o propagandi, AI se može koristiti na mnogo načina. Jedan od najboljih primjera za to su lažne vijesti i radikalizacija mladih kako bi se pridružili krajnje desničarskim ekstremističkim pokretima diljem svijeta.

Značajan rizik predstavlja i radikalizacija sustava koje pokreće AI. Istu tehnologiju koja ima potencijal revolucionirati industrije i poboljšati ljudske živote zlonamjerni akteri mogu iskoristiti za širenje dezinformacija, manipuliranje javnim mnijenjem i poticanje nasilja. Zaštita od stavljanja umjetne inteligencije u oružje kao oružje i osiguravanje njezine odgovorne uporabe ključni su izazovi s kojima se društvo mora kolektivno pozabaviti.

Možemo li regulirati i kontrolirati AI?

Danas umjetna inteligencija ubrzano ulazi u naš svakodnevni život; Može čak i otključati naše telefone. Ovo je iznimno važno jer znači da se razvoj umjetne inteligencije ne može obuzdati, njezino širenje mora prokrvariti između civilne, poslovne i vojne sfere. AI je stoga više od tehnologije – ona je pokretač.

Svijetu je izuzetno teško pronaći način da sve to izbjegne. Štoviše, ne postoji način da se ova tehnologija zaustavi u razvoju. Jedino preostalo utočište je pronaći način da se to drži pod kontrolom.

Europska unija je primijetila potencijalne opasnosti nekontrolirane implementacije umjetne inteligencije

Europska komisija (EK) predstavila je pravni okvir za AI, Zakon o umjetnoj inteligenciji (AI Act), prvi takve vrste u svijetu.

Zakon o umjetnoj inteligenciji ima za cilj implementaciju sustava koji će ljudi moći pratiti dok koriste tehnologiju temeljenu na umjetnoj inteligenciji. Ovi propisi EU-a nastoje osigurati transparentnost, odgovornost i etičke prakse u vezi s umjetnom inteligencijom, istovremeno štiteći privatnost pojedinaca i prava na podatke. Ovi propisi imaju za cilj uspostaviti ravnotežu između inovacija i zaštite prava i dobrobiti pojedinaca u sve digitalnijem svijetu.

Zaključno, kako AI nastavlja napredovati, ključno je riješiti njegove strukturne nedostatke koji su naslijeđeni od njegovih ljudskih izumitelja, kao što su rasizam, stereotipi i problemi automatskog donošenja odluka.

Također treba priznati strepnju mlađe generacije glede njihovih budućih izgleda za posao i etičke implikacije ograničenja umjetne inteligencije na oponašanje ljudskih emocija. Budući da propisi EU-a i kampanje protiv autonomnog oružja sve više dobivaju na zamahu, očito je da se globalno društvo bori s etičkim i praktičnim izazovima koje postavlja uspon AI-ja.

This article is part of Read Twice – an EU-funded project, coordinated by Euro Advance Association that targets young people and aims to counter disinformation and fake news by enhancing their skills to assess critically information, identify vicious and harmful media content and distinguish between facts and opinions, thus improving their media literacy competences.

The contents of this publication are the sole responsibility of its author and do not necessarily reflect the opinion of the European Union.