AI bi mogao revolucionirati kibernetičku sigurnost, ali nadmašuju li prednosti strahove?

Kako sofisticiranost umjetne inteligencije raste u borbi protiv složenih kibernetičkih prijetnji, tako raste i zabrinutost onih koji vjeruju da bi ovaj brzi napredak mogao doći po cijenu njihove privatnosti i osobnih podataka.

Sigurnosne prijetnje postale su sve češće i znatno sofisticiranije posljednjih godina. Kako bi se suprotstavila ovom trendu, umjetna inteligencija doživjela je brzi napredak do neviđenog stupnja.

Međutim, kako AI nastavlja rasti kako bi se suočila s tim opasnostima, raste i zabrinutost onih koji pomno prate njegov razvoj.

Pojava vrlo naprednih alata kao što su GPT-4 i ElevenLabs, zajedno s nenadmašnom brzinom kojom su napredovali, natjerala je mnoge stručnjake na rub. S nekoliko AI alata koji mogu djelovati kao virtualni pomoćnici, pisati članke, pa čak i stvarati umjetnost, prisutan je veliki strah da će veliki broj ljudi biti postupno višak radne snage u korist ovog isplativijeg i manje radno intenzivnog rješenja.

AI na radnom mjestu

“Postoji zabrinutost zbog preuzimanja poslova od strane robota“, kaže Matt Tengwall, generalni direktor rješenja za prijevare i sigurnost u Verint Systemsu, koji je prisustvovao nedavnom događaju Verint Engage 2023 u Las Vegasu. “Nadam se da će botovi povećati radnu snagu, kao što je i planirano, umjesto da ukinu bilo koja radna mjesta. AI bi trebao pomoći profesionalcima da rade bolje i brže bez promjene načina na koji rade stvari.”

Ovo povećanje radne snage dolazi u obliku botova koji su dizajnirani da pomognu sigurnosnim stručnjacima da točnije i brže identificiraju probleme na nekoliko načina.

Virtualni AI asistent može, na primjer, generirati cjelokupnu prognozu podataka u trenucima kako bi pružio vrijedan uvid u specifične trendove. Ili tim botova može trenirati jedni druge koristeći LLM ili velike jezične modele, umjesto da se oslanjaju na svoje programere da utvrde slijepe točke i stalno ažuriraju svoj kod.

S tim prednostima, međutim, dolazi zabrinutost da bi zemlja mogla postati previše ovisna o AI tehnologiji da popuni praznine. S programima temeljenim na umjetnoj inteligenciji koji se brinu o virtualnom asistentu, obuci, pa čak i video analitici, postoji mogućnost da bi pretjerano oslanjanje organizacije na te programe moglo spriječiti odgovarajuću obuku zaposlenika o odgovoru na krizne situacije ili ostaviti sigurnosne timove da se koprcaju tijekom proboja. Organizacije moraju pronaći ravnotežu između delegiranja zadataka svojim programima umjetne inteligencije i osiguravanja da njihovi zaposlenici budu u tijeku s postupcima, planiranjem i odgovorom.

“Želimo da naši botovi i zaposlenici imaju sinergiju – da bolje rade zajedno nego što bi sami”, dodaje Tengwall. “Ne radi se o potpunoj zamjeni.“

Odnos između umjetne inteligencije i sigurnosti

Kada su podaci o videonadzoru organizacije sigurno pohranjeni u oblaku, sofisticirana umjetna inteligencija može pretražiti bezbrojne sate snimaka kako bi identificirala prijetnje i prijeteće aktere, štedeći neizmjernu količinu vremena i radne snage.

Dodatno, umetanje umjetne inteligencije u sustave praćenja u stvarnom vremenu radi razlikovanja stvarnih sigurnosnih proboja od lažnih pozitivnih rezultata omogućuje provođenju zakona da pravovremeno reagiraju na stvarne krize. Kao rezultat toga, sigurnosni rizici mogu se ublažiti brže i učinkovitije.

Mnoge platforme temeljene na umjetnoj inteligenciji sada su sposobne i za prepoznavanje lica u stvarnom vremenu. Istodobnim pretraživanjem baza podataka lica tijekom događaja mogu identificirati specifične problematične pojedince koji ostaju u prostorijama. To omogućuje povećanu skalabilnost i točnost u identificiranju prijetećih aktera.

Ovo je velika korist u kriznim situacijama, tijekom kojih je brzina odgovora ključna za spašavanje života i imovine, kažu zagovornici umjetne inteligencije. To također potencijalno štedi vrijeme za policiju da se usredotoči na borbu protiv stvarnih prijetnji i poboljšanje vremena odgovora policije, koje se značajno povećalo posljednjih godina.

Otkrivanje lažnih uzbuna također omogućuje policiji više vremena za hvatanje prijetećih aktera, budući da većina kriminalaca ostaje na mjestu događaja samo nekoliko minuta tijekom i nakon počinjenja zločina. Međutim, postoji sve veći broj promatrača koji vjeruju da će umjetna inteligencija jednostavno povećati ove ranjivosti.

Zlonamjerni napadači prethodno su manipulirali zlonamjernim softverom temeljenim na umjetnoj inteligenciji, koristili LLM-ove za pisanje zlonamjernog koda i koristili alate poput ChatGPT-a za izradu phishing e-poruka, između ostalih vektora napada. Sama količina podataka koje umjetna inteligencija može obraditi bez ikakvog ljudskog nadzora također ih čini ranjivima na provale ili curenje, bilo da su namjerna ili ne.

Drugi su primijetili da korištenje softvera temeljenog na umjetnoj inteligenciji bez odgovarajućeg nadzora može uzrokovati da programi razviju pristranosti prema određenim skupovima podataka ili čak pojedinačnim osobinama, što rezultira time da softver umjetne inteligencije nenamjerno diskriminira ljude s određenim fizičkim osobinama ili se previše fokusira na uočeni trend.

Kako bi se borile protiv toga, organizacije mogu njegovati transparentan odnos između svojih AI programa i sigurnosnih stručnjaka, sprječavajući programe da sami donose odluke bez nadzora i potičući njihov nadzor i reviziju.

Dodatno, AI se može uvježbati pomoću LLM-ova da bolje odgovori na razne prijetnje kibernetičkoj sigurnosti, uključujući automatsko izoliranje stavki zaraženih zlonamjernim softverom, trenutno identificiranje sumnjive datoteke, prijave ili IP adrese ili otkrivanje prijetnji iznutra.

Je li umjetna inteligencija dobra za privatnost?

Kako sve veći broj softvera i algoritama temeljenih na umjetnoj inteligenciji prikuplja i obrađuje podatke, javlja se strah od ugrožene osobne privatnosti.

Potrošači su navikli vidjeti kako se njihove osobne preferencije odražavaju u online oglašavanju, pri čemu mnoge organizacije koriste podatke o klijentima za ciljanje oglasa prema njihovim specifičnim interesima. To je stvarnost zbog koje se korisnici osjećaju neugodno, jer mnogi ne vjeruju da su pristali da se njihovi podaci prikupljaju i koriste na ovaj način.

Drugi su zabrinuti zbog povjerenja u glavne institucije koje koriste te tehnologije. Povrede podataka u bankama sada su uobičajene i izlaganje osobnih podataka može dovesti do golemih sigurnosnih posljedica za privatnost.

Krađa identiteta, hakiranje osobnih računa i financijske prijevare rizici su koje korisnici preuzimaju kada tim institucijama povjeravaju svoje osobne podatke, a bit će manje vjerojatno da će to učiniti ako organizacija ima povijest kršenja.

“Sigurnost i osjećaj osobne privatnosti mogu imati veliki utjecaj na angažman korisnika u organizaciji“, kaže Tengwall. “Ako kupac ne vjeruje da su njegovi podaci sigurni, nema povjerenja za nastavak.“

Organizacije mogu poduzeti korake u borbi protiv ovog straha uspostavljanjem transparentnosti u svojim programima. Obavještavanje potrošača o tome što točno rade s prikupljenim podacima i kako se oni štite od zlonamjernih aktera može pomoći tim organizacijama da zadrže povjerenje onih koji vjeruju u njih da svoje podatke čuvaju sigurnima.

Umjetna inteligencija može biti moćan sigurnosni alat ako se pravilno koristi. Ostajući transparentnim i dopuštajući umjetnoj inteligenciji da poveća – ali ne zamijeni – njihove sigurnosne stručnjake i procedure, organizacije mogu koristiti svoj softver temeljen na umjetnoj inteligenciji u najvećoj mjeri bez žrtvovanja privatnosti i povjerenja svojih klijenata.