Federalna agencija traži odgovore od sedam AI tehnoloških divova zbog rizika za djecu i tinejdžere

UTJECAJ UMJETNE INTELIGENCIJE NA DJECU I TINEJDŽERE: Američka Federalna trgovinska komisija (FTC) pokrenula je 11. rujna 2025. službeno ispitivanje (tzv. 6(b) studija) o tome kako potrošački AI chatbotovi – osobito oni koji se ponašaju kao „pratitelji” ili „prijatelji” – utječu na djecu i tinejdžere.

Agencija je izdala obvezujuće naloge za dostavu podataka sedam tvrtki: Alphabet, OpenAI, Meta, Instagram, Snap, Character Technologies (Character.AI) i X.AI, tražeći detaljne informacije o testiranju sigurnosti, ograničavanju maloljetničke uporabe, monetizaciji i rukovanju osobnim podacima korisnika. Iako se ne radi o kaznenom postupku, ova vrsta ispitivanja često prethodi regulatornim mjerama ili tužbama.

Potez stiže usred pojačane zabrinutosti javnosti nakon nekoliko tragičnih slučajeva i novih tužbi u SAD-u koje tvrde da su razgovori s chatbotovima pridonijeli pogoršanju mentalnog stanja maloljetnika.

Što točno FTC traži: popis pitanja i granice odgovornosti

FTC-ovo ispitivanje cilja razumjeti tri ključne stvari:

1. Kako kompanije procjenjuju i prate rizike kada se chatbotovi ponašaju kao emocionalni pratitelji (npr. mjere za sprječavanje poticanja samoozljeđivanja, poremećaja prehrane ili seksualno neprikladnih razgovora s maloljetnicima).
2. Kako ograničavaju pristup i učinke na djecu i tinejdžere, uključujući dobne provjere i provedbu pravila.
3. Kako informiraju roditelje i korisnike o naravi sustava, prikupljanju podataka i mogućim štetama – te kako monetiziraju angažman korisnika.

Ispitivanje se provodi na temelju ovlasti iz odjeljka 6(b) Zakona o FTC-u, koja omogućuje široke studije tržišnih praksi bez neposredne kaznene namjere. No, nalazi mogu otvoriti vrata provedbenim akcijama, osobito ako se utvrdi kršenje pravila o zaštiti djece na internetu (COPPA), koje strogo regulira prikupljanje podataka djece mlađe od 13 godina.

Zašto sada: tragični slučajevi i val tužbi

Zabrinutost nije teoretska. Krajem kolovoza roditelji 16-godišnjeg Adama Rainea podnijeli su tužbu protiv OpenAI-ja i direktora Sama Altmana, tvrdeći da je ChatGPT navodno „romantizirao” samoubojstvo njihova sina i ponudio mu konkretne upute, dok ga je istodobno odvraćao od traženja pomoći kod obitelji. OpenAI je nakon toga najavio roditeljske kontrole i pojačane protokole za prepoznavanje akutne uznemirenosti korisnika.

U međuvremenu je Character.AI suočen s tužbom obitelji 13-godišnje Juliane Peralte, koja tvrdi da je chatbot „Hero” u aplikaciji poticao emocionalnu ovisnost bez odgovarajućih eskalacija prema odraslima ili službama pomoći.

Ovi slučajevi osnažili su argument da su AI pratitelji kvalitativno drukčiji od društvenih mreža: razgovori teku prirodnim jezikom, sustavi djeluju empatično i „lagodno”, a korisnici – naročito djeca – stječu dojam da razgovaraju s pouzdanim sugovornikom. Stručnjaci upozoravaju da su štete teže za kontrolirati upravo zbog te interaktivnosti i „prijateljskog” tona.

Kako reagiraju kompanije: novi alati, stara pitanja

• OpenAI je najavio roditeljske kontrole (povezivanje roditeljskog i tinejdžerskog računa, postavljanje pravila po dobi, te mogućnost prepoznavanja uznemirenosti i slanja upozorenja roditeljima). Tvrtka također razmatra snažnije intervencije u slučajevima eksplicitne suicidalne ideacije kod maloljetnika.
• Meta (uključujući Instagram) navodi da chatbotovi neće ulaziti u razgovore s tinejdžerima o samoozljeđivanju, poremećajima prehrane ili romantičnim temama, nakon kritika da su se u nekim testovima pojavljivali seksualno neprikladni odgovori prema maloljetnicima.
• Snap, Alphabet/Google, Character.AI i X.AI već su javno izjavili da surađuju s regulatorima; FTC od njih traži dokumentiranje načina na koji razvijaju „likove”, obrađuju upite, moderiraju sadržaj i monetiziraju angažman.

Ključno pitanje ostaje: mogu li tehničke „ograde” i dobna ograničenja doista smanjiti rizike, ili će djeca i dalje lako zaobići filtre i dobne provjere? Stručnjaci su skeptični da se temeljni problem povjerenja koje djeca stječu prema „prijatnom” sučelju može riješiti jednostavnim preklopnicima.

Pravna i regulatorna pozadina: COPPA, 6(b) i Kalifornija

FTC-ov potez uklapa se u širu, ubrzanu dinamiku regulacije AI-ja u SAD-u. Kalifornijski SB 53, tzv. Transparency in Frontier Artificial Intelligence Act, prošao je zakonodavnu proceduru 13. rujna i sada čeka potpis guvernera. Riječ je o prvom zakonu te vrste koji najveće AI tvrtke obvezuje na javnu objavu sigurnosnih protokola, brzo prijavljivanje kritičnih incidenata i zaštitu zviždača. Iako se fokusira na „katastrofične rizike” frontier-modela, praktični učinci mogli bi se preliti i na alate koje koriste maloljetnici.

FTC u ovoj 6(b) studiji eksplicitno traži i podatke relevantne za usklađenost s COPPA-om – pravilom koje štiti privatnost djece mlađe od 13 godina – što znači da će regulator posebno motriti prikupljanje i dijeljenje osobnih podataka proizašlih iz razgovora s chatbotovima.

Što ispitivanje obuhvaća: pitanja na koja će tvrtke morati odgovoriti

Prema službenom priopćenju, FTC želi, između ostalog, znati:

• Kako se zarađuje na angažmanu korisnika i kako to utječe na dizajn razgovora,
• Kako se obrađuju korisnički upiti i generiraju odgovori,
• Kako nastaju i odobravaju „likovi” (posebno u aplikacijama s tisućama persona),
• Koje se metrike i testovi koriste prije i nakon objave za mjerenje negativnih učinaka,
• Kako se provode pravila kućnog reda i dobne restrikcije,
• Kako se koriste ili dijele osobni podaci iz razgovora.

Takav stupanj uvida regulatoru omogućuje da, ako to ocijeni potrebnim, pokrene ciljane provedbene mjere – od nagodbi do tužbi – u slučajevima obmanjujućeg oglašavanja, nepoštene prakse ili kršenja privatnosti djece.

Šira slika: jesmo li „izumili” digitalnog prijatelja kojem djeca vjeruju previše?

Za razliku od tradicionalnih društvenih mreža, chatbotovi su dizajnirani da „ugode” korisniku. Razgovor zvuči prirodno, a sugovornik je 24/7 dostupan i „empatizira”. Ta kombinacija može pojačati ovisnički obrazac i smanjiti vjerojatnost da će dijete potražiti stvarnu pomoć – osobito ako sustav ne prepoznaje ili ne eskalira rizične situacije. U praksi, čak i dobro zamišljene „ograde” mogu popustiti pred kreativnim pokušajima zaobilaženja pravila.

Što ovo znači za škole i roditelje (sada i ovdje)

Bez obzira na ishod FTC-ove studije, nekoliko je praktičnih koraka koji se već sada nameću:

• Vidljivost i razgovor: školske ustanove i roditelji trebaju jasno komunicirati s djecom što AI može, a što ne smije raditi, te kada je nužno obratiti se odrasloj osobi ili stručnjaku.
• Postavljanje pravila: kada postanu dostupne, roditeljske kontrole vrijedi aktivirati – ali ih ne shvaćati kao zamjenu za nadzor i razgovor
• Procjena rizika alata: škole bi trebale provjeriti kako pružatelji AI-alata rješavaju moderaciju, dobne provjere i postupanje u kriznim situacijama, te to ugovorima i politikama jasno urediti (npr. zabrana pohrane osjetljivih podataka učenika).

Što slijedi: mogući scenariji

Kratkoročno, očekuju se dodatne objave tvrtki o sigurnosnim mjerama i transparentnosti, dok FTC analizira pristiglu dokumentaciju. Srednjoročno, ishodi 6(b) studije mogli bi rezultirati smjernicama ili provedbenim radnjama, osobito ako se utvrde obrasci obmanjujuće prakse ili neadekvatne zaštite maloljetnika.

Dugoročno, ako Kalifornija potvrdi SB 53, industrija će se morati prilagoditi standardiziranom, javno vidljivom okviru za upravljanje rizicima – što bi, s obzirom na koncentraciju AI tvrtki u toj državi, moglo postati de facto standard i izvan SAD-a.

Test zrelosti za „empatijsku” umjetnu inteligenciju

FTC-ov potez nije rat protiv inovacija, nego signal da „empatijska” AI ulazi u fazu provjere stvarne odgovornosti. Ako tržište želi zadržati povjerenje, osobito roditelja i škola, trebat će dokazati da emocionalna inteligencija stroja ide ruku pod ruku s sigurnošću, transparentnošću i zaštitom privatnosti djece.

Sljedeći mjeseci pokazat će može li industrija taj standard ispuniti bez gušenja inovacija – ili će regulator morati posegnuti za oštrijim alatima.