OVO MORATE ZNATI: Evo kako je ChatGPT postao sveznalica

ChatGPT može pisati pjesme, popravljati oštećeni kod, objašnjavati kvantnu teoriju i raspravljati o moralnoj filozofiji – sve u istom razgovoru. Brz je, uglađen i često iznenađujuće uvjerljiv.

Mnogima se čini kao razgovor s nadljudskim knjižničarom koji je pročitao cijeli internet. Ali iza samopouzdanja krije se čudnija istina: ChatGPT ne zna ništa na način kako ga mi razumijemo.

Nema mozga. Nema sjećanja na prošle događaje. Nema razumijevanja značenja. Umjesto toga, ono što pokreće ovaj alat je nešto mnogo jednostavnije – i daleko više mehanički nego intelektualno.

ChatGPT radi na način da predviđa sljedeću riječ u rečenici, koristeći obrasce koje uči. Oponaša rasuđivanje, empatiju, čak i humor. Ali što se zapravo događa iza kulisa? Odakle dobiva svoje “znanje”? Zašto ponekad izmišlja stvari? I možda najvažnije – kako bismo ga zapravo trebali koristiti?

Izgrađen na planini riječi

ChatGPT nije čitao internet – apsorbirao je obrasce jezika koji postoje na internetu.

Njegova obuka uključivala je skeniranje stotina milijardi riječi iz knjiga, web stranica, članaka, društvenih mreža i javnih skupova podataka poput Common Crawla i Wikipedije. To uključuje sve, od romana iz 19. stoljeća do korisničkih recenzija na Amazonu, od sažetaka medicinskih istraživanja do ležernih Reddit tema. Ne da bi ih razumjeli, već da bi uočili strukture koje dijele.

Hraneći ga ogromnim količinama teksta, inženjeri su pomogli modelu da nauči kako ljudi obično pišu. Uhvatio je ritam engleskih rečenica, kako se obično formiraju argumenti, kako šale padaju (ponekad) i koje se činjenice često pojavljuju zajedno. Ne pohranjuje određene dokumente. Umjesto toga, gradi svojevrsnu kartu vjerojatnosti – statistički osjećaj što obično slijedi nakon čega.

Na primjer, ako netko upiše:
“Glavni grad Francuske je…”
Model je vidio milijune varijacija ove fraze i “zna” da je “Pariz” najvjerojatnija sljedeća riječ. Ne zato što je provjeravao činjenice, već zato što se taj uzorak dosljedno pojavljuje u podacima na kojima je trenirao.

To je prepoznavanje uzoraka, a ne znanje – imitacija, a ne pamćenje. Ali u velikim razmjerima – i uz prave upute – počinje jako nalikovati inteligenciji.

Zašto ChatGPT još uvijek izmišlja stvari (i uvijek će, na neki način)

Jedan od najupečatljivijih aspekata ChatGPT-a je koliko samouvjereno može biti netočan. Može vam dati citat koji ne postoji, izmisliti povijesni događaj ili vam reći izmišljeni zakon sa savršenim formatiranjem. To nisu greške – ugrađeni su u način na koji model funkcionira.

ChatGPT je dizajniran da bude tečan, a ne činjeničan

Njegov je cilj generirati uvjerljive odgovore na temelju obrazaca u jeziku, a ne provjeravati je li ono što govori istina.

Ako se u uputama traži popis izvora, pokušat će generirati nešto što izgleda kao popis izvora. Ako vidi da znanstvena pitanja često uključuju reference na Harvard ili Nature, može umetnuti ta imena čak i ako takav članak ne postoji.

Ova sklonost poznata je kao halucinacija – ne zato što umjetna inteligencija zamišlja stvari u ljudskom smislu, već zato što proizvodi informacije koje se čine stvarnima, ali nisu. A budući da ne zna što je stvarno, ne može se uhvatiti na djelu.

Čak i novije verzije, opremljene boljim podacima i zaštitnim ogradama, povremeno izmišljaju. Ne iz zlobe ili pogreške – već zato što je cijela poanta prikazati stvari kako treba.

Što ChatGPT ne zna (i nikada ne može)

Unatoč svojoj tečnosti, ChatGPT nema pojma što govori. Ne razumije radost, kontekst, posljedice ili emocije – ne na način na koji to ljudi čine. Ne zna koja je godina, osim ako mu ne kažete. Ne sjeća se prošlih razgovora osim ako sesija nije aktivna. I nema uvjerenje, sjećanje ili cilj. Sve što generira temelji se na obrascu i vjerojatnosti, a ne na svijesti.

ChatGPT nije um – to je ogledalo

Možete ga zamoliti za vic o mačkama, a on bi mogao odgovoriti nečim pametnim. Ali ne zna što je smiješno. Izvlači iz primjera humora koje je već vidio, miješajući fraze koje izgledaju kao šala. Smijeh je vaš, a ne od stroja.

To je i razlog zašto ne može stvarno formirati mišljenje. Kada ga ponudi, obično ponavlja ono što ljudi obično govore, pristojno upakirano. Ne bira stranu. To je odabir onoga što zvuči kao ispravna sljedeća rečenica u razgovoru o odabiru strana.

U tom smislu, ChatGPT nije um – to je ogledalo. Ono koje je obučeno na našim riječima, odražavajući ih natrag s jezivom točnošću, ali bez razumijevanja koje je tim riječima uopće dalo značenje.

Za što je zapravo dobar (i gdje još uvijek ne uspijeva)

Unatoč svim svojim ograničenjima, ChatGPT je izuzetno koristan – ako ga znate dobro koristiti. To je moćan pomoćnik u pisanju, pratitelj koda, objašnjavač istraživanja i partner u brainstormingu.

Trebate napisati zahtjevnu e-poštu? Nacrtati prijedlog? Razumjeti osnove nišnog znanstvenog koncepta? Brzo će vas dovesti do 80% uspjeha.

Ističe se u kreativnim i iterativnim zadacima:

• Generiranje ideja za sadržaj društvenih mreža;
• Sažimanje dugih članaka;
• Prevođenje tona (iz ležernog u formalni ili obrnuto);
• Pretvaranje nejasnih misli u jasne rečenice;
• Pisanje isječaka koda ili ispravljanje pogrešaka (iako ne uvijek bez grešaka).

Ali i dalje se spotiče u područjima gdje su točnost, nijanse ili etika važni.

• Ne može pouzdano pružiti podatke u stvarnom vremenu ili osobne savjete.
• Može predstaviti zastarjele ili pristrane informacije kao činjenice.
• I ne može donositi moralne sudove – samo ponavljati obrasce kako ljudi govore o njima.

U kontekstima s visokim ulozima – zdravstvo, pravo, financije, odnosi – nikada ne bi trebao biti jedini donositelj odluka. Ne poznaje vaš život. Ne može procijeniti posljedice. I neće se ispraviti osim ako ga ne potaknute na to.

Evo zašto nam razumijevanje umjetne inteligencije pomaže da ostanemo ljudi

Živimo u vremenu kada alati umjetne inteligencije poput ChatGPT-a mogu pisati životopise, prevoditi drevnu poeziju ili simulirati razgovor s vašim mlađim ja. I dok se to čini revolucionarnim, također je duboko pogrešno shvaćeno.

Mudro korišten, ChatGPT može biti snažno proširenje naše kreativnosti, naše znatiželje, pa čak i našeg suosjećanja. Ali samo ako se sjetimo jedne stvari: on ne zamjenjuje ljudsko razmišljanje. Samo čini rad na razmišljanju malo kolaborativnijim.