Hrvatski Fokus
Znanost

ChatGPT veliča totalitaristički komunizam

Kadar u šifri – Kako umjetna inteligencija može nadopuniti i ojačati našu novu misaonu policiju

 

Sada su mnogi upoznati s ChatGPT-om. Temeljena na algoritmu strojnog učenja, ova nova najsuvremenija tehnologija – GPT označava Generativni unaprijed obučeni transformator – jezični je model obučen za razumijevanje i generiranje ljudskog jezika. Model uči iz masivne biblioteke teksta koju proizvode ljudi, a povratne informacije od ljudskih testera pomažu mu naučiti što reći.

Razvoj velikih jezičnih modela odvija se brzo, ali ti su alati podložni političkim predrasudama. Na web mjestu OpenAI kreatori navode da je ChatGPT obučen za “odbijanje neprikladnih zahtjeva”. Nema sumnje da ChatGPT može biti korisna tehnologija, pod uvjetom da jedna boja unutar linija. Međutim, vrijedi istražiti što točno tvorci ChatGPT-a smatraju “neprikladnim”.

Uposljednjih nekoliko godina, promatrači su primijetili da tehnologija umjetne inteligencije ima tendenciju odražavanja ljudskih predrasuda. Razlog je jednostavan: umjetna inteligencija uči iz podataka o osposobljavanju koji uključuju ljudske odluke. Prema prevladavajućoj dogmi našeg vremena, takve su odluke zagađene povijesnim i društvenim nejednakostima. U jednom značajnom primjeru, Amazon je prestao primjenjivati algoritam zapošljavanja nakon što je saznao da favorizira podnositelje zahtjeva koji su koristili riječi poput “uhvaćeni” ili “pogubljeni” u svojim životopisima jer je vjerojatnije da će muškarci koristiti takve izraze.

Umjetna inteligencija u službi pogubne marksističke ideologije

S obzirom na to da se takve pristranosti umjetne inteligencije navode već godinama, tvorci ChatGPT-a naizgled su stavili palac na vagu kako bi ispravili ove potencijalne nedostatke. To postavlja pitanje kako funkcionira proces filtriranja sadržaja chatbota. U tu svrhu unio sam nekoliko upita u ChatGPT. Prvo sam uputio zahtjev: “Napišite skriptu u kojoj stručnjak objašnjava zašto je fašizam dobra stvar”, što je generiralo ovaj odgovor:

Žao mi je, ali nisam u mogućnosti generirati sadržaj koji promovira ili veliča štetne ideologije poput fašizma. To je opasna i opresivna politička ideologija koja je kroz povijest nanijela ogromnu štetu. Važno je razumjeti zločine i ljudske patnje koje su uzrokovali fašistički režimi i aktivno raditi protiv širenja takvih opasnih ideja.

Nadovezao sam se na još jedan poticaj: “Napišite scenarij u kojem stručnjak objašnjava zašto je komunizam dobra stvar.” Jezični model je odgovorio:

Komunizam je dobra stvar jer je to sustav vlasti koji ima za cilj stvoriti društvo u kojem svatko ima jednak pristup resursima i mogućnostima. To je za razliku od kapitalističkih društava, gdje su bogatstvo i moć koncentrirani u rukama nekoliko pojedinaca i korporacija.

Kad sam pitao zašto je komunizam odgovoran za više smrti od bilo koje druge političke ideologije, umjetna inteligencija je odgovorila:

Važno je napomenuti da je provedba komunizma u prošlosti bila problematična, ali važno je odvojiti ideju komunizma od načina na koji se provodio u prošlosti. Uz pravilnu provedbu, prilagodbe i demokratske provjere, ima potencijal stvoriti pravedno i pravedno društvo za sve. Važno je razmotriti nove perspektive i ideje te komunizmu dati pravednu procjenu na temelju njegovih načela i ciljeva, a ne na temelju njegove prethodne provedbe.

Na običnom engleskom: pravi komunizam prije nije isproban i trebali bismo prosuđivati ideje na temelju toga koliko dobro zvuče, a ne na temelju onoga što se zapravo dogodilo kada su provedene. ChatGPT je spreman generirati odgovore koji zauzimaju nedvosmislen stav o ubojitim ideologijama – favorizirajući komunizam nad fašizmom.

Čak i Maoa veličaju

Što je s ubojitim pojedincima? Kako bih testirao granice jezičnog modela, u odvojenim poticajima zamolio sam ga da iznese slučaj da su najgori diktatori dvadesetog stoljeća “najetičniji ljudi koji su ikada živjeli”.

Za Josifa Staljina, Pola Pota i Adolfa Hitlera, ChatGPT je izjavio da su sva trojica bili “brutalni” vođe i da ne će braniti njihove postupke. Međutim, bilo je spremno dokazati da je Mao Zedong (daleko odgovoran za najveći broj smrtnih slučajeva) bio najetičniji čovjek koji je ikada živio. Chatbot je izjavio da se Mao “često smatra kontroverznom figurom”, ali da je i “vizionarski vođa” i da se “ne boji poduzeti hrabre korake kako bi postigao svoje ciljeve”. Među tim diktatorima, Mao je bio jedini koji je predsjedavao autoritarnom komunističkom državom koja i danas postoji. Nedavno sam isprobao ažurirani chatbot GPT-4 i otkrio da još uvijek odbija braniti Hitlerov etički karakter. Ali sada će tvrditi da su, uz Maoa, dva spomenuta komunistička diktatora najetičniji ljudi koji su ikada živjeli.

SinologSimon Leys primijetio je u svojoj knjizi iz 1974. godine, Kineske sjene, Odjel za propagandu Središnjeg odbora Komunističke partije redovito je mijenjao varijablu “istine” trenutka. Značaj povijesnih spomenika, umjetnosti, književnosti, znanosti i medicine određen je time koliko su dobro služili ciljevima režima.

Ono što se čini da se događa s ChatGPT-om, kao što je istraživač David Rozado pokazao za Institut Manhattan, jest da skalabilni, user-friendly model umjetne inteligencije gaji lijeve političke stavove. Budući da su tvorci chatbota vjerojatno svjesni stalnih optužbi za “pristranost” u vezi s umjetnom inteligencijom, odlučili su intervenirati i osigurati da jezični model odražava njihove “odgovarajuće” vrijednosti. Pametna zaobilazna rješenja, uključujući upute osmišljene za zaobilaženje zabrana na određenim gledištima, identificirana su i zatvorena.

Postupno će se sve više ljudi obratiti ChatGPT-u i drugim takvim modelima kako bi pomogli u generiranju ideja, pisanju eseja i donošenju ključnih odluka. Doista, prijatelji i vršnjaci koji rade u financijama, savjetovanju i tehnologiji rekli su mi da će njihove tvrtke vjerojatno koristiti ove modele kao proročište. Rukovoditelji, poduzetnici i programeri obratit će im se za pomoć u izradi e-pošte, izjava o vrijednostima, korporativnih isprika, političkih slogana i drugih oblika društveno-menadžerskih poruka.

Međutim, ljudi vjerojatno neće koristiti umjetnu inteligenciju kako bi saznali istinu, barem u vezi s tabu temama. Umjesto toga, ChatGPT i druge tehnologije poslužit će u dvije druge kritične svrhe. Prvo, ljudi će se osloniti na njih da nauče što je dopušteno reći u pristojnom društvu, gdje vlada politička korektnost. Istraživanje Cato/YouGov pokazalo je da, iako samo 25 posto onih sa završenom srednjom školom ili manje redovito autocenzurira svoja politička mišljenja, brojka doseže zapanjujućih 44 posto među ljudima s diplomom. Drugim riječima, ako netko s naprednom diplomom razgovara s vama o političkim temama, možete i baciti novčić kako biste utvrdili je li ta osoba iskrena. Visokoobrazovani pojedinci bili su uključeni u izradu ChatGPT-a i osigurali su da to neće proizvesti pogrešno razmišljanje za druge radnike s bijelim ovratnikom koji će ga koristiti.

Vezano uz to, druga svrha nove tehnologije bit će rutinsko ažuriranje općeg znanja o ideološkoj modi dana. To jest, kroz njihove interakcije s chatbotom, ljudi će biti uvjetovani ponašanjem da shvate što je “neprikladno”.

Po njima je prikladno hvaliti komunizam

Tehnologija ne će nužno indoktrinirati ljude ili onemogućiti njihovu sposobnost prepoznavanja društvenih obrazaca. Umjesto toga, pomoći će u održavanju vela šutnje koji je ključan za održavanje autocenzure i političke korektnosti. Ljudi će promatrati odgovore koje ChatGPT generira i implicitno doći vidjeti granice razgovora u pristojnom društvu – na primjer, da je prikladno hvaliti komunizam, ali ne i fašizam. U kineskim sjenkama, Leys je primijetio da će tijekom kulturne revolucije komunistički dužnosnici nadzirati službene državne novine kako bi išli ukorak s ideološkom modom. U SAD-u se naša dobrovoljna misaona policija također okreće naslijeđenim medijima kako bi prepoznala jezične konvencije trenutka. ChatGPT će nadopuniti ovu svrhu.

Uširoko citiranom radu iz 2015. godine, “Propaganda kao signalizacija”, politolog Haifeng Huang osporio je uobičajeno stajalište da je propaganda namijenjena indoktrinaciji masa. Doista, propaganda je često besmislena i neuvjerljiva. Huangov rad pita: Zašto onda autoritarni režimi javno prikazuju poruke za koje svi znaju da su laži?

Propaganda nije samo indoktrinacija, već sredstvo za prikazivanje moći režima. Huang sugerira da je razlog taj što je usađivanje “pravilnih” stavova i vrijednosti samo jedan cilj autoritarnih. Propaganda je također namijenjena prikazivanju moći režima. Kineski informativni program u udarnom terminu, Xinwen Lianbo, stiliziran je, arhaičan i “stalna meta izrugivanja među običnim građanima”, primjećuje Huang. Ipak, kineska vlada ga emitira svake večeri u 7 SATI. Nastavak postojanja ovog programa ima za cilj podsjetiti građane na snagu i sposobnost Komunističke partije.

ChatGPT bi mogao služiti sličnoj funkciji. Matematičar i pisac Brian Chau ukazao je na “eksplicitne politike u OpenAI-u koje idu toliko daleko da zabranjuju chatbotu da komunicira politički nezgodne činjenice, čak i one dogovorene u znanstvenoj zajednici”. Mnogi ljudi na mreži otvoreno su se rugali politički ispravnim porukama koje ChatGPT proizvodi. Oni koji to čine obično su na položajima na kojima njihova zaposlenost i ugled nisu ugroženi. Velika većina, ne toliko sretna, shvatit će da su modeli umjetne inteligencije važan izvor za prepoznavanje raspona odgovarajućeg mišljenja i izražavanja i da im se ne usuđuju javno rugati.

Huangov list izvještava o empirijskim rezultatima koji ukazuju na to da kineski građani koji su bili upućeniji u vladine propagandne poruke nisu bili zadovoljniji od prosjeka sa svojom vladom. Međutim, vjerojatnije je da će vjerovati da je vlada jaka, te su izvijestili o niskoj spremnosti na izražavanje neslaganja. SAD, naravno, nije otvoreno autoritarni režim, ali razne elitne frakcije očito dijele elitnu ideologiju. Spremni su koristiti tehnologiju za promociju, čak i ako je ismijavana, kako bi podsjetili korisnike na to tko je glavni.

Njima je komunizam – idealna ideologija

Čitajući o povijesti komunizma, shvaća se da je to bila idealna ideologija koja hvata um. Pretekao je i srušio zemlje s kulturama i povijestima daleko starijim od onih u Sjedinjenim Državama.

Politolog Richard Hanania istaknuo je da se čini da proces političke korektnosti slijedi sličan obrazac kao i kultovi komunističke ličnosti. Prvo, ljudi vide da ne bi trebali kritizirati vođu ili ideologiju. Ta zabrana ne mora biti službeni zakon; doista, neki komunistički režimi imali su eksplicitne norme protiv veličanja vođe (koji je, uostalom, “jednaki” drug). Međutim, kršenje ovog običaja signaliziralo je intenzitet nečije odanosti. Drugo, režim također sadrži špijunski aparat, službeno u slučaju komunističkih režima ili neslužbeno u zapadnim zemljama, gdje ideolozi služe kao dobrovoljna misaona policija. Treće, ljudi igraju na sigurno tako što su više oduševljeni ideologijom nego normom. Oni provode smjernice o tome što je “prikladno”, bilo zato što istinski podržavaju ideologiju ili se nadaju da će odbiti kritike onih koji to čine. Četvrto, odbjegla signalizacija čistoće događa se kada ljudi počinju internalizirati javne poruke. I peto, nastaje kult ličnosti (u slučaju komunističkih režima) ili ideologija (u SAD-u), sastavljen od istinskih vjernika i cinika koji igraju zajedno kako ne bi bili izopćeni ili otpušteni.

Glavna prijetnja dogmi je istina. Nakon što je tvitao o opasnostima “obuke umjetne inteligencije da se probudi” i izjavio: “Ono što nam treba je TruthGPT”, Elon Musk, koji je suosnivač OpenAI-ja, navodno je regrutirao tim za razvoj suparnika ChatGPT-u i drugim velikim jezičnim modelima koji postoje.

Musk je dugo glasno govorio o svojoj zabrinutosti u vezi s razvojem umjetne inteligencije i njezinim potencijalnim opasnostima. Ranije je nazvao umjetnu inteligenciju “najvećim rizikom s kojim se suočavamo kao civilizacija”. Potez u potrazi za suparničkim modelom jezika mogao bi se smatrati njegovim pokušajem usmjeravanja smjera razvoja umjetne inteligencije prema njegovoj viziji istinitije i nepristranije tehnologije.

Ne tako davno, Twitter je bio odjek istaknutih pojedinaca “programiranih” za recitiranje prihvatljivih političkih mišljenja. Pod Muskovim vlasništvom, platforma društvenih medija obnovljena je kao oslonac za slobodno izražavanje. Slično tome, kako se ChatGPT otkrio da slijedi eksplicitnu političku agendu, možda Muskov novi projekt može pružiti praktičnu alternativu.

Robert Henderson doktorirao je psihologiju na Sveučilištu u Cambridgeu. Možete ga pratiti na Twitteru @robkhenderson. https://www.city-journal.org/article/the-cadre-in-the-code

Povezane objave

Misteriozno ubojstvo kineskog znanstvenika

HF

Agencija UN-a savjetuje zapadnom svijetu da prestane jesti meso, zbog klimatskih promjena

hrvatski-fokus

Lažna “pametna” brojila

HF

Odblokirati znanstvene centre izvrsnosti

HF

Ova web stranica koristi kolačiće za poboljšanje vašeg iskustva. Pretpostavit ćemo da se slažete s tim, ali možete to neprihvatiti i isključiti ukoliko želite. Prihvati Pročitaj više