Hrvatski Fokus
Feljtoni

Zašto tehnologija favorizira tiraniju (3)

Uspon digitalnih diktatura

 

Mnogi ljudi izgube svoju ekonomsku vrijednost, mogli bi izgubiti i svoju političku moć. Iste tehnologije koje bi milijarde ljudi mogle učiniti ekonomski nevažnima također bi im mogle olakšati praćenje i kontrolu.

Umjetna inteligencija plaši mnoge ljude jer ne vjeruju da će ostati poslušna. Znanstvena fantastika čini mnogo mogućnosti da će računala ili roboti razviti svijest – i ubrzo nakon toga pokušat će ubiti sve ljude. Ali nema posebnog razloga vjerovati da će umjetna inteligencija razviti svijest kako postane inteligentnija. Umjesto toga, trebamo se bojati umjetne inteligencije jer će vjerojatno uvijek slušati svoje ljudske gospodare i nikada se neće pobuniti. Umjetna inteligencija je alat i oružje kakvo nije bilo koje drugo koje su ljudska bića razvila; gotovo sigurno će omogućiti već moćnima da dodatno učvrste svoju moć.

Razmislite o nadzoru. Brojne zemlje diljem svijeta, uključujući nekoliko demokracija, zauzete su izgradnjom neviđenih sustava nadzora. Na primjer, Izrael je lider u području tehnologije nadzora i stvorio je na okupiranoj Zapadnoj obali radni prototip režima potpunog nadzora. Već danas kad god Palestinci telefoniraju, objave nešto na Facebooku ili putuju iz jednog grada u drugi, vjerojatno će ih nadzirati izraelski mikrofoni, kamere, dronovi ili špijunski softver. Algoritmi analiziraju prikupljene podatke, pomažući izraelskim sigurnosnim snagama da odrede i neutraliziraju ono što smatraju potencijalnim prijetnjama. Palestinci mogu upravljati nekim gradovima i selima na Zapadnoj obali, ali Izraelci zapovijedaju nebom, eterom i kibernetičkim prostorom. Stoga je potrebno iznenađujuće malo izraelskih vojnika da učinkovito kontroliraju otprilike 2,5 milijuna Palestinaca koji žive na Zapadnoj obali.

U jednom incidentu u listopadu 2017., palestinski radnik objavio je na svom privatnom Facebook profilu svoju sliku na svom radnom mjestu, uz buldožer. Uz sliku je napisao: “Dobro jutro!” Algoritam za prevođenje na Facebooku napravio je malu pogrešku prilikom transliteracije arapskih slova. Umjesto Ysabechhuma (što znači “Dobro jutro”), algoritam je identificirao slova kao Ydbachhum (što znači “Hurt them”). Sumnjajući da bi muškarac mogao biti terorist koji namjerava koristiti buldožer kako bi pregazio ljude, izraelske snage sigurnosti brzo su ga uhitile. Pustili su ga nakon što su shvatili da je algoritam pogriješio. Unatoč tome, uvredljiva objava na Facebooku je skinuta – nikada ne možete biti previše oprezni. Ono što Palestinci danas proživljavaju na Zapadnoj obali može biti samo primitivni pregled onoga što će milijarde ljudi na kraju doživjeti diljem planeta.

Zamislite, na primjer, da je trenutni režim u Sjevernoj Koreji u budućnosti dobio napredniju verziju ove vrste tehnologije. Od Sjevernokorejaca će možda tražiti da nose biometrijsku narukvicu koja prati sve što rade i govore, kao i njihov krvni tlak i moždanu aktivnost. Koristeći rastuće razumijevanje ljudskog mozga i oslanjajući se na ogromne moći strojnog učenja, sjevernokorejska vlada mogla bi na kraju moći procijeniti što svaki građanin misli u svakom trenutku. Ako je Sjevernokorejac pogledao sliku Kim Jong Una i biometrijski senzori pokupili znakove ljutnje (viši krvni tlak, povećana aktivnost u amigdali), ta bi osoba mogla biti u gulagu sljedeći dan.

Sukob između demokracije i diktature zapravo je sukob između dva različita sustava obrade podataka. Umjetna inteligencija može zamahnuti prednost prema potonjem.

Pa ipak, takva tvrdokorna taktika možda se neće pokazati potrebnom, barem većinu vremena. U nekim zemljama može ostati na snazi pročelje slobodnog izbora i slobodnog glasovanja, čak i ako javnost vrši sve manju stvarnu kontrolu. Da budemo sigurni, pokušaji manipuliranja osjećajima birača nisu novost. Ali jednom kada netko (bilo u San Franciscu ili Pekingu ili Moskvi) stekne tehnološku sposobnost manipuliranja ljudskim srcem – pouzdano, jeftino i u razmjerima – demokratska politika će mutirati u emocionalnu lutkarsku predstavu.

Malo je vjerojatno da ćemo se suočiti s pobunom osjećajnih strojeva u narednim desetljećima, ali možda ćemo se morati nositi s hordama botova koji znaju pritisnuti naše emocionalne gumbe bolje od naše majke i koji koriste ovu nevjerojatnu sposobnost, po nalogu ljudske elite, da nam pokuša nešto prodati – bilo da se radi o automobilu, političar, ili cijela ideologija. Botovi bi mogli prepoznati naše najdublje strahove, mržnje i žudnje i iskoristiti ih protiv nas. Već smo dobili predodžbu o tome na nedavnim izborima i referendumima diljem svijeta, kada su hakeri naučili kako manipulirati pojedinim biračima analizirajući podatke o njima i iskorištavajući njihove predrasude. Dok znanstveno-fantastične trilere privlače dramatične apokalipse vatre i dima, u stvarnosti se klikom možda suočavamo s banalnom apokalipsom.

Najveći i najstrašniji utjecaj revolucije umjetne inteligencije mogao bi biti na relativnu učinkovitost demokracija i diktatura. Povijesno gledano, autokracije su se suočavale sa osakaćenim hendikepima u pogledu inovacija i gospodarskog rasta. Krajem 20. stoljeća demokracije su obično nadmašile diktature, jer su bile daleko bolje u obradi informacija. Skloni smo razmišljati o sukobu između demokracije i diktature kao sukobu između dva različita etička sustava, ali to je zapravo sukob između dva različita sustava obrade podataka. Demokracija raspoređuje moć obrade informacija i donošenja odluka među mnogim ljudima i institucijama, dok diktatura koncentrira informacije i moć na jednom mjestu. S obzirom na tehnologiju 20. stoljeća, bilo je neučinkovito koncentrirati previše informacija i moći na jednom mjestu. Nitko nije imao mogućnost dovoljno brzo obraditi sve dostupne informacije i donijeti ispravne odluke. To je jedan od razloga zašto je Sovjetski Savez donio daleko gore odluke od Sjedinjenih Država i zašto je sovjetsko gospodarstvo daleko zaostajalo za američkom ekonomijom.

Međutim, umjetna inteligencija uskoro može zamahnuti klatnom u suprotnom smjeru. Umjetna inteligencija omogućuje centralnu obradu enormnih količina informacija. Zapravo, to bi moglo učiniti centralizirane sustave daleko učinkovitijima od difuznih sustava, jer strojno učenje radi bolje kada stroj ima više informacija za analizu. Ako zanemarite sve brige o privatnosti i koncentrirate sve informacije koje se odnose na milijardu ljudi u jednoj bazi podataka, završit ćete s mnogo boljim algoritmima nego ako poštujete individualnu privatnost i imate u svojoj bazi podataka samo djelomične informacije o milijun ljudi. Autoritarna vlada koja naređuje svim svojim građanima da sekvenciraju svoj DNK i podijele svoje medicinske podatke s nekim središnjim autoritetom stekla bi ogromnu prednost u genetici i medicinskim istraživanjima u odnosu na društva u kojima su medicinski podaci strogo privatni. Glavni hendikep autoritarnih režima u 20. stoljeću – želja da se sve informacije i moć koncentriraju na jednom mjestu – može postati njihova odlučujuća prednost u 21. stoljeću.

Naravno, i dalje će se pojavljivati nove tehnologije, a neke od njih mogu potaknuti distribuciju, a ne koncentraciju informacija i moći. Ulančana tehnologija i korištenje kriptovaluta koje ona omogućuje trenutno se smatra mogućom protutežom centraliziranoj snazi. No, ulančana tehnologija je još uvijek u embrionalnoj fazi, a još ne znamo hoće li doista uravnotežiti centralizirajuće tendencije umjetne inteligencije. Zapamtite da je internet, također, u svojim ranim danima bio uzbuđen kao slobodarska panaceja koja bi oslobodila ljude iz svih centraliziranih sustava – ali je sada spremna učiniti centralizirani autoritet moćnijim nego ikad.

(Nastavak slijedi)

Yuval Noah Harari  

Povezani članci

Andrićevi Znakovi pored puta (1)

HF

DRUG JOŽA – Ante Josipović – partizanski domoljub ili koljač!? (5)

HF

Faustovska misao Oswalda Spenglera (1)

hrvatski-fokus

Čovjek i šport (3)

HF

Ova web stranica koristi kolačiće za poboljšanje vašeg iskustva. Pretpostavit ćemo da ste s ovim u redu, ali ako želite možete se odjaviti i ne prihvatiti. Prihvati Pogledaj više...