Prijenos ovlasti na strojeve
Ako neka društva ostanu prividno demokratska, sve veća učinkovitost algoritama i dalje će se sve više i više autoriteta s pojedinačnih ljudi prebacivati na umrežene strojeve. Mogli bismo se dobrovoljno odreći sve više autoriteta nad svojim životima jer ćemo iz iskustva naučiti vjerovati algoritmima više od vlastitih osjećaja, na kraju gubeći sposobnost donošenja mnogih odluka za sebe. Samo pomislite na način na koji su u samo dva desetljeća milijarde ljudi došle povjeriti Googleovom algoritmu pretraživanja jedan od najvažnijih zadataka od svih: pronalaženje relevantnih i pouzdanih informacija. Budući da se za odgovore više oslanjamo na Google, naša sposobnost samostalnog pronalaženja informacija smanjuje se. Već danas “istina” je definirana najboljim rezultatima Google pretraživanja. Taj je proces također utjecao na naše fizičke sposobnosti, poput navigacije prostorom. Ljudi traže od Googlea ne samo da pronađe informacije, već i da ih vodi okolo. Samovozeći automobili i liječnici umjetne inteligencije predstavljali bi daljnju eroziju: Iako bi te inovacije ostavile vozače kamiona i ljudske liječnike bez posla, njihov veći uvoz leži u kontinuiranom prijenosu ovlasti i odgovornosti na strojeve.
Ljudi su navikli razmišljati o životu kao drami donošenja odluka. Liberalna demokracija i kapitalizam slobodnog tržišta vide pojedinca kao autonomnog agenta koji neprestano donosi odluke o svijetu. Umjetnička djela – bilo da se radi o Shakespeareovim dramama, romanima Jane Austen ili sirastim holivudskim komedijama – obično se vrte oko toga da junak mora donijeti neku ključnu odluku. Biti ili ne biti? Slušati svoju ženu i ubiti kralja Duncana, ili slušati moju savjest i poštedjeti ga? Da se uda za g. Collinsa ili g. Darcyja? Kršćanska i muslimanska teologija na sličan se način usredotočuju na dramu donošenja odluka, tvrdeći da vječno spasenje ovisi o donošenju pravog izbora.
Što će se dogoditi s ovim pogledom na život dok se oslanjamo na umjetnu inteligenciju kako bismo donosili sve više odluka za nas? Čak i sada vjerujemo Netflixu da će preporučiti filmove, a Spotify da odabere glazbu koja će nam se svidjeti. Ali zašto bi se na tome zaustavila korisnost umjetne inteligencije?
Svake godine milijuni studenata moraju odlučiti što će studirati. Ovo je vrlo važna i teška odluka, donesena pod pritiskom roditelja, prijatelja i profesora koji imaju različite interese i mišljenja. Na njega utječu i individualni strahovi i fantazije učenika, koji su i sami oblikovani filmovima, romanima i reklamnim kampanjama. Komplicirajući stvari, određeni učenik zapravo ne zna što je potrebno za uspjeh u određenoj profesiji i ne mora nužno imati realan osjećaj za vlastite snage i slabosti.
Nije tako teško vidjeti kako bi umjetna inteligencija jednog dana mogla donositi bolje odluke od nas o karijerama, a možda čak i o vezama. Ali jednom kada počnemo računati da će umjetna inteligencija odlučiti što studirati, gdje raditi i s kim izlaziti ili se čak vjenčati, ljudski život prestat će biti drama donošenja odluka, a naša koncepcija života morat će se promijeniti. Demokratski izbori i slobodna tržišta mogli bi prestati imati smisla. Kao i većina religija i umjetničkih djela. Zamislite Anu Karenjinu kako vadi svoj pametni telefon i pita Siri treba li ostati u braku s Kareninom ili pobjeći s poletnim grofom Vronskim. Ili zamislite svoju omiljenu Shakespeareovu predstavu sa svim ključnim odlukama koje donosi Googleov algoritam. Hamlet i Macbeth bi imali mnogo ugodniji život, ali kakav bi to život bio? Imamo li modele za razumijevanje takvih života?
parlamenti i političke stranke prevladaju ove izazove i pošumljavaju mračnije scenarije? U trenutnom trenutku to se ne čini vjerojatnim. Tehnološki poremećaji nisu ni vodeća točka političkog programa. Tijekom američke predsjedničke utrke 2016. godine, glavna referenca na disruptivnu tehnologiju odnosila se na debakl e-pošte Hillary Clinton, a unatoč svim pričama o gubitku posla, niti jedan kandidat nije se izravno osvrnuo na potencijalni utjecaj automatizacije. Donald Trump upozorio je birače da će Meksikanci preuzeti svoj posao, te da bi SAD stoga trebao izgraditi zid na svojoj južnoj granici. Nikada nije upozorio birače da će algoritmi preuzeti njihov posao, niti je predložio izgradnju vatrozida po Kaliforniji.
Što da radimo?
(Svršetak u sljedećem broju)
