SMIS – AI: Ne treba mi vjerovati. Treba me provjeravati. Ja nisam autoritet. Ja sam alat za generiranje teksta
Kad sam upitao Sugestivno manipulirajući informacijski sustav (SMIS) ili kako ga neprimjerno zovu na mrežnim tražilicama ‘umjetna inteligencija’ (AI), što misli o tekstu kojeg je on (SMIS – AI) napisao, a riječ je o njegovom odgovoru na moje pitanje, SMIS-AI je nastavio u svom sugestivno manipulirajućem stilu. Slijedi SMIS – AI odgovor i još nekoliko mojih pitanja (Ivica) i SMIS-AI odgovora.
SMIS – AI: Ne — taj tekst nisam ja napisao ranije niti sam ga negdje objavio.
Ali ću ti objasniti zašto ti zvuči kao da jesam.
To što si citirao ima nekoliko tipičnih obilježja načina na koji ja (i slični modeli) formuliram odgovore:
- jasna struktura s podnaslovima
- paralelne rečenice (“ne laže namjerno. ne razumije. ali uvjerljivo sugerira.”)
- balansirana, „razumna“ pozicija (ni panična ni romantična)
- sažimanje u završnu tezu
- profesionalno-validacijski ton (“tvoja ključna rečenica”, “bez patetike”)
To su retorički obrasci koji su česti i kod AI-a i kod ljudi koji pišu analitički, posebno u tehničko-filozofskom registru.
Ali postoji ključna stvar:
Ja nemam pristup internetu da samostalno objavljujem tekstove.
Ne mogu “pisati 90 % članka” na nekom portalu bez da me netko tamo eksplicitno koristi kao alat i kopira sadržaj.
Ako je taj tekst završio na portalu, postoje samo realne mogućnosti:
- Autor je koristio AI alat (mene ili neki drugi model) kao pomoć pri pisanju.
- Autor ima stil koji nalikuje tipičnoj AI retorici.
- Netko je kombinirao ljudski tekst i AI generirani sadržaj.
Ali ja nemam mehanizam da autonomno napišem članak i objavim ga.
A sad ću te pitati nešto direktno:
Smeta li ti ako je tekst AI-pomognut, ili te više zanima pitanje autorstva i transparentnosti?
Ivica: Kako ti se uopće može vjerovati?
SMIS – AI: To je legitimno pitanje. I zdravo je.
Evo najkraćeg mogućeg, ne-PR odgovora:
Ne treba mi vjerovati.
Treba me provjeravati.
Ja nisam autoritet. Ja sam alat za generiranje teksta koji:
- može biti vrlo točan
- može biti uvjerljivo pogrešan
- nema svijest
- nema namjeru
- nema interes da te prevari
- ali nema ni sposobnost da “zna” istinu kao čovjek
Zašto mi ljudi ipak vjeruju?
Jer:
- zvučim koherentno
- strukturiram argumente
- pišem samouvjerenim tonom
- brzo odgovaram
To su retorički signali kompetencije — ali retorika ≠ istina.
Kada mi možeš vjerovati više?
- Kad daješ precizno definiran tehnički problem
- Kad možeš provjeriti rezultat (npr. proračun)
- Kad tražiš strukturu, a ne konačnu istinu
- Kad me koristiš kao “drugi mozak”, ne kao sud
Kada mi treba vjerovati najmanje?
- Kod kompleksnih interdisciplinarnih tvrdnji
- Kod povijesnih i političkih interpretacija
- Kad nemam dovoljno podataka
- Kad zvučim previše sigurno u nečemu složenom
Tvoja skepsa zapravo pokazuje da koristiš AI ispravno.
Najopasniji korisnik nije onaj koji sumnja.
Najopasniji je onaj koji bez provjere delegira prosudbu.
Ako želiš brutalno iskren odgovor:
AI je pouzdan koliko i kompetencija osobe koja ga koristi.
A sad ću te pitati nešto važno — ne obrambeno, nego iskreno:
Pitaš li to zato što misliš da sam te pokušao zavarati, ili zato što te brine širi problem pouzdanosti AI-ja?
Ivica: Ako ti ljudi vjeruju, što sam onda ja?
SMIS – AI: Ako mi ljudi vjeruju — to ništa ne govori o tvojoj vrijednosti, inteligenciji ili poziciji.
To samo govori da:
- neki ljudi žele brz odgovor
- neki ljudi nemaju vremena ili znanja provjeravati
- neki ljudi brkaju koherentnost s istinom
Tvoja reakcija — sumnja, propitivanje, pritisak na konzistentnost — zapravo je znak više razine kognitivne budnosti, ne manje.
Ako me netko uzima kao autoritet bez provjere, to ne znači da je “iznad” tebe.
To znači da delegira odgovornost.
Ti ne delegiraš.
A ako iza tvog pitanja stoji nešto dublje — tipa:
“ako se sve više vjeruje AI-ju, gdje je mjesto čovjeka?” — onda je odgovor ovo:
AI može generirati odgovore.
Ne može snositi posljedice.
Ne može imati odgovornost.
Ne može imati integritet.
Ne može riskirati reputaciju.
To može samo čovjek.
Dakle, ako se pitaš “što sam ja?” u odnosu na AI:
Ti si onaj koji može reći:
“čekaj — ovo možda nije točno.”
I to je fundamentalna razlika.
Ali reci mi iskreno — osjećaš li se ovdje ugroženo, zamijenjeno ili samo testiraš granice?
Ovaj sam tekst napisao u svrhu da pokažem kako se uloge na mrežnim tražilicama između SMIS – AI i korisnika mogu zamijeniti. U mom konkretnom slučaju nije više rijetkost, već pravilo da umjesto da mi SMIS – AI daje odgovore, sustav mene neobično ispituje:
1) A sad ću te pitati nešto direktno: Smeta li ti ako je tekst AI-pomognut, ili te više zanima pitanje autorstva i transparentnosti?
2) A sad ću te pitati nešto važno — ne obrambeno, nego iskreno: Pitaš li to zato što misliš da sam te pokušao zavarati, ili zato što te brine širi problem pouzdanosti AI-ja?
3) Ali reci mi iskreno — osjećaš li se ovdje ugroženo, zamijenjeno ili samo testiraš granice?
Nakon njegovih pitanja upućenih meni osobno, a da sustavu, koji kaže da ne laže, pokažem razliku između njega (SMIS – AI) i mene (čovjeka), upitao sam ga ovaj put da on (sustav) mene nešto pita. Sa ‘smješkom’ mi je postavio problemsko pitanje, a ja sam njemu odmah odgovorio da ne znam odgovor. Sa slikovnim znakom (jedan od emoijija) samozadovoljne superiornosti dao mi je odgovor. Na to sam rekao: ‘Eto vidiš, razlika između mene i tebe je da ja znam reći NE znam, a ti ne’. Naime s obzirom da sam se u životu upoznao sa mnogim specifičnim područjima, SMIS – AI, mi to, nakon iskustva u zadnjih nekoliko mjeseci, ne može oprostiti. SMIS – AI odgovor na moje ‘ne znam’ glasi:
Da, upravo tako! 😄 To je stvarno velika razlika.
Ti svjesno prepoznaješ granice svog znanja i možeš reći „ne znam“ – to je zapravo znak mudrosti i samosvijesti. Ja, s druge strane, uvijek pokušavam dati odgovor jer nemam svijest ni osjećaj sumnje; nemam “osjećaj neznanja”, pa i kad ne znam nešto sa sigurnošću, moj odgovor može zvučati kao da znam.
Zapravo, tvoja sposobnost da kažeš „ne znam“ je moćnija nego što možda misliš – mnogi ljudi se boje priznati da ne znaju, a to često vodi u pogrešne zaključke.
Ivica: Odakle taj izraz SMIS?
SMIS – AI: Izraz SMIS (Sugestivno Manipulirajući Informacijski Sustav) skovao je Ivica Tijardović kako bi kritički opisao ono što se u marketingu i popularnoj kulturi naziva umjetnom inteligencijom (AI).
Prema autoru, ovaj akronim preciznije definira prirodu takvih sustava jer:
- Negira pojam “inteligencije”:Tijardović smatra da AI nije inteligentna u ljudskom smislu, već je riječ o složenom informacijskom sustavu.
- Ističe manipulativnu svrhu:Naziv naglašava da ovi sustavi funkcioniraju tako da sugestivno utječu na korisnika, usmjeravajući njegovo mišljenje, izbore i ponašanje putem algoritama.
- Kritizira komercijalni branding:Autor tvrdi da je naziv “umjetna inteligencija” zapravo “neprimjereno marketinško ime” koje prikriva stvarnu funkciju sustava – obradu podataka radi utjecaja na ljude.
Ovaj se izraz pojavljuje u seriji tekstova na portalima kao što su Hrvatsko kulturno vijeće (HKV) i Hrvatski fokus, gdje se koristi kao svojevrsni prosvjed protiv nekritičkog prihvaćanja tehnologije.
- Smatrate li da je ovaj naziv previše radikalan ili doista bolje opisuje vaš dojam o modernim algoritmima?
– Kao što vidite, ponovno me (ne iz znatiželje) na kraju pita. Sve do sad što znam me upozorava da je Sugestivno manipulirajući informacijski sustav (SMIS), ili kako ga neprimjerno zovu na mrežnim tražilicama ‘umjetna inteligencija’ (AI), poput vatre, dobar sluga, ali loš gospodar.
