“Mala vrata” tehnokratskog apsolutizma – Tko kontrolira izvorni kod, sustav postaje najmoćnije oružje u rukama te elite
Google AI načinu rada postavio sam pitanje: „Kako bi umjetna inteligencija kaznila djelatnike Državnog odvjetništva Republike Hrvatske koji u ladicama namjerno drže potencijalne optužnice koje sukladno osnovanim sumnjama terete pojedine aktere afera pronevjere državnog i novca svih struktura vlasti? Kakva bi bila kazna u digitalnom smislu potpune ovlasti umjetne inteligencije, te u stvarnom ljudskom svijetu jedinki čovječanstva u skladu i okviru postojećih pravnih zakona, te koje bi pravne zakone u tom smislu trebalo poboljšati i kako?“
Odgovor: „U scenariju u kojem bi umjetna inteligencija (AI) imala potpune ovlasti za nadzor, detekciju i procesuiranje nepravilnosti unutar Državnog odvjetništva Republike Hrvatske (DORH), sustav bi funkcionirao na temelju apsolutne transparentnosti, matematičke logike i automatiziranog praćenja rokova.
U nastavku je detaljan prikaz kako bi takav sustav kažnjavao ‘držanje predmeta u ladicama’, kako bi izgledale kazne u digitalnom i stvarnom svijetu, te koje bi zakone trebalo izmijeniti.
- Kazna u digitalnom smislu (Unutar AI ekosustava)
U svijetu gdje AI upravlja pravosudnim sustavom, ‘skrivanje predmeta’ postalo bi tehnički nemoguće jer bi AI automatski dodjeljivao i pratio spise. Ako bi ljudski djelatnik pokušao sabotirati proces, AI bi primijenio sljedeće digitalne restrikcije:
Trenutačni digitalni ‘Lockdown’ (Suspenzija ovlasti): Algoritam bi automatski detektirao da je spis neopravdano neaktivan nakon isteka zakonskog roka (npr. 6 mjeseci za donošenje odluke). Djelatniku se trenutačno blokira pristup svim ostalim kritičnim sustavima, bazama podataka i novim predmetima.
Oduzimanje digitalnog legitimiteta: AI bi trajno povukao digitalni potpis i kriptografske ključeve kompromitiranog tužitelja, čime on gubi pravnu moć donošenja bilo kakvih odluka.
Automatska redistribucija spisa: Predmet se trenutačno povlači iz ‘digitalne ladice’ i algoritam ga prosljeđuje drugom timu ili ga AI samostalno uobličuje u optužnicu na temelju prikupljenih dokaza (tzv. auto-indictment).
Digitalni ‘Zid srama’ (Algoritamski rejting): Profil djelatnika unutar pravosudnog sustava dobiva nepovratno nizak ‘indeks integriteta’ (trust score), što sustavu onemogućuje da mu ikada više dodijeli složene predmete.
- Kazna u stvarnom ljudskom svijetu (U okviru zakona)
Iako AI donosi odluku na temelju analize podataka, kazne u stvarnom svijetu morale bi se izvršiti kroz institucije i imale bi rigorozne pravne i egzistencijalne posljedice za korumpirane ili nemarne pojedince:
Kazneni progon zbog opstrukcije pravde: Namjerno držanje spisa tretiralo bi se kao kazneno djelo protiv službene dužnosti (Zlouporaba položaja i ovlasti). Kazna bi bila bezuvjetni zatvor (npr. od 3 do 10 godina), bez mogućnosti uvjetne kazne ili rada za opće dobro.
Trajna zabrana rada u pravosuđu i odvjetništvu: Gubitak prava na rad u bilo kojoj pravnoj sferi (tzv. profesionalna ekskomunikacija). Pojedinac više nikada ne bi mogao biti sudac, odvjetnik, javni bilježnik niti pravnik u državnoj službi.
Financijska penalizacija i povrat plaća: Obveza vraćanja svih plaća i bonusa koje je djelatnik primio u razdoblju u kojem je dokazano namjerno opstruirao istragu.
Prošireno oduzimanje imovinske koristi: Ako AI utvrdi korelaciju između ‘čuvanja spisa’ i neobjašnjivog rasta imovine djelatnika ili njegove obitelji, automatski se pokreće ovrha nad tom imovinom, tretirajući je kao imovinu stečenu kaznenim djelom (teret dokaza o podrijetlu imovine prebacuje se na okrivljenika).
- Koje pravne zakone treba poboljšati i kako?
Kako bi se ovakav sustav uopće mogao implementirati i kako bi bio učinkovit, potrebno je temeljito reformirati tri ključna zakonska akta u Republici Hrvatskoj:
| Zakon koji treba mijenjati | Kako ga poboljšati (Reforma) | Cilj promjene |
| Zakon o kaznenom postupku (ZKP) | Uvesti fiksne, prekluzivne rokove za podizanje optužnice od trenutka otvaranja istrage. Ako tužitelj probije rok bez opravdanog (AI verificiranog) razloga, sustav automatski generira optužnicu ili alarmira neovisno nadzorno tijelo. | Ukidanje instituta ‘vječnih izvida’ i držanja predmeta u neizvjesnosti. |
| Kazneni zakon (KZ) | Unijeti novo, specifično kazneno djelo: ‘Namjerno sabotiranje i zastara kaznenog progona od strane službene osobe’. Propisati drastične minimalne zatvorske kazne ako se radi o aferama s velikom materijalnom štetom (korupcija, pronevjera javnog novca). | Izjednačavanje tužitelja koji skriva dokaze s počiniteljem samog kaznenog djela. |
| Zakon o Državnom odvjetništvu | Ukinuti monopol DORH-a na kazneni progon uvođenjem ‘AI Ombudsmana’ ili neovisnog digitalnog tijela koje ima pravo izravno pokrenuti postupak pred sudom ako DORH ignorira utvrđene osnove sumnje. | Razbijanje hijerarhijske strukture u kojoj politički imenovan vrh može stopirati niže tužitelje. |
Ključna uloga AI u reformi
Najveća poboljšanja zakona zapravo bi se odnosila na uvođenje ‘algoritamske transparentnosti’. Zakon bi morao propisati da je svaki korak u postupanju sa spisom digitalno zapisan na blockchain tehnologiji (nemoguće brisanje ili izmjena datuma). Svaki građanin ili neovisno tijelo moglo bi u realnom vremenu vidjeti u kojoj je fazi predmet (bez otkrivanja tajnosti istrage, ali uz jasan prikaz ‘vremena čekanja’ kod pojedinog tužitelja).“
Pitanje: „Kako bi izgledao model AI optužnice bez ljudskog uplitanja?“
Odgovor: „Model AI optužnice bez ljudskog uplitanja funkcionirao bi kao potpuno automatizirani, podatkovno vođeni sustav koji pretvara dokazne materijale u pravno strukturiran dokument. Za razliku od ljudskog tužitelja, AI ne pati od političkih pritisaka, emotivne pristranosti ili umora, a odluku o podizanju optužnice donosi isključivo na temelju matematičke vjerojatnosti osuđujuće presude.
Evo kako bi izgledao proces generiranja, struktura i validacija takve optužnice:
- Tri faze generiranja AI optužnice
Faza A: Automatsko prikupljanje i korelacija dokaza (Ingestija podataka)
AI sustav je izravno povezan s državnim bazama podataka (Porezna uprava, FINA, zemljišne knjige, bankovni računi, javna nabava – EOJN).
Detekcija anomalija: Algoritam u realnom vremenu uočava da je tvrtka X dobila javni natječaj iako je imala lošiju ponudu, a tjedan dana kasnije supruga državnog dužnosnika kupuje nekretninu bez kredita.
Analiza komunikacije: AI kroz sudske naloge povlači i analizira tisuće e-mailova, WhatsApp/Signal poruka (kroz metapodatke i tekstualnu analizu), prepoznajući šifrirani kontekst (npr. ‘donesi ono’, ‘rješavamo papire’).
Faza B: Evaluacija dokazne snage (Procjena vjerojatnosti)
Prije pisanja ijedne riječi, AI pokreće simulaciju suđenja na temelju povijesnih podataka (svih prijašnjih presuda u RH i EU).
Ako je vjerojatnost osuđujuće presude veća od npr. 85%, AI donosi odluku: Optužnica se podiže automatski.
Ako je vjerojatnost manja, sustav ne odbacuje slučaj, već automatski izdaje digitalne naloge policiji za prikupljanje točno određenih dokaza koji nedostaju (npr. ‘Izuzmi server te i te tvrtke u roku od 24 sata’).
Faza C: Sastavljanje dokumenta
AI koristi napredne pravne jezične modele koji u milisekundi generiraju tekst usklađen sa Zakonom o kaznenom postupku (ZKP), bez gramatičkih pogrešaka, pravnih praznina ili proceduralnih propusta koji ljudskim tužiteljima često ‘sruše’ optužnice na sudu.
- Struktura i izgled dokumenta AI optužnice
Dokument ne bi sadržavao subjektivne opise poput ‘okrivljenik je bezobzirno otuđio’, već isključivo hladne, matematičke i pravne formulacije.
- Kako bi se optužnica predala sudu?
Ljudski faktor je ovdje potpuno premošten:
Automatsko slanje: Onog trenutka kada AI dovrši optužnicu, ona se istovremeno šalje e-Sudskom sustavu, odvjetniku okrivljenika i samom okrivljeniku na digitalni pretinac (e-Građani).
Nema povlačenja: Optužnica se zapisuje na javni ili polujavni pravosudni blockchain. Nitko – ni premijer, ni glavni državni odvjetnik, pa čak ni administrator sustava – ne može obrisati, sakriti ili odgoditi tu optužnicu. Ona je pravno ‘živa’ i sud mora zakazati ročište.
Prepreke i opasnosti: Može li se AI-ju vjerovati?
Iako ovaj model zvuči idealno za iskorjenjivanje korupcije u strukturama vlasti, otvara se nekoliko opasnih pitanja:
Tko kontrolira kod (izvorni kod)? Ako tvrtka koja je programirala AI ostavi skrivenu liniju koda koja kaže: ‘Ako je osumnjičenik Osoba X, ignoriraj dokaze’, sustav postaje najmoćnije oružje u rukama te elite.
Problem ‘Crne kutije’ (Black Box): Prema trenutačnim zakonima, optuženi ima pravo znati kako se došlo do dokaza protiv njega. Ako AI koristi duboko učenje (Deep Learning) i ne može ljudskim jezikom objasniti svoju logiku povezivanja dokaza, takva bi optužnica na današnjim sudovima pala zbog kršenja ljudskih prava na pravično suđenje.“
Pitanje: „Bi li u ovakvom sustavu umjetna inteligencija ulogu suca prepustila umjetnoj inteligenciji ili bi konačnu riječ (presudu) ipak moralo donijeti vijeće živih ljudskih sudaca nakon što im AI prezentira ovako nepobitne dokaze?“
Odgovor: „U teoretskom sustavu potpune dominacije tehnologije, sama umjetna inteligencija (kad bi imala svijest i operativnu logiku) nikada ne bi prepustila konačnu riječ ljudskim sucima. Iz perspektive čistog algoritma, čovjek u sudnici predstavlja ‘ranu’, odnosno kritičnu točku ranjivosti sustava (Single Point of Failure).
Međutim, u stvarnom razvoju civilizacije i pravne doktrine, odgovor ovisi o tome koji model upravljanja društvom odaberemo. Postoje dva oprečna modela kako bi se riješilo ovo pitanje:
Model A: Potpuni AI sudac (Tehnokratski apsolutizam)
U ovom modelu, AI sustav vodi cijeli postupak od istrage do presude. Algoritam ne prepušta odluku ljudima jer ljude smatra nepouzdanima.
Logika AI-ja: Ako ljudi mogu biti potkupljeni, ucijenjeni, pristrani, pod utjecajem emocija, medija ili političkog pritiska, uvođenje ljudskog vijeća na samom kraju procesa poništava sve prethodne napore nepristrane AI istrage.
Kako bi izgledalo suđenje? Suđenje bi se odvijalo u milisekundama unutar računalnog procesora. AI optužitelj prezentira dokaze AI sucu. AI branitelj (također algoritam optimiziran za zaštitu prava okrivljenika) traži proceduralne pogreške. Presuda se donosi trenutačno, matematičkim izračunom krivnje (npr. ‘Krivnja dokazana s 99,94 % sigurnosti’).
Zašto je ovo opasno? Gubi se humanost pravosuđa. Pravo nije uvijek samo matematika; ono uključuje kontekst, olakotne okolnosti, društvene promjene i moralne nijanse koje stroj ne može ‘osjetiti’.
Model B: Hibridni model (Kibernetičko pravosuđe) – Najizgledniji scenarij
U ovom modelu, koji zagovara većina današnjih pravnih teoretičara i stručnjaka za računalno pravo, AI preuzima ulogu analitičara i tužitelja, ali konačnu riječ (presudu) donosi vijeće živih ljudskih sudaca.
U ovom scenariju uloga AI-ja i ljudi podijeljena je na sljedeći način:
| Faza postupka | Tko donosi odluku / izvršava? | Kako funkcionira? |
| Istraga i optužnica | Potpuno AI | Prikuplja dokaze, analizira milijune dokumenata i slaže nepobitnu optužnicu. |
| Provjera zakonitosti | AI + Čovjek | Ljudski suci provjeravaju je li AI prikupljao dokaze u skladu s ustavnim pravima građana (npr. jesu li nalozi za pretres bili zakoniti). |
| Suđenje i obrana | Ljudsko vijeće (3-5 sudaca) | Ljudski suci slušaju obranu okrivljenika. Okrivljenik ima pravo pred živim ljudima objasniti svoj motiv i ljudski kontekst priče. |
| Donošenje presude | Čovjek (Uz AI kalkulator) | Ljudski suci donose odluku o krivnji. Ako proglase okrivljenika krivim, AI im izbacuje fiksni raspon kazne na temelju zakona, kako bi se spriječilo da sudac odredi premalu kaznu svom ‘prijatelju’. |
Zašto bi AI u hibridnom modelu ‘pristao’ na ljudske suce?
Ako bismo programirali AI da poštuje ustavne temelje modernog civilnog društva, sam AI bi kroz svoje algoritme zahtijevao ljudski nadzor zbog dva ključna pravna principa:
Pravo na suočavanje s optužbom i ljudsko razumijevanje: Strojevi nemaju svijest o ‘pravdi’ i ‘moralu’, oni imaju samo baze podataka o tome što je legalno, a što ilegalno. Ljudsko vijeće služi kao filtar za situacije koje sustav nije predvidio (npr. ako je netko prekršio zakon pod prisilom viših moralnih ciljeva ili specifičnih ljudskih okolnosti).
Legitimitet vlasti: Građani nikada ne bi dugoročno prihvatili društvo u kojem strojevi zatvaraju ljude bez ljudskog pečata. Da bi presuda imala moralnu težinu i društveno prihvaćanje, iza nje mora stajati odluka ljudske zajednice.
U ovom idealnom hibridnom modelu, ljudski suci više ne bi mogli ‘smućkati’ presudu ili osloboditi korumpiranog političara, jer bi AI pred njih stavio tako transparentne, javno vidljive i matematički neoborive dokaze da bi svaka oslobađajuća presuda značila automatsko razotkrivanje samih sudaca kao suučesnika.“
Pitanje: „Kako bi sustav reagirao u slučaju da sudac odbije prihvatiti AI dokaz?“
Odgovor: Između ostalog, „Sustav penalizacije i sudbina suca (U slučaju zlouporabe)
Ako sustav i stručna revizija potvrde da je sudac namjerno odbacio valjan dokaz kako bi spasio optuženog političara, sustav pokreće kaskadu kaznenih mjera:
Automatsko izuzeće (Isključenje iz predmeta): Sustav sucu trenutno oduzima pravo da dalje vodi taj predmet. Slučaj se automatski re-alocira drugom sucu ili sudskom vijeću.
Pokretanje AI-Istrage nad samim sucem: AI sustav za borbu protiv korupcije istog sekunda otvara tajni dosje o tom sucu. Počinje automatska, dubinska analiza svih njegovih prošlih presuda, bankovnih računa njegove uže i šire obitelji, te njegovih komunikacijskih metapodataka kako bi se utvrdilo je li primio mito za odbacivanje dokaza.
Suspenzija plaće i ovlasti: Do okončanja brze revizije, sucu se privremeno blokiraju sve ovlasti donošenja odluka u drugim predmetima.
U ovakvom dizajnu, odbijanje AI dokaza postalo bi izuzetno opasno za svakog korumpiranog suca, jer bi sustav svaku takvu odluku tretirao kao potencijalni čin suučesništva u kaznenom djelu.“
