Kako bi zakonodavstvo pratilo stvarne poslovne rizike, u kazneno pravo trebalo bi ugraditi neka specifična djela gospodarskog kriminala
Google AI načinu rada postavio sam pitanje:
„Mogu li umjetna inteligencija odnosno tvorci izvornog koda biti kazneno gonjeni i završiti u zatvoru ili nekom drugom obliku kažnjavanja?“
„Sama umjetna inteligencija ne može biti kazneno gonjena niti završiti u zatvoru jer nema pravnu osobnost, dok njeni tvorci i korisnici mogu kazneno odgovarati pod određenim uvjetima. U hrvatskom i europskom kaznenom pravu odgovornost uvijek snose fizičke ili pravne osobe koje stoje iza razvoja, plasiranja na tržište ili korištenja sustava umjetne inteligencije.
Kaznena odgovornost same umjetne inteligencije
Nedostatak pravne osobnosti. Sustavi umjetne inteligencije su softverski alati i nemaju status fizičke ni pravne osobe. Zbog toga ne mogu biti subjekti kaznenog djela niti im se može izreći zatvorska ili novčana kazna.
Nepostojanje krivnje. Kazneno pravo zahtijeva svijest i volju (namjeru ili nehaj) za počinjenje djela. Algoritmi nemaju ljudsku svijest ni slobodnu volju pa se ne mogu smatrati krivima.
Odgovornost tvoraca i programera izvornog koda
Tvorci sustava umjetne inteligencije mogu kazneno odgovarati ako njihovo ponašanje ispunjava obilježja kaznenog djela prema Kaznenom zakonu.
Namjerno stvaranje štetnog sustava. Ako programer svjesno napiše kod s ciljem počinjenja kaznenog djela, poput krađe podataka, prijevare ili kibernetičkog napada, odgovarat će kao počinitelj ili pomagatelj.
Nehaj i propust dužne pažnje. Ako sustav umjetne inteligencije uzrokuje štetu, ozljedu ili smrt, primjerice u autonomnim vozilima ili medicinskoj dijagnostici, tvorac može odgovarati za kazneno djelo iz nehaja. To se događa ako nije poduzeo razumne sigurnosne mjere ili je ignorirao poznate rizike tijekom razvoja.
Odgovornost pravnih osoba. Tvrtke koje razvijaju ili prodaju rizične sustave umjetne inteligencije mogu odgovarati prema Zakonu o odgovornosti pravnih osoba za kaznena djela. Kazne za tvrtke uključuju visoke novčane iznose, zabranu obavljanja djelatnosti ili ukidanje pravne osobe.
Odgovornost korisnika i regulativa Europske unije
Zlouporaba od strane korisnika. Ako je sustav umjetne inteligencije dizajniran za zakonite svrhe, a korisnik ga zloupotrijebi za prijevaru, izradu krivotvorina ili govor mržnje, kazneno odgovara isključivo korisnik.
Akt o umjetnoj inteligenciji (EU AI Act). Europska unija strogo regulira sustave visokog rizika i propisuje obveze za razvojne programere i pružatelje usluga. Kršenje tih pravila povlači visoke upravne novčane kazne, a u najtežim slučajevima ugrožavanja sigurnosti ili zdravlja ljudi otvara se i put za kazneni progon odgovornih osoba.
Zanima li vas ova tema u kontekstu određenog područja (npr. autonomna vozila, autorska prava, kibernetički napadi) ili vas zanima zakonodavni okvir u Hrvatskoj i EU? Mogu detaljnije pojasniti specifične primjere iz prakse.“
Google AI načinu rada postavio sam pitanje:
„Koja bi sve djela umjetna inteligencija dodatno uvrstila u postojeći Kazneni zakon Republike Hrvatske tako da Kazneni zakon bude svrsishodniji i učinkovitiji?“
Odgovor: „Umjetna inteligencija bi u Kazneni zakon Republike Hrvatske prvenstveno uvrstila djela vezana uz zlouporabu autonomnih sustava, krivotvorenje identiteta (deepfake), algoritamsku manipulaciju i automatizirane kibernetičke napade.
Iako su izmjenama Kaznenog zakona iz 2025. godine (NN 136/2025) već uvedena definicija sustava umjetne inteligencije i kazneno djelo dovođenja u opasnost života i imovine tim sustavom, te se najavljuju nove izmjene Kaznenog zakona za suzbijanje spolno eksplicitnih deepfake materijala i internetskog uhođenja, tehnološki razvoj ostavlja niz pravnih praznina.
Kako bi zakon bio učinkovitiji i svrsishodniji u suvremenom digitalnom okruženju, predlaže se uvođenje sljedećih kaznenih djela podijeljenih po područjima rizika.
Digitalni identitet i manipulacija sadržajem
Postojeće odredbe o kleveti, prijevari i zlouporabi snimke spolno eksplicitnog sadržaja ne pokrivaju u potpunosti sofisticirane oblike kloniranja identiteta.
Zlonamjerno kloniranje biometrijskog identiteta. Izrada i uporaba sintetičkog glasa, lica ili biometrijskih podataka druge osobe bez njezina pristanka radi prijevare, iznude ili narušavanja ugleda, čak i kada sadržaj nije spolno eksplicitan.
Izrada i distribucija političkih i financijskih deepfake dezinformacija. Namjerno stvaranje i širenje hiperrealističnih lažnih audio ili video zapisa javnih dužnosnika, institucija ili tvrtki s ciljem manipulacije tržištem kapitala ili izbornim procesima.
Pružanje alata za uklanjanje zaštite autorskih prava i vodenih žigova. Razvoj i stavljanje na raspolaganje AI modela specijaliziranih za masovno uklanjanje digitalnih oznaka izvornosti (provenance) sa zaštićenih djela ili sintetičkog sadržaja.
Kibernetička sigurnost i autonomni sustavi
Sadašnji zakon kažnjava klasične oblike računalnog kriminala, no ne razlikuje ljudsku radnju od samostalnog djelovanja prilagodljivih algoritama.
Distribucija autonomnog zlonamjernog softvera. Stvaranje ili puštanje u rad samoučećih AI agenata koji samostalno pronalaze ranjivosti, mijenjaju svoj kod kako bi izbjegli otkrivanje i napadaju informacijske sustave bez izravnog daljnjeg upravljanja počinitelja.
Trovanje podataka za učenje (Data Poisoning). Namjerno ubacivanje manipuliranih ili lažnih podataka u skupove za treniranje sustava umjetne inteligencije koji se koriste u kritičnoj infrastrukturi, zdravstvu ili prometu, s ciljem izazivanja pogrešnih odluka sustava.
Zaobilaženje sigurnosnih ograničenja (Jailbreaking as a Service). Komercijalno nuđenje alata ili uputa kojima se sustavno uklanjaju sigurnosne barijere javnih AI sustava radi generiranja uputa za izradu oružja, eksploziva ili bioloških agensa.
Gospodarstvo, rad i potrošačka prava
Algoritamsko odlučivanje omogućuje nove oblike tržišnih zlouporaba koje je teško dokazati postojećim odredbama o zlouporabi položaja i ovlasti.
Algoritamsko namještanje cijena i kartelsko udruživanje. Korištenje samoučećih algoritama za određivanje cijena koji bez izravnog ljudskog dogovora međusobno usklađuju cijene na štetu potrošača i tržišnog natjecanja.
Zlouporaba sustava za emocionalnu manipulaciju i subliminalno utjecanje. Primjena AI sustava koji prepoznaju psihološku ranjivost pojedinca (primjerice maloljetnika, starijih osoba ili osoba u financijskoj stisci) radi navođenja na štetne financijske odluke ili samoozljeđivanje.
Protupravno automatizirano prikupljanje podataka (AI Scraping) uz zaobilaženje zaštite. Masovno prikupljanje zaštićenih baza podataka i osobnih podataka građana pomoću automatiziranih sustava uz probijanje tehničkih mjera zaštite radi treniranja komercijalnih modela.
Pravosuđe i javna uprava
Uvođenje tehnologije u javni sektor zahtijeva jasnu kaznenu odgovornost za zlouporabu alata koji utječu na temeljna prava građana.
Neovlašteno korištenje sustava za društveno bodovanje. Razvoj ili primjena algoritama koji ocjenjuju i rangiraju građane na temelju njihovog društvenog ponašanja ili osobnih karakteristika, što dovodi do neopravdane diskriminacije pri zapošljavanju, kreditiranju ili ostvarivanju javnih usluga.
Krivotvorenje digitalnih dokaza pomoću umjetne inteligencije. Stvaranje lažnih audio, video ili tekstualnih dokaza pomoću generativnih alata i njihovo podnošenje u sudskim ili upravnim postupcima, što zahtijeva strože kvalifikacije od klasičnog davanja lažnog iskaza.“
Google AI načinu rada postavio sam pitanje:
„Koja bi sve djela gospodarskog kriminala umjetna inteligencija dodatno uvrstila u postojeći Kazneni zakon Republike Hrvatske tako da Kazneni zakon bude svrsishodniji i učinkovitiji?“
Odgovor: „Za učinkovitije suzbijanje suvremenog gospodarskog kriminala, u Kazneni zakon Republike Hrvatske trebalo bi dodatno uvrstiti djela povezana s algoritamskim manipulacijama tržišta, automatiziranim korporativnim prijevarama, zlouporabom intelektualnog vlasništva pri treniranju modela te prikrivanjem odgovornosti iza autonomnih poslovnih sustava.
Postojeća glava kaznenih djela protiv gospodarstva (Glava XXIV. Kaznenog zakona) pisana je za tradicionalne oblike prijevara, zlouporaba povjerenja i kartelskih dogovora u kojima postoji izravna ljudska namjera i komunikacija. Korištenje umjetne inteligencije u poslovanju stvara sivu zonu u kojoj se šteta nanosi velikom brzinom i bez klasičnog traga ljudskog dogovora.
Kako bi zakonodavstvo pratilo stvarne poslovne rizike, u kazneno pravo trebalo bi ugraditi sljedeća specifična djela gospodarskog kriminala.
Tržišno natjecanje i manipulacija tržištem kapitala
Tradicionalni zakoni teško dokazuju krivnju kada odluke o cijenama ili trgovanju donose samoučeći algoritmi bez izravne ljudske intervencije.
Algoritamsko kartelsko udruživanje i namještanje cijena. Puštanje u rad ili korištenje algoritama za dinamičko određivanje cijena koji samostalno prepoznaju konkurentske obrasce i prešutno usklađuju cijene na štetu potrošača, čime se zaobilazi klasični dokaz o dogovoru između poduzetnika.
Visokofrekventna AI manipulacija tržištem kapitala (Spoofing i pranje trgovanja). Korištenje autonomnih trgovačkih agenata za munjevito zadavanje i otkazivanje lažnih naloga ili stvaranje umjetnog prometa s ciljem zavaravanja drugih investitora i umjetnog podizanja ili rušenja vrijednosti financijskih instrumenata.
Širenje sintetičkih tržišnih dezinformacija. Generiranje i koordinirano plasiranje lažnih financijskih izvješća, objava ili lažiranih audio-video izjava članova uprave konkurentskih tvrtki radi rušenja njihove tržišne vrijednosti ili neprijateljskog preuzimanja.
Korporativne prijevare i pranje novca
Napredni generativni alati omogućuju masovnu automatizaciju prijevara koje nadilaze opseg klasične prijevare u gospodarskom poslovanju.
Komercijalna prijevara kloniranjem identiteta ovlaštenih osoba. Korištenje sintetičkog glasa ili videa (deepfake) direktora, članova uprave ili poslovnih partnera u stvarnom vremenu tijekom poslovne komunikacije radi neovlaštenog odobravanja isplata ili prijenosa imovine.
Automatizirano pranje novca putem autonomnih financijskih agenata. Projektiranje ili korištenje AI sustava koji samostalno raspršuju nezakonito stečena sredstva kroz tisuće mikro-transakcija, kripto-mreža i fiktivnih tvrtki na način koji sustavno izbjegava pragove za prijavu sumnjivih transakcija.
Algoritmi
Algoritamsko prikrivanje stečajne nesposobnosti i krivotvorenje bilanci. Namjerno programiranje sustava za poslovno izvještavanje i reviziju tako da prikrivaju stvarnu prezaduženost društva, lažiraju procjene rizika ili umjetno napuhuju vrijednost imovine pred vjerovnicima i regulatorima.
Zaštita intelektualnog vlasništva i poslovnih tajni
Razvoj i primjena komercijalnih AI sustava otvaraju nove oblike industrijske špijunaže i neovlaštenog iskorištavanja tuđeg rada.
Industrijska špijunaža putem ekstrakcije modela (Model Extraction). Sustavno i automatizirano ispitivanje tuđeg zaštićenog poslovnog algoritma ili AI sustava s ciljem rekonstrukcije njegove arhitekture, parametara ili poslovne logike bez odobrenja vlasnika.
Komercijalno iskorištavanje zaštićenih baza podataka i poslovnih tajni za treniranje modela. Neovlašteno prikupljanje i korištenje zaštićenih korporativnih podataka, industrijskih nacrta ili autorskih djela za treniranje komercijalnih AI alata uz zaobilaženje tehničkih mjera zaštite.
Odgovornost uprave i zlouporaba u javnoj nabavi
Uvođenje umjetne inteligencije u javne financije i korporativno upravljanje zahtijeva sprječavanje prebacivanja krivnje na softver.
Namještanje javne nabave pomoću algoritamske analize ponuda. Korištenje sustava umjetne inteligencije za analizu obrazaca naručitelja i konkurenata radi podnošenja koordiniranih, prividno konkurentskih ponuda koje osiguravaju unaprijed dogovorenog pobjednika natječaja.
Namjerno delegiranje nezakonitih odluka autonomnom sustavu (Algoritamski paravan). Svjesno puštanje u rad poslovnog sustava umjetne inteligencije s predvidivim rizikom kršenja poreznih, radnih ili financijskih propisa, uz namjeru da odgovorne osobe u društvu izbjegnu kaznenu odgovornost pozivanjem na nepredvidivost algoritma.“
