Odbor za informiranje, informatizaciju i medije raspravio je na 1. sjednici, održanoj 26. lipnja 2024. godine Prijedlog rezolucije o umjetnoj inteligenciji, koju je predsjedniku Hrvatskoga sabora podnijela Marija Selak Raspudić, zastupnica u Hrvatskome saboru, aktom od 24. svibnja 2024. godine.

Odbor za informiranje, informatizaciju i medije, na temelju članka 110. Poslovnika Hrvatskoga sabora, je navedeni Prijedlog rezolucije raspravio kao matično radno tijelo.

U vrijeme rasprave Odbor je raspolagao s Mišljenjem Vlade Republike Hrvatske na predmetni Prijedlog rezolucije.    

U uvodnom obrazloženju predlagateljica je naglasila da je Europska unija krenula s Aktom o umjetnoj inteligenciji u smjeru stvaranja gospodarsko-politički neovisnog prostora u kojem se umjetna inteligencija koristi za dobrobit čovjeka. Usuglašeno s time, u Hrvatskoj se Rezolucijom o umjetnoj inteligenciji i srodnim tehnikama želi stvoriti osnova za postizanje uzornog učinkovitog iskorištavanja umjetne inteligencije, bez ugrožavanja ljudskih, građanskih i političkih prava. Prvi je korak oblikovanje strategije za temeljnu provedbu Rezolucije, a za što je presudno jedinstvo političke volje u Hrvatskoj i javnim institucijama. Posebno je važno osvijestiti da bez postojanja mehanizama kontrole razina kompleksnosti na kojoj umjetna inteligencija obrađuje podatke, rješava zadatke i donosi odluke, može čovjeku postati nedokučiva, a nepostojanje odgovorne osobe omogućava zločin bez zločinca. Nedokučivost i neprativost rada umjetne inteligencije je fenomen koji se među stručnjacima često naziva crnom kutijom i stvara ogromne probleme u pogledu neodgovornosti za posljedice u slučaju zloupotrebe ili pogrešaka i otvara beskrajan prostor za manipulaciju, financijski kriminal i korupciju, naročito političku. 

U trenutnoj svjetskoj konstelaciji jedini je način zaustavljanja zloupotrebe sustava umjetne inteligencije usvajanje načela tzv. pouzdane umjetne inteligencije. Tim se načelom umjetna inteligencija regulira zakonskim propisima u duhu demokracije međunarodnog prava, Opće deklaracije o ljudskim pravima, Općim načelima etičnosti i pametnim sigurnosnim i nadzornim rješenjima pomoću kojih se sustav odupire malicioznom probijanju i korumpiranju funkcija i podataka te zloupotrebi. Od presudnog je značaja da je svako korištenje umjetne inteligencije u javnom sektoru i tijelima javne vlasti potpuno transparentno i da svaka politička zajednica ima metode zaštite i kontrole korištenja inozemnih sustava umjetne inteligencije. Pripremljenom Rezolucijom o umjetnoj inteligenciji i srodnim tehnikama Vlada Republike Hrvatske izrazila bi spremnost na sustavnu prilagodbu prokluzivnom gospodarsko-političkom skoku koji umjetna inteligencija pogoni, ali u duhu nastojanja Europske unije, Vijeća Europe, OECD-a kojem želimo pristupiti, Ujedinjenih naroda i mnogih drugih saveza i inicijativa, da društvo ostane čovječnim a da se koruptivni, antihumanistički i eksploatacijski potencijali kod upotrebe umjetne inteligencije svedu na minimum. Rezolucija u tom smislu naglašava izbjegavanje tragične ovisnosti kroz donošenje i provedbu državne strategije; podizanje medijske, informacijske, digitalne i kritičke pismenosti i vještina; zbrinjavanje radnika zahvaćenih uvođenjem sustava umjetne inteligencije; promicanje sustava isključivo pouzdane umjetne inteligencije; obvezivanje na ljudski nadzor i odgovornost za rad sustava umjetne inteligencije; uvođenje mehanizama zaštite ljudskih građanskih, političkih te radničkih prava, osobnih sloboda, ljudskog dostojanstva, autonomije i prava na zaštitu podataka i privatnosti; standardiziranje transparentnosti; objašnjavanje odgovornosti za korištenje umjetne inteligencije, naročito u javnom sektoru, tijelima javne vlasti i medijskim subjektima; pružanje posebne zaštite djece, starijih i nemoćnih osoba te ranjivih skupina; ulaganja u znanost, proizvodnju, upotrebu, regulaciju i evaluaciju umjetne inteligencije; klasificiranje, registracija i certificiranje, oporezivanje, praćenje i pravna regulacija, daljnji razvoj sustava državne obrane, naročito u području kibersigurnosti; ne podržavanje i zabranu korištenja umjetne inteligencije u predviđanju zločina, neovlaštenom nadzoru radnika, nenadziranom transportu i ratovanju autonomnim oružjem te stimuliranje međunarodne suradnje u skladu s vrijednostima Europske unije.

Predladgateljica je rekla i da potencijal umjetne inteligencije treba pratiti budnim okom radeći na tome da beneficije postanu stvarnost, a da zloupotrebe postanu i ostanu dio znanstvene fantastike. Naglasila je i da je ovaj dokument nastao u jednom interdisciplinarnom radu različitih stručnjaka iz područja umjetne inteligencije, kako onih prirodoznanstvenih, tako i onih koji pripadaju humanistici, te u tom smislu smatra da je riječ o ozbiljnom i kvalitetnom dokumentu i da bi rasprava o toj temi i zauzimanje konkretnog stava Hrvatskog sabora bio izrazit korak naprijed i hvatanje koraka s izazovima suvremenog vremena.

Predstavnik Vlade Republike Hrvatske obrazložio je Mišljenje Vlade da navedeni Prijedlog rezolucije nije potrebno usvojiti jer su ključni aspekti predložene Rezolucije riješeni putem nacionalnih strateških dokumenata te postojeće regulative Europske unije, koja će se implementirati na razini Europske unije i na nacionalnoj razini. 

Vijeće Europske unije je 21. svibnja 2024. donijelo Akt o umjetnoj inteligenciji, kojim će se uskladiti pravila o umjetnoj inteligenciji. Riječ je o prvom aktu te vrste u svijetu, stoga on može postaviti globalni standard za zakonodavstvo o umjetnoj inteligenciji. Cilj akta je poticati pouzdanu umjetnu inteligenciju u Europi i izvan nje osiguravanjem da sustavi umjetne inteligencije poštuju temeljna prava, sigurnost i etička načela.

Akt o umjetnoj inteligenciji bavi se globalnim izazovom koji istodobno stvara prilike za društva i gospodarstva. Njim se ističe važnost povjerenja, transparentnosti i odgovornosti kad je riječ o novim tehnologijama, a istodobno osigurava da ta tehnologija koja se brzo mijenja može napredovati i poticati europske inovacije. 

Predloženim će se pravilima, otkloniti rizici koje stvaraju primjene umjetne inteligencije, zabraniti prakse umjetne inteligencije koje predstavljaju neprihvatljive rizike, utvrditi popis visokorizičnih primjena, utvrditi jasne zahtjeve za sustave umjetne inteligencije za visokorizične primjene, definirati posebne obveze subjekata koji primjenjuju sustave umjetne inteligencije i dobavljača visokorizičnih aplikacija umjetne inteligencije, zahtijevati ocjenjivanje sukladnosti prije nego što se određeni sustav umjetne inteligencije stavi u uporabu ili na tržište, uspostaviti provedbu nakon stavljanja određenog sustava umjetne inteligencije na tržište te uspostaviti upravljačku strukturu na europskoj i nacionalnoj razini.

Naglasio je i da je predlagateljica istovjetni Prijedlog rezolucije o umjetnoj inteligenciji već podnijela u svibnju prošle godine i da je Vlada Republike Hrvatske također predložila da se taj Prijedlog ne prihvati.

U raspravi je rečeno da je potrebno voditi računa o dva aspekta umjetne inteligencije koji se mogu podvesti pod točku 10. Prijedloga rezolucije o umjetnoj inteligenciji. Naime, potrebno je detaljnije i jasnije precizirati način na koji se uspostavlja nadzor skupova podataka za učenje umjetne inteligencije kako bi se ti skupovi i njihova upotreba pridržavali standarda međunarodne zajednice, a kako bi bili sigurni da sustav umjetne inteligencije neće koristiti nepoželjne ili nelegalne podatke. Vezano za drugi aspekt, rečeno je da je potrebna preraspodjela prihoda koji se ostvaruju korištenjem sustava umjetne inteligencije, a preraspodjela bi trebala ići u korist pojedinaca i autora čije osnovne podatke sustav umjetne inteligencije upotrebljava.

Naglašeno je kako će ova tema u budućnosti biti često u fokusu. Rečeno je kako pučka pravobraniteljica više godina u svojim izvješćima ovu temu obrađuje u zasebnom poglavlju, a obzirom na važnost zaštite ljudskih prava i suzbijanje diskriminacije u kontekstu umjetne inteligencije. Vezano za rad pučke pravobraniteljice na temu umjetne inteligencije istaknuto je i sudjelovanje u pregovorima na razini EU o Aktu o umjetnoj inteligenciji kroz dvojaku komunikaciju sa nadležnim tijelom državne uprave te kroz mreže, Europsku mrežu nacionalnih institucija za ljudska prava i Europsku mrežu tijela za suzbijanje diskriminacije.

Izraženo je mišljenje kako Prijedlog rezolucije prepoznaje ogroman potencijal, ali i ozbiljne ugroze za zaštitu ljudskih prava i suzbijanje diskriminacije te kako apostrofira zaštitu djece i starijih. Regulaciji umjetne inteligencije ne može samostalno pristupiti niti jedna država već je potreban europski i globalni pristup, ali uz nacionalni pristup sa strateškim promišljanjem. Izražen je i stav kako bi Mišljenje Vlade Republike Hrvatske trebalo sadržavati detaljniju analizu Prijedloga rezolucije u odnosu na Akt o umjetnoj inteligenciji te kako je svakako potrebna detaljnija rasprava u Hrvatskome saboru. Rečeno je i da je u okviru Vijeća Europe 17. svibnja 2024. godine usvojena  Okvirna konvencija o umjetnoj inteligenciji, ljudskim pravima, demokraciji i vladini prava.

Nakon provedene rasprave Odbor je, većinom glasova (sa 7 glasova ”ZA”, 2 glasa ”PROTIV” i 2 ”SUZDRŽANA” glasa) odlučio predložiti Hrvatskome saboru sljedeći

Z A K L J U Č A K

NE PRIHVAĆA SE PRIJEDLOG REZOLUCIJE O UMJETNOJ INTELIGENCIJI

Za izvjestitelja na sjednici Hrvatskoga sabora određen je Josip Borić, predsjednik Odbora.

PREDSJEDNIK ODBORA
Josip Borić