Je li u 2026. godini čovjek još uvijek (pre)važan i ključan u donošenju odluka unutar AI prometnog sustava?

Nedavno sam bio na komercijalnom ICT događanju gdje sam upoznao aktualne sigurnosne tehnologije, primjenu i integraciju umjetne inteligencije u nekoliko područja. Prezentacija je zaključena panel raspravom s temom: Tko donosi odluku – operater ili algoritam? Četiri stručna govornika su unisono stavila čovjeka u središte odlučivanja. Jedan od panelista, kolega iz Grada Zagreba iz Sektora za promet, je kratko, jezgrovito i suvereno obrazložio i argumentirao ulogu prometnog operatera u procesima gradskog prometa, bez obzira na sve veću prisutnost AI alata u današnjim prometnim sustavima.

O ulozi čovjeka već diskutiraju puno pametniji ljudi od mene, među njima i moj prijatelj Zvonko Pavić koji je napisao cjeloviti pregled položaja i prava pojedinca (bez obzira na njegovu ulogu) u AI ekosustavu.

Ponukan tim oplemenjujućim i inspirativnim iskustvima zapitao sam se kao projektant, ovlašteni inženjer prometa, i kao osoba koja zna ponešto o IT, što kaže zakonska regulativa, kakav je pravni okvir primjene AI rješenja u prometu? Zašto smo (s pravom) još uvijek itekako podozrivi prema AI rješenjima, iako već više od 30 godina poznajemo i koristimo proizvode pod nazivom Inteligentni Transportni Sustavi? Zašto smo „inteligentnim“ sustavima dali sve na volju, a prema proizvodima koji nose (ne)opravdano atribut AI rješenja smo vrlo podozrivi? Pitanja moguće teška, ali odgovor je jednostavan. ITS rješenja su kalkulatori (računala) velike pouzdanosti – brzo i točno računaju te provode što smo im unaprijed zadali. U sprezi sa senzorima ili bez (ako ih nema ili se pokvare) uvijek rade predvidljive stvari. AI alati ne računaju niti odlučuju, oni predviđaju, a predviđanje je vjerojatnost, vjerojatnost nije sigurnost, vjerojatnost je neizvjesnost, a neizvjesnost nas može odvući u mnogim pravcima, čak i onima prometno (jako) nesigurnima. Puno pametniji od mene bi rekli samo jednu misao: determinizam vs. probabilizam. Kako bi inženjeri odgovorili? ITS rješenja su automatizirana jer smo im unaprijed ograničili domenu djelovanja egzaktnim matematičkim (procesnim) granicama, dok AI domena ima slobodu pronalaženja uzoraka unutar prostora vjerojatnosti (neizvjesnosti).

Tako si tumačim činjenicu da smo iz jednog dokumenta, ITS direktive i izmjene iz 2023. godine, evoluirali („zakomplicirali situaciju“) u cijelu paletu dokumenata.

Nisam pravni stručnjak, moji prijatelji i poznanici iz tog područja nisu izravno vezani na AI legislativu, iako su mi dali vrijedne informacije, pa sam za dopunu informacija priupitao velike jezične modele (ChatGPT, Perplexity, Gemini, Cloude, DeepSeek). Odgovori su svakakvi, od par propisa do biblioteke (bes)korisnih linkova. Hrvatska je u operativnom dijelu ukorak s ostalima, niti zaostajemo u legislativi. Tema nastaje u lipnju 2026. godine pa čitatelj(ica) treba o tome voditi računa u nastavku čitanja.

Zakon o cestama je u izmjenama 2021. godine jasno definirao što je ITS, propisao ustroj Koordinacijskog tijela za ITS i prioritetna područja. Zakon o sigurnosti prometa na cestama je u dopunama 2024. godine uveo pojam (potpuno) automatiziranog vozila sa i bez operatera u vozilu.

O zračnom prometu ne treba trošiti riječi. Ne znam koliko godina veća znamo za pojam autopilot. Još od 2013. godine naš Zakon o zračnom prometu uvodi pojam bespilotnog zrakoplova (unmanned aircraft). Imali smo čak i Pravilnik o sustavima bespilotnih zrakoplova, a od 2019. je ukinut jer sve članice EU primjenjuju pravila Europske agencije za sigurnost zrakoplovstva (EASA). Željeznica svojom ERTMS infrastrukturom te pomorski promet putem VTMIS sustava također imaju i legislativne predispozicije uvođenje i korištenja AI rješenja.

U ovoj temi zanima me još viša razina, ona esencijalna, ona koja govori što AI (ne) može, bolje rečeno (ne) smije, ili što će AI smjeti u prometu u budućnosti.

Znamo da EU ima najbolji pravni okvir glede AI. Neki to drže velikom preprekom i još jednim dokazom prenormiranosti EU okruženja, od bojazni da će mnoge tvrtke iz EU pobjeći na druga „slobodnija“ tržišta pa do (ne)opravdane kritike da se zakonom pokušava ograničiti tehnologija koja se mijenja na dnevnoj bazi. Zagovornici kreću od povijesnog vodstva Europe u kreiranju svjetskih trendova i normi pa do stvaranja atmosfere povjerenja u AI (npr. zbog straha od gubitka posla i deepfakeova). Zanimljivo da obje strane kao primjer navode primjenu GDPR. Protivnici kažu da je GDPR nemoćan protiv velikih sustava (banci morate dati sve podatke za bilo koju aktivnost), a zagovornici govore o sprječavanju Divljeg Zapada (svako web maltretiranje riješimo klikom na Unsubscribe). GDPR ima znakovit utjecaj izvan prostora EU pa je i to pokazatelj koliko je (ne)moćan. Kako god, direktive i akti postoje, članica smo EU i moramo ih poštovati.

Ovo je moj osobni pogled na EU AI prometni ekosustav. Činjenica je da je cijeli hype oko AI u prometu usredotočen na autonomna vozila pa je nemoguće izbjeći dominaciju cestovnog prometa, ali ću pokušati govoriti o prometu općenito.

🌐🛡️ U informacijskom prostoru zlo je asimetrično pa moram krenuti s oklopom. Imamo izvrsnu NIS2 direktivu koju smo pretočili i u hrvatski Zakon o kibernetičkoj sigurnosti kao okvir sigurnog rada prometnog sustava, s odredbama i uvjetima kako se obraniti od vanjskih napada i brzo sanirati unutarnje kvarove. Promet je Sektor visoke kritičnosti i sve grane prometa su poimence spomenute (zračni, željeznički, vodeni, cestovni).

📶🚙 Već sam spomenuo, odavno od 2010. godine i izmjenama iz 2023. godine imamo svekoliki okvir tzv. inteligentnog prometa, od multimodalnih informacija do povezanih ITS sustava (C-ITS) i autonomne mobilnosti. Izmjena iz 2023. godine slijedi razvoj tehnologije te učvršćuje ono što je izostalo prijašnjih 13 godina, a razvoj je bio nevjerojatan. Uvedena je zakonska obveza da Nacionalne Pristupne Točke moraju dijeliti prometne podatke kako bi se fokus s malog dijela mreže (TEN-T mreža) proširio na cijelu cestovnu mrežu, jer bez toga ne funkcioniraju autonomna vozila. Slobodno rečeno, što je napisano 2013. godine kao namjera i želja, u 2023. godini je izmijenjeno u obvezu.

📊 🤝 Podatci su pogonsko gorivo svega, a poglavito AI pa je EU donijela dva akta. Noviji, ali i važniji je Akt o podatcima koji je govori o praktičnim HW/SW rješenjima koja moraju biti otvorena (dostupna svima). Akt o podacima jasno propisuje da podaci koje generira (proizvodi) korisnik prometnog sustava pripadaju njemu ili njoj, a korisnik ima pravo te podatke proslijediti trećim stranama, omogućujući razvoj neovisnih AI alata. Akt o upravljanju podatcima govori na koga se sve odnosi prikupljanje i distribucija podataka (na svakog i sve) te definira parametre sigurnosne platforme za razmjenu podataka. Za inženjere i znanstvenike je akt (vrlo) koristan jer daje mehanizam kako doći do javnih anonimiziranih podataka o prometu, čime se stvara široka baza i tržište novih i boljih AI rješenja. Nadajmo se da će biti tako.

🧠💻 Tek sada dolazimo do „zvijezde predstave“ a to je čuveni Akt o umjetnoj inteligenciji. Za inženjere je Akt važan jer sve (ne)izravno vezano za promet klasificira u kategoriju visokog rizika. Ono što radimo za EU tržište ne smijemo raditi po načelu „crne kutije“, moramo ustrojiti visok stupanj kibernetičke otpornosti i ostvariti obvezan ljudski nadzor (human-in-the-loop) koji u svakom trenutku može ručno preuzeti kontrolu nad vozilom ili procesom. Poseban članak (12.) posvećen je evidenciji i čuvanju podataka: automatsko bilježenje i sustavska sljedivost događaja i procesa. Godinu dana kasnije donesen je Digitalni omnibus o umjetnoj inteligenciji koji formalno i sadržajno zadržava temeljna načela Akta o umjetnoj inteligenciji te, uvažavajući realnosti tržišta, propisuje alate i procedure za bržu provedbu AI rješenja.

👤🔑 Budući AI koristi brojne podatke koji se, za razliku od prije, mogu autentificirati, moramo u ovaj okvir uključiti i zaštitu privatnosti sudionika u prometu. Ovdje ključnu ulogu preuzima Opća uredba o zaštiti podataka (GDPR). Eventualna obrada osobnih i biometrijskih podataka dopuštena je samo uz strogo poštovanje načela minimizacije i trenutne anonimizacije. Inženjerski rečeno, smijemo koristiti AI za brojanje i analizu prometa, ali nemamo pravo trajno pohranjivati niti profilirati kretanje pojedinaca bez njihove privole. Još važnije, GDPR (članak 22.) jamči da nijedna pravno obvezujuća odluka o bilo kojoj osobi (npr. automatsko izdavanje prometnih kazni bez ljudske verifikacije) ne smije biti donesena isključivo od strane algoritma.

Kako to funkcijski izgleda pokazuje sljedeća slika lijevo. Budući je sve vezano na osobu čini se da AI i nije neko postignuće. Zato je dodana i desna slika gdje veličinom i debljinom pojedinih ikona ukazujem na utjecaj i važnost pojedinog elementa AI rješenja; sve je vezano na čovjeka (human-in-the-loop), ali u svrsi nadzora.

Svojim prijateljima „neprometašima“ slikovnom parabolom perilice rublja objašnjavam razliku između ITS (telematičkih) i AI rješenja te potrebu za čovjekom (nadzorom). ITS je moderna perilica koja preko senzora težine strogo prati unaprijed zadana ako-onda (if-then) pravila, dok AI perilica kamerama i drugim senzorima sama prepoznaje vrstu tkanine i mrlje te u hodu kroji optimalan program pranja i korištenje resursa (deterdžent + voda + dodatci). Zato „inteligentnu“ perilicu bez straha ostavljamo u samostalnom radu, dok AI perilica ne smije raditi sama jer može uništiti skupocjenu i rijetku tkaninu koja je neprepoznata, ili ne može uočiti opasnost jer će dječju igračku s baterijama zamijeniti za vuneni (čupavi) odjevni predmet.

Ako se vratimo u prometnu realnost i uzmemo za primjer cestovni promet, onda Zakonom o cestama i Zakonom o sigurnosti prometa na cestama reguliramo prava i odgovornosti operatera i korisnika ceste. U slučaju nesreće obično se krivac traži u trokutu sudionik – vozilo – cesta. AI doba uvodi algoritam (nematerijalni proizvod) kao važnog dionika prometnog procesa. Tko je kriv ako algoritam pogriješi? EU je to pokrila Direktivom o odgovornosti za neispravne proizvode. AI sustavi se tretiraju kao fizički proizvod pa, slijedom toga, proizvođač ima izravnu odgovornost. Glede sprječavanja dugog suđenja i prebacivanja odgovornosti između proizvođača, uvodi se “presumpcija uzročnosti” – nije potrebno angažirati (skupe) IT stručnjake da „dekodiraju milijune linija koda“ i dokazuju grešku AI sustava, dovoljno je dokazati da je sustav zakazao i uzrokovao štetu, čime se teret dokaza (obrane) prebacuje na leđa onoga tko je to AI rješenje pustio na tržište.

Kada sve ovo pročitate shvatit ćete zašto sam pobornik EU pravnog okvira, Kao inženjer (kreator) i sudionik u prometu (korisnik) vidim balans između tehnologije i zaštite (temeljnih) ljudskih prava. Osiguran je slobodan tijek i zaštita podataka, nadziran sam uz primjerenu zaštitu privatnosti, propisana je rigorozna kontrola AI algoritama, mogu konzumirati svoja prava u kriznim situacijama. EU ima cjeloviti okvir (normu) koji omogućuje AI rješenja usuglašena s vladavinom prava. O provedbi – nećemo.

EU pravni okvir daje mi kao inženjeru (projektantu) slobodu i odgovornost stvaranja dobrog i konkurentnog AI proizvoda. Moja ITS i(li) AI rješenja moraju biti:

• interoperabilna i utemeljena na otvorenim javnim normama,
• algoritamski robusna; rješenje popraćeno opsežnom tehničkom dokumentacijom s uspostavljenim sustavom upravljanja kvalitetom,
• kibernetički sigurna,
• popraćena mojom građanskopravnom odgovornosti ako je moj algoritam štetan i opasan.

Hoće li se što promijeniti u odnosu na dosadašnji klasičan projektantski rad i život? Za savjesnog i odgovornog projektanta (ovlaštenog inženjera) baš ništa.

Kakav je status prometnog operatera, kojem je i posvećena ova tema? Neću ulaziti u njegov pravni status, zadržat ću se na operativnim zadaćama koje se danas odnose na: nadzor i potvrda alarma kod automatske detekcije incidenata, aktivacija određenih standardnih operativnih postupaka, komunikacija i koordinacija žurnih službi i dr.. U AI životu njegova zadaća će se bitno promijeniti, na prvi pogled pojednostaviti, a opet zahtijevati veću usredotočenost: provodit će ljudski nadzor AI procesa – human-in-the-loop. Jedna zadaća, ali (pre)važna. AI rješenje će sve automatizirati i olakšati pa neće izravno trebati brinuti o: sustavskoj sljedljivosti i kibernetičkoj otpornosti te zaštiti privatnosti (GDPT) sudionika u prometu.

S motrišta kibernetičke sigurnosti, operater ima dvojnu zadaću. Prva je operativna i preventivna, odmah reagirati prilikom ikakve neuobičajene aktivnosti, iako sam AI algoritam ne upućuje na problem. Druga je čisto preventivna, ne smije biti „najslabija karika“; najbanalniji primjer je da različite zaporke ne smije nigdje komunicirati ili zapisati i mora ih kreirati s velikim stupnjem složenosti. Biometrija već polako (ponegdje i odavno) rješava drugi problem (EU rječnikom: izazov). Sve ostali elementi su pod nadzorom i provedbom AI algoritma i operater ne mora brinuti o tome.

Razmišljajući o današnjim dosezima AI, jedino mi na pamet pada proročanska (i vrlo sarkastična) izjava gospodina Edsger Wybe Dijkstrae, najpoznatijeg po algoritmu računanja najkraćeg puta u mreži, iz 1984. godine (stara preko 40 godina!), a glasi: The question of whether machines can think is about as relevant as the question of whether submarines can swim. (Pitanje mogu li strojevi misliti važno je otprilike koliko i pitanje znaju li podmornice plivati.). Namjerno je upotrijebio riječ plivati (swim), a ne ploviti. Je li važno kako podmornica „pliva“ ili kako računalo dolazi do rješenja, ako obavljaju svoje zadaće?
Ova izjava savršeno razotkriva današnji „medijski spektakl“ oko AI. Pioniri računalne znanosti još su tada prepoznali isti marketinški trik i pridavanje ljudskih osobina (antropomorfizacija) sustavima koji zapravo ne misle, već samo izvršavaju ljudima (ne)rješive (većinom matematičke) zadatke.

U vremenu 2026. godine AI je upravo to – izniman alat koji ubrzava rad i rješava složene probleme, ništa više. Vrhunski asistent koji u sekundi obrađuje nezamisliv broj podataka, no konačna odluka, moralna odgovornost i ljudsko prosuđivanje i dalje pripadaju isključivo nama. I tehnološki i zakonski sve još mora biti čvrsto u ljudskim rukama. Kada govorimo o prometu.

Ako bi oko 2026. godine projektirali (kreirali, dizajnirali) neko AI rješenje u prometu koje ne bi uključivalo ključnu ulogu čovjeka onda bi s inženjerskog motrišta pokazali svoju „stručnost“, a s pravnog motrišta bi isporučili protupropisnu (protuzakonitu) uslugu. Između ukidanja Zakona o crvenoj zastavi (Red Flag Act) iz 1896. godine i pokretne trake Henryja Forda 1913. godine prošlo je 17 godina. U današnje IR 4.0 vrijeme to je 2 – 3 godine. Što će biti oko 2030. godine s AI rješenjima u prometu, nitko ne zna (ili zna!?) pa do tada, barem što se prometa tiče: human-in-the-loop.