Hrvatska mora aktivno raditi na razvoju vlastitih, suverenih rješenja umjetne inteligencije, kako u sklopu šireg europskog okvira, tako i u savezu s privatnim tvrtkama i startupima unutar Hrvatske, ako želi osigurati sigurnost i održivost svojih ključnih sustava i podataka, kazali su neki od ključnih ljudi ovog sektora za Women in Adria.
Dok modeli umjetne inteligencije sve dublje prodiru u društvo i poslovanje, sve je više svjetskih država zabrinuto zbog činjenice da su ovi sustavi pod kontrolom velikih međunarodnih kompanija ili nacionalnih vlada. Većina globalnog AI ekosustava nalazi se u rukama američkih tvrtki, od serverske infrastrukture do samih modela. U isto vrijeme, Kina ubrzano radi na razvoju i primjeni vlastitih modela, kao i na razvoju vlastitog hardvera za podatkovne centre.
Suverena umjetna inteligencija
Modeli umjetne inteligencije, razvijeni u Sjedinjenim Državama ili Kini, dolaze u paketu sa sustavnim rizicima. Model Grok, iza kojeg stoji Elon Musk, primjerice, postao je predmet ismijavanja na internetu nakon što je otkriveno da tvrdi kako je Musk najpametniji, najjači i najsposobniji čovjek u povijesti, koji bi mogao pobijediti Mikea Tysona u boksu, te da je manja šteta izbrisati cijelu populaciju Slovačke nego da svijet ostane bez Muska.
Kineski model Deepseek, s druge strane, odbacuje sve kritike kineske vladajuće partije, negira masovna kršenja ljudskih prava u toj državi, te insistira kako je Tajvan neodvojiv dio Kine. Očito je da oni koji razvijaju pojedini model mogu utjecati na njegove odgovore, i time utjecati na javno mnijenje i društvenu klimu, pogotovo u društvu u kojem sve više ljudi preskače Google pretrage ili čitanje vijesti i odgovore na aktualna pitanja izravno traži od jezičnih sustava AI-ja.
Pitanje je dana kakve će odgovore američke vlasti – koje po novome negiraju koristi cjepiva i objavile su rat onome što oni nazivaju “woke ideologijom” – nametnuti AI sustavima razvijenim pod njihovom jurisdikcijom.
Pročitajte više: Umjetna inteligencija i nadzor proizvodnje: U kombinaciji s čovjekom AI postaje moćan alat
Pitanje je kakvi se podaci prikupljaju
To čak nisu ni jedine opasnosti izloženosti sustavima umjetne inteligencije pod tuđom kontrolom. Otvoreno je pitanje i kakvi se podaci prikupljaju prilikom korištenja AI modela – što se dogodi ako interni dokument svoje tvrtke pošaljemo ChatGPT-u da nam ga sažme, ili što se događa ako djelatnici državnih službi isto rade s projektnim i natječajnim dokumentacijama, prepunim osobnih i tajnih podataka privatnih osoba i tvrtki.
Isto tako, razvoj AI modela ili usluga u oblaku uglavnom se oslanja na jednu od tri globalne tvrtke – Microsoft, Amazon ili Google. Time je kritična infrastruktura ponovno čvrsto u rukama američkih megakorporacija, a najveći konkurenti su opet kineske tvrtke – Tencent i Alibaba. Koncentracija globalnih usluga u rukama tako malog broja tvrtki znači da je cijeli sustav sigurnosno iznimno osjetljiv na hakerske napade, gospodarski iznimno podložan stvaranju oligopola, te politički ranjiv na uplitanje država u kojima su te tvrtke registrirane.
Države koje na području ove tehnologije ne žele biti ranjive, podložne ekonomskim utjecajima, vanjskim poremećajima, već žele osigurati otpornu i kontinuiranu bazu za svoje tvrtke i javnu upravu, prisiljene su razmišljati o razvoju vlastitih sustava, čak i ako se unaprijed zna da oni svojim sposobnostima neće moći nadmašiti, pa možda čak ni parirati vodećim modelima iz Kine i SAD-a. Iz istog razloga, brojne države subvencioniraju vlastitu poljoprivredu i druge strateške grane, poput proizvodnje gnojiva, čak i kada se zna da bi uvoz bio znatno isplativiji.
Europski parlament prepoznao je u izvještaju iz lipnja da je EU trenutačno visoko ovisna o stranim tehnologijama, većinom američkim. Pojedine države odgovaraju na tu ranjivost razvojem svojih planova za AI.
Europske inicijative
Kako piše Euronews, posljednja u nizu tih inicijativa je njemački plan Suverenih modela temeljenih na otvorenom softveru (SOOFI), koje će druge tvrtke moći preuzeti i iskoristiti za razvoj vlastitih sustava. Vlastite inicijative razvijaju i Poljska, koja je krenula u izradu poljskog velikog jezičnog modela (PLLuM), kao i Španjolska, čiji je Centar za superračunarstvo u Barceloni razvio projekt AI infrastrukture Alia. Radi se o modelima prilagođenim lokalnim jezicima i dostupnim startupima za razvoj vlastitih modela. Na svojim rješenjima rade i Nizozemska i Portugal.
Na europskoj razini, osnovano je zajedničko poduzeće EuroHPC, koji koordinira upravljanje takozvanim “EU AI tvornicama” – hubovima koji objedinjuju superračunala visokih performansi, velike skupove podataka, te stručnjake i usluge podrške.
Hrvatski centar
Hrvatska u tom zajedničkom poduzeću sudjeluje kroz nacionalni, Hrvatski centar kompetencija za HPC – CRO HPC CC. Ivan Marić, ravnatelj Sveučilišnog računskog centra Sveučilišta u Zagrebu (SRCE) i jedan od pokretača hrvatskog Centra, kazao je za Women in Adria kako Hrvatska treba izgraditi nužne komponente nacionalne suverenosti, kako infrastrukturne, tako i one ljudske.
“Uzimajući u obzir trenutnu geopolitičku situaciju, kao i nastojanja EU za izgradnjom suverenog AI koji će se osloniti prije svega na suverene i kvalitetne podatke, kao i EU superračunalne resurse izgrađene u sklopu EuroHPC, smatram da je AI suverenost RH nedjeljiva od europske”, rekao je Marić.
Marić ipak ističe da je u realnosti većina tehnoloških rješenja hibridna – spoj privatnih i javnih. “USA i Kina dominiraju javnim gen AI rješenjima, i mislim da EU ne treba težiti izgradnji sličnih sustava koji će konkurirati na globalnoj razini po dosegu”, kazao je Marić.
Hibridni model koji spaja državne i privatne snage
Vrlo je sličnog stava i Lorena Barić, izvršna direktorica udruge CroAI, koja okuplja i povezuje AI startupe, tehnološke tvrtke i institucije u Hrvatskoj. “Suvereni AI ima smisla za Hrvatsku, ali samo u pametnom, hibridnom modelu koji spaja državne i privatne snage”, rekla je Barić.
“To znači sustave pod našom kontrolom – trenirane na domaćim podacima, s fokusom na privatnost i hrvatski kontekst”, kazala je. “Primjerice za zdravstvo, pravosuđe ili upravu, gdje su osjetljivi podaci u pitanju.” Pojašnjava kako to nije izgradnja “hrvatskog OpenAI-ja”, već o specijaliziranim modelima koji rješavaju konkretne potrebe bez ovisnosti o stranim servisima.
Oboje se slažu da ono što Hrvatskoj ne nedostaje je – talent. CroAI, koji objavljuje godišnja izvješća o AI ekosustavu u Hrvatskoj “CroAI Landscape”, ove je godine pobrojao više od 500 aktera, uključujući više od 100 startupa. “To pokazuje da scena brzo raste”, rekla je Barić. “Hrvatska ima dovoljno talenata i znanja za razvoj suverenih AI sustava.”
I Marić ističe kako hrvatskoj ne nedostaje znanja i talenta za razvoj takvih sustava, bila tu riječ o znanstvenicima, inženjerima i istraživačima, ili poduzetnicima tvrtkama ili udrugama koje razvijaju i koriste te promoviraju AI. “AI nije nastao u zadnjih 2-3 godine”, napominje Marić. “Hrvatska ima talente koji daju svoj doprinos svjetskom razvoju AI-a i to već desetljećima, uključujući brojna visoka učilišta sa svojim centrima i laboratorijima za AI.”
Šteta što nećemo u Hrvatskoj imati EU AI Factory
Prema Mariću, ono što nedostaje za razvoj suverenih AI sustava je snažnija koordinacija – prvenstveno između donositelja odluka, ustanova koje posjeduju talente i znanja, te na kraju samih korisnika. Pohvalio je i Vladu RH za osnivanje Radne skupine koja radi na Nacionalnom i akcijskom planu za razvoj umjetne inteligencije u Hrvatskoj, koji bi uskoro trebao doći na javnu raspravu.
Barić je pak istaknula kako nam po njoj ipak nedostaje i infrastruktura. “Žao mi je što se u Hrvatskoj za sada neće graditi EU AI Factory, već će se one graditi u susjedstvu”, kazala nam je.
Slovenski SLAIF, primjerice. bit će koordinirani hub za slovensko znanje i stručnost na polju AI-a i HPC-a, koji će objediniti brojne institucije i fokusirati se na zelenu tranziciju, zdravlje i biotehnologiju, digitalno društvo i znanost. Čak je i Srbija povezana kao takozvana “antena” s čak dvije AI tvornice – talijanskom IT4LIA i grčkim projektom Pharos.
Kako zadržati stručnjake
“Druga stvar je, iako CroAI Landscape pokazuje porast projekata, startupova i stručnjaka, ICT talenti čine samo 3,7 posto radne snage, ispod EU prosjeka od 4,6 posto, a mnogi viši AI inženjeri odlaze u inozemstvo zbog plaća, tako da ih zapravo nemamo puno”, kaže Barić.
Upravo tu Marić vidi najveću korist razvoja vlastitih sustava. “Posjedovanje suverene AI omogućuje zadržavanje i privlačenje novih talenata i znanja, bez ovisnosti o drugima”, kazao je, te pojasnio kako suvereni AI ne znači zatvaranje od svijeta.
Što znači suvereni AI
“Ne radi se o izolaciji, nego o tehnološkoj suverenosti i nacionalnim interesima”, kazao je Marić. “Oni na ovaj način mogu biti ostvareni zadržavajući uklopljenost u i pridonoseći digitalnom suverenitetu EU.”
Ono što je najbitnije, i što je u srži europske vizije razvoja suverenog AI-ja, je kvaliteta podataka. Dok se otvoreni sustavi iz SAD-a i Kine treniraju na ogromnim količinama nefiltriranih podataka, sve je ozbiljnija opasnost da dođe do takozvanog “garbage in – garbage out” modela, tj. slaba kvaliteta podataka dovodi i do slabe kvalitete izlaza. Druga je opasnost takozvano “trovanje” podataka – u kojima države ili drugi zlonamjerni akteri namjerno stvaraju velike količine podataka namijenjene da suparničke modele navedu na postupanje u vlastitom interesu, ili jednostavno da se umanji njihova učinkovitost.
“Kvalitetni i provjereni podaci su podloga za daljnji razvoj i istraživanje domenskih – tematskih – AI platformi i usluga”, naglasio je Marić.
Imamo više od 500 aktera koji se bave umjetnom inteligencijom
Barić ističe kako su privatne inicijative i startupi ključni za inovacije, i podsjeća na više od 100 takvih tvrtki u Hrvatskoj, uz više od 500 aktera – institucija i gospodarskih subjekata – koji se bave AI-jem.
“Država bi trebala podržati te ekosustave ulaganjem u infrastrukturu, poticanjem AI poduzetništva, investicijama, politikama koje potiču inovacije i razvoj”, kazala je, te dodaje: “Svakako je najbolji pristup suradnja sektora, jer tako ostvarujemo ravnotežu između suverenosti i brzog razvoja.”
Foto ilustracija: Nano Banana (ilustracija), Privatni arhiv
