Kako koristiti AI alate za poslovanje i biti usklađen s EU Aktom o umjetnoj inteligenciji

Uredba (EU) 2024/1689 Europskog parlamenta i Vijeća od 13. lipnja 2024. o utvrđivanju usklađenih pravila o umjetnoj inteligenciji (dalje u tekstu: Uredba) ne obvezuje samo subjekte koji razvijaju AI sustave. Svako trgovačko društvo koje AI sustav uvodi i koristi u okviru svojih poslovnih aktivnosti smatra se, u terminologiji Uredbe, subjektom koji uvodi AI sustav (čl. 3. st. 1. t. 4. Uredbe). Na takav subjekt primjenjuju se specifične obveze definirane Uredbom, posebno u pogledu nadzora, transparentnosti i odgovornosti.

Tržište AI alata mijenja se iznimno brzo. Alati koji su danas dostupni i relevantni za poslovanje mogli su biti razvijeni tek nedavno, a njihova pravna klasifikacija, uvjeti pružanja usluge i arhitektura sustava mogu se mijenjati na načine koji utječu na razinu pravnog rizika za korisnika. U nastavku donosimo pregled odabranih alata i pravnih obveza koje nastaju njihovim korištenjem.

📑 Sadržaj

AI alati za generiranje fotografija
AI alati za generiranje video sadržaja
AI alati za zapošljavanje – visokorizični sustavi
Često postavljana pitanja
Zaključak

1. AI alati za generiranje fotografija i transparentnost prema EU AI Aktu

Alati za generiranje vizualnih sadržaja dio su standardnog marketinškog arsenala. Od datuma pune primjene Uredbe korištenje takvih alata u poslovnom kontekstu nosit će konkretne zakonske obveze.

Među najetabliranijim alatima za kreiranje vizualnih sadržaja je Nanobanana pro koja je AI platforma za generiranje i profesionalno uređivanje fotografija. Podržava generiranje slike iz teksta (text-to-image), napredno uređivanje (promjena stila, uklanjanje ili dodavanje objekata, povećanje rezolucije do 4K) te character consistency u vidu dosljednosti vizualnih elemenata kroz višestruka generiranja, što je posebno korisno u marketinškim kampanjama s ponavljajućim vizualima.

Obveze transparentnosti prema čl. 50. Uredbe (EU) 2024/1689:

Ukoliko se putem navedene platforme kreira vizualni sadržaj za marketinške potrebe te se koristi primjerice za izradu vizuala proizvoda u tom bi slučaju jedino bi bilo potrebno zadovoljiti načelo transparentnosti, a što se u nastavku obrazlaže. Uredba u čl. 50. propisuje obveze transparentnosti koje se primjenjuju neovisno o tome je li AI sustav klasificiran kao visokorizičan. Za poslovnu primjenu alata za generiranje fotografija na prije opisani način relevantne su dvije razine:

Prva razina u vidu obveze pružatelja AI sustava: Sukladno čl. 50. st. 2. Uredbe, pružatelji AI sustava koji generiraju sintetičke audio, vizualne ili video sadržaje dužni su osigurati da su izlazni sadržaji označeni u strojno čitljivom formatu koji omogućuje detekciju da je sadržaj umjetno generiran ili manipuliran. Navedena obveza se ne primjenju ako AI sustav obavlja samo pomoćnu funkciju za standardno uređivanje ili ako se bitno ne mijenjaju ulazni podaci.

Druga razina u vidu obveze korisnika koji uvodi AI sustav (čl. 50. st. 3. Uredbe): Svako trgovačko društvo koje koristi AI sustav za generiranje ili manipulaciju slike koja predstavlja “deep fake” u smislu čl. 3. st. 1. t. 60. Uredbe tj. sadržaj koji prikazuje osobe, objekte, mjesta ili događaje na način koji bi se lažno mogao smatrati autentičnim dužno je objaviti da je sadržaj umjetno generiran ili manipuliran. Navedene informacije trgovačka društva su dužna pružiti na jasan i raspoznatljiv način najkasnije u trenutku prve interakcije ili prvog izlaganja, dok ujedno te informacije moraju ispunjavati primjenjive zahtjeve u pogledu pristupačnosti. Ukoliko je sadržaj dio očigledno umjetničkog, kreativnog, satiričnog, fiktivnog ili analognog djela ili programa, obveze u pogledu transparentnosti ograničene su na otkrivanje postojanja takvog generiranog ili manipuliranog sadržaja na odgovarajući način kojim se ne ometa prikazivanje tog djela ili uživanje u njemu.

Sankcije: Povreda obveza iz čl. 50. Uredbe podliježe upravnoj novčanoj kazni do 15.000.000 EUR ili do 3 % ukupnog godišnjeg globalnog prometa ostvarenog u prethodnoj poslovnoj godini s napomenom da se primjenjuje viši iznos (čl. 99. st. 4. Uredbe). Za MSP-ove, start-up društva, kazna ne može premašiti niži od navedenih pragova.

2. AI alati za generiranje video sadržaja te transparentnost

U odnosu na kreiranje video sadržaja kao jedan od vodećih alata etablirao se Seedance 2.0 koji je model za generiranje video sadržaja koji je razvila kineska tvrtka ByteDance (objava: veljača 2026.). Alat podržava multimodalni unos kombinaciju teksta, slika, videozapisa i audiozapisa te generira videosadržaj kinematografske kvalitete s nativno generiranim zvukom, preciznom sinkronizacijom govora i naprednom kontrolom kamere. Vrlo brzo nakon lansiranja etablirao se na tržištu kao jedan od vodećih video generatora, odmah se uključivši u utrku za vrh uz već poznate modele poput Klinga i Vea.

Obveze transparentnosti prema čl. 50. Uredbe (EU) 2024/1689:

Jednako kao i što je napomenuto u prethodnom članku za vizuale u obliku slika, obveze iz čl. 50. primjenjuju se i na videosadržaje. Pružatelji AI sustava za generiranje sintetičkog videosadržaja dužni su osigurati strojno čitljivo označavanje izlaznih sadržaja (čl. 50. st. 2. Uredbe). Korisnici koji uvode AI sustav dužni su osigurati da svaki generirani ili manipulirani videosadržaj koji predstavlja deep fake bude eksplicitno označen kao takav (čl. 50. st. 3. Uredbe) najkasnije u trenutku prve interakcije ili prvog izlaganja, uz određene prije nabrojane izuzetke.

Rizici kod korištenja AI sustava za generiranje vizuala

Svaki unos podataka koji sadrži osobne podatke primjerice fotografije osoba u AI sustave iz trećih zemalja predstavlja prijenos osobnih podataka u treću zemlju u smislu čl. 44. Uredbe (EU) 2016/679 (GDPR), a što je regulirano strože negoli prijenos podataka unutar EEA prostora i to naročito ako za tu državu u koju se prenosi ne postoji odluka o primjerenosti. Tako primjerice, Seedance 2.0 razvija i operira kineska tvrtka ByteDance, a za Kinu ne postoji odluka o primjerenosti razine zaštite u smislu čl. 45. GDPR-a, slijedom čega je za valjani prijenos potrebno prethodno poduzeti dosta koraka kako bi se uopće odredilo postoji li u toj konkretnoj situaciji mogućnosti prijenosa usklađenog sa GDPR-om.

Pored toga, za napomenuti je da postoje i drugi rizici, primjerice The Walt Disney Company uputila je ByteDanceu opomenu u veljači 2026. zbog navodnog treniranja modela Seedance na zaštićenim autorskim djelima bez naknade. Ova okolnost ukazuje na potencijalne rizike u pogledu intelektualnog vlasništva pri komercijalnoj upotrebi generiranog sadržaja.

3. AI alati za zapošljavanje i filtriranje kandidata – visokorizični sustavi prema EU AI Aktu

Ova kategorija zahtijeva najveću pravnu pažnju. AI sustavi koji se koriste u zapošljavanju klasificirani su kao visokorizični prema Uredbi i podliježu najstrožim obvezama usklađenosti. U tom smislu, postoje AI platforme za upravljanje talentima koja automatizira analizu životopisa, profiliranje i filtriranje kandidata te daje preporuke za zapošljavanje i unutarnju mobilnost zaposlenika. Koristi strojno učenje za procjenu potencijala kandidata i usklađenosti s radnim mjestom na temelju vještina, iskustva i obrazovnog profila.

Klasifikacija kao visokorizičan AI sustav (čl. 6. st. 2. u vezi s Prilogom III. Uredbe):

Prilog III. Uredbe (EU) 2024/1689 pod točkom 4.(a) izričito propisuje da su visokorizični AI sustavi oni “namijenjeni za zapošljavanje ili odabir fizičkih osoba, posebno za postavljanje ciljanih oglasa za posao, za analizu i filtriranje prijava za posao te za evaluaciju kandidata”, slijedom čega prije opisani sustavi u većini slučajeva predstavljaju visokorizične sustave. Ipak, treba napomenuti članak 6. st. 3. Uredbe koji propisuje da AI sustav koji bi inače bio visokorizičan ipak ne podliježe svim obvezama visokorizičnih sustava ako ne predstavlja značajan rizik za zdravlje, sigurnost ili temeljna prava fizičkih osoba, između ostalog jer ne pruža profil fizičke osobe niti utječe na donošenje odluka koje se tiču te osobe.

Obveze subjekta koji uvodi visokorizičan AI sustav su u bitnom poduzeti odgovarajuće tehničke i organizacijske mjere radi upotrebljavanja visokorizičnih sustava u skladu s uputama; uvesti ljudski nadzor fizičkih osoba koje imaju potrebne kompetencije, uz odgovarajuću podršku; pratiti funkcioniranje sustava te izvještavati o ozbiljnim incidentima ili nepravilnostima; čuvati logove koje sustav automatski generira najmanje šest mjeseci, osim ako je zakonom propisano drugačije; obavijestiti zaposlenike i radničke predstavnike o namjeravanoj upotrebi visokorizičnog AI sustava koji se tiče tih radnika te napraviti procjena učinaka na temeljna prava i u bitnom razviti interne procedure usklađenosti. Ovisno o okolnostima, postoje i dodatne obveze koje je potrebno zadovoljiti prije negoli se uvede korištenje visokorizičnog sustava, dok sami ti sustavi imaju detaljno propisane zahtjeva koji nisu predmet ovog članka. Svakako treba napomenuti i mijenjanje obveza u slučaju da se primjerice izmjeni namjena AI sustava na način da određeni sustav koji nije bio klasificiran kao visokorizičan upotrebljava se na način da postane visokorizičan, a u kojem slučaju se svaki subjekt koji je uveo takav sustav počinje smatrati dobavljačem te podliježe tim obvezama.

📌Napomena: Neovisno o svemu gore navedenom te kratkom pregledu obveza subjekata koje uvode visokorizične AI sustave, svakako se ne preporuča korištenje i uvođenje istih bez prethodnog savjetovanja sa stručnjacima radi cjelovite procjene i usklađivanja.

💡 Ključni savjet

Preporuča se korištenje visokorizičnih AI sustava tek nakon savjetovanja sa stručnjacima radi cjelovite procjene i usklađivanja.

Pročitajte i naše druge stručne članke o EU regulativi i poslovnom pravu.

Česta pitanja

Mora li moje trgovačko društvo označavati AI-generirane fotografije i video sadržaj?

Da, sukladno čl. 50. st. 2. Uredbe (EU) 2024/1689, pružatelji AI sustava dužni su osigurati strojno čitljivo označavanje sintetičkih vizualnih i audio sadržaja. Neovisno o tome, svako trgovačko društvo koje objavljuje takav sadržaj koji predstavlja deep fake u smislu čl. 3. st. 1. t. 60. Uredbe dužno je to eksplicitno naznačiti sukladno čl. 50. st. 3. Uredbe. Povreda može rezultirati kaznom do 15.000.000 EUR ili 3 % globalnog godišnjeg prometa (čl. 99. st. 4. Uredbe).

Je li dopušteno koristiti AI alat za selekciju kandidata u zapošljavanju?

Dopušteno je, ali uz stroge uvjete. AI sustavi namijenjeni selekciji kandidata visokorizični su sukladno čl. 6. st. 2. i Prilogu III., t. 4.(a) Uredbe. Korisnik koji uvodi takav sustav mora osigurati primjeren ljudski nadzor (čl. 26. st. 2. Uredbe), odgovarajuće organizacijske i tehničke mjere, obavijestiti kandidate o korištenju AI-a (čl. 50. st. 1. Uredbe) te voditi evidenciju i pratiti funkcioniranje sustava.

Odnosi li se EU AI Akt na moje trgovačko društvo ako samo koristi AI alate, a ne razvija ih?

Da. Uredba razlikuje dobavljače (čl. 3. st. 1. t. 3. Uredbe — razvijaju AI sustave) i subjekte koji uvode AI sustav (čl. 3. st. 1. t. 4. Uredbe — koriste AI unutar vlastite poslovne aktivnosti). Svako trgovačko društvo koje koristi AI alate unutar svojih poslovnih procesa je subjekt koji uvodi AI sustav i podliježe odgovarajućim obvezama — posebno onima iz čl. 26. Uredbe za visokorizične sustave te obvezama transparentnosti iz čl. 50. Uredbe.

Koji su AI sustavi potpuno zabranjeni prema EU AI Aktu?

Članak 5. Uredbe (EU) 2024/1689 zabranjuje, između ostalog: AI sustave koji putem subliminalnih ili manipulativnih tehnika iskrivljuju ponašanje osoba; sustave za socijalno bodovanje fizičkih osoba; sustave koji zaključuju o emocijama zaposlenika ili učenika; biometrijsku kategorizaciju u svrhu zaključivanja o rasnoj ili etničkoj pripadnosti, političkim stavovima ili vjeri; te sustave koji stvaraju baze podataka prepoznavanja lica nepovezanim uzimanjem uzoraka s interneta ili CCTV sustava. Kazna za povredu: do 35.000.000 EUR ili 7 % ukupnog godišnjeg globalnog prometa (čl. 99. st. 3. Uredbe).

4. Zaključak

Tržište AI alata iznimno se brzo razvija. Alati koji su danas u kategoriji minimalnog rizika te s istima nije moguće obavljati aktivnosti visokog rizika, mogu sutra biti reklasificirani, a pružatelji usluga mogu izmijeniti uvjete i arhitekturu sustava na načine koji utječu na razinu rizika za osobne podatke. U tom smislu, prije svakog korištenja AI sustava potrebno je utvrditi za što se isti koristi, u koju kategoriju pripada te koje su vaše obveze s obzirom na navedeno. Pored toga, postoje i zabranjene kategorije AI sustava odnosno zabranjeni načini korištenja AI, a koji su propisani EU Aktom o umjetnoj inteligenciji i na koje je potrebno obratiti pozornost. Dodatno, za napomenuti je da u trenutku pisanja ovog članka predmetna Uredba još nije u cijelosti stupila na snagu.

Ivan Guberina je odvjetnik u Zagrebu fokusiran na pravne potrebe trgovačkih društava te poslovanje s modernim tehnologijama u digitalnom okruženju.

Imate pitanje o korištenju AI alata u vašem poslovanju i usklađenosti s EU Aktom o umjetnoj inteligenciji? Kontaktirajte nas putem niže navedenih podataka ili putem kontakt obrasca na odvjetnik-guberina.hr. Ukoliko želite više saznati o usluzi odvjetnika za AI usklađenost, kliknite ovdje.

Kontaktirajte nas bez obaveza

Odvjetnički ured Ivan Guberina stoji vam na raspolaganju za pružanje savjeta i podrške kroz svaki korak pravnog procesa. Bez obzira trebate li savjet, zastupanje ili samo dodatne informacije o vašem slučaju, obratite nam se s povjerenjem.

Kontaktirajte nas bez obaveza i saznajte kako vam možemo pomoći u zaštiti vaših prava.