Odvjetnik za AI usklađenost

Odvjetnički ured Guberina savjetuje trgovačka društva u procjeni pravnih obveza i pripremi za usklađenost s Uredbom (EU) 2024/1689 o utvrđivanju usklađenih pravila o umjetnoj inteligenciji – Aktom o umjetnoj inteligenciji. Uredbom su utvrđena obvezna pravila, zabranjene prakse i dokumentacijske obveze za sve subjekte koji razvijaju, stavljaju na tržište ili koriste AI sustave na području EU.

Ova usluga namijenjena je trgovačkim društvima (d.o.o. i d.d.) koje razvijaju ili koriste softverska rješenja temeljena na AI tehnologijama, a trebaju pravnu analizu svojih obveza, koji sustavi su obuhvaćeni, koja kategorija rizika se primjenjuje i što konkretno moraju poduzeti. Kršenje Uredbe povlači upravne novčane kazne do 35.000.000,00 eura ili 7 % ukupnog godišnjeg prometa, slijedom čega je potrebno imati usklađene procese prije pune primjene Uredbe.

Za koga je ova usluga

• Trgovačka društva koje razvijaju AI softver ili AI funkcionalnosti unutar vlastitih proizvoda i planiraju ih plasirati na tržište EU
• Trgovačka društva koje koriste AI alate u procesima kao što su zapošljavanje, kreditiranje, ocjenjivanje, nadzor radnika, marketing, pružanje usluga klijentima i slično
• Uvoznici i distributeri AI rješenja stranih dobavljača koji ih stavljaju na raspolaganje na tržištu EU
• Podružnice stranih trgovačkih društava čiji AI sustavi imaju učinak na osobe u EU

Što radimo

Procjena obveza i klasifikacija AI sustava

Polazišna točka svake AI usklađenosti je utvrđivanje potpada li sustav koji koristite ili razvijate pod definiciju AI sustava prema Uredbi i s obzirom na način korištenja, kojoj kategoriji rizika pripada. Uredba razlikuje zabranjene prakse, visokorizične AI sustave, sustave s ograničenim rizikom i sustave s minimalnim rizikom, a svaka kategorija nosi drugačiji opseg obveza.

U okviru ove usluge:

• Analiziramo AI sustave koje vaše društvo razvija ili koristi i utvrđujemo kategoriju rizika
• Definiramo vašu ulogu prema Uredbi: jeste li dobavljač, subjekt koji uvodi sustav, uvoznik ili distributer
• Identificiramo koji se članci i zahtjevi konkretno primjenjuju na vašu situaciju
• Upozoravamo na eventualne zabranjene prakse koje bi mogle biti ugrađene u postojeće sustave
• Postavljamo plan i provodimo cjelovitu usklađenost vašeg poslovanja sa Uredbom, za poslovanje bez straha

Uspostava dokumentacije i internih procesa za visokorizične AI sustave

Trgovačka društva čiji AI sustavi ulaze u kategoriju visokorizičnih moraju uspostaviti, primjenjivati i održavati sustav upravljanja rizikom te ispuniti niz dokumentacijskih i procesnih obveza propisanih Uredbo. Bez odgovarajuće dokumentacije i internih procesa, trgovačko društvo ne može takav sustav staviti na tržište EU niti ga koristiti, a da bi se smatrali usklađenima.

Pregled usklađenosti s obvezama

Uredba propisuje specifične obveze ovisno o sustavu koji se koristi odnosno stavlja na tržište pa se tako obveze razlikuju u visokorizičnim kategorijama kao što su zapošljavanje, kritična infrastruktura (primjerice energetika), kreditiranje i slično od sustava koji su ograničenog rizika ili minimalnog rizika, kao i od onih koji su općenito zabranjeni.

Pismenost u području AI obveza za sve obuhvaćene subjekte

Članak 4. Uredbe propisuje da dobavljači i svi subjekti koji uvode AI sustav moraju poduzeti mjere za dovoljnu razinu AI pismenosti kod zaposlenika i osoba koje rade i koriste AI sustave u njihovo ime.

Procjena postoji li obveza transparentnosti

Uredba propisuje obvezu transparentnosti za dobavljače i subjekte koji uvode i koriste sustav. Vršimo procjenu je li vaš način korištenja AI sustava u poslovanju podliježe obvezi transparentnosti te što sve obuhvaća ta vaša obveza.

Regulatorni okvir — što Uredba zabranjuje i što zahtijeva

Uredba (EU) 2024/1689 dijeli AI sustave u kategorije prema razini rizika. Za svaku kategoriju vrijede drugačija pravila.

Zabranjene prakse (članak 5.) – primjenjuju se bez iznimke

Uredba zabranjuje AI prakse koje predstavljaju neprihvatljiv rizik. Nijedno trgovačko društvo ih ne smije koristiti bez obzira na svrhu. Zabrane (uz određene iznimke) obuhvaćaju: AI sustavi koji koriste tehnike manipulacije na način da se narušava sposobnosti osoba da donesu informiranu odluku, iskorištavanje ranjivosti osoba (dob, invaliditet, društveno ekonomski položaj), društveno ocjenjivanje koje uzrokuje štetno ili nepovoljno postupanje prema određenim ljudima, biometrijsku kategorizaciju, predviđanje rizika od kaznenih djela temeljeno isključivo na profiliranju, neselektivno prikupljanje biometrijskih podataka za baze lica, prepoznavanje emocija na radnom mjestu i u obrazovanju te slično.

Visokorizični AI sustavi (članak 6. + Prilog III.) – stroge obveze

AI sustavi u sljedećim područjima smatraju se visokorizičnima i podliježu zahtjevima iz poglavlja III. Uredbe: biometrija, kritična infrastruktura (promet, energija, voda), obrazovanje i strukovno osposobljavanje, zapošljavanje i upravljanje radnicima, pristup osnovnim privatnim i javnim uslugama (kreditiranje, osiguranje), kazneni progon, upravljanje migracijom i državnim granicama, te pravosuđe i demokratski procesi. Svako društvo koja razvija ili koristi AI u navedenim područjima mora provesti klasifikaciju i ispuniti odgovarajuće obveze.

Kazne za neusklađenost (članak 99.)

Uredba predviđa tri razine upravnih novčanih kazni:

• Kršenje zabranjenih AI praksi: do 35.000.000,00 eura ili 7 % ukupnog svjetskog godišnjeg prometa
• Neispunjavanje obveza dobavljača, subjekata koji uvode sustav, uvoznika, distributera i prijavnih tijela te obveza transparentnosti: do 15.000.000,00 eura ili 3 % prometa
• Dostava netočnih, nepotpunih ili obmanjujućih informacija nadležnim tijelima: do 7.500.000,00 eura ili 1 % prometa

Česta pitanja

Treba li moje trgovačko društvo odvjetnika za AI usklađenost?

Uredba (EU) 2024/1689 nameće pravne obveze ne samo tehničke, ali ne postoji obveza angažiranja odvjetnika. Klasifikacija AI sustava, procjena primjenjivosti obveza, izrada tehničke dokumentacije i upravljanje rizicima zahtijevaju pravnu analizu, ne samo IT implementaciju. Društvo koje donese pogrešnu klasifikaciju ili propusti obveze iz Uredbe izlaže se upravnim kaznama. Pravno savjetovanje smanjuje taj rizik.

Odnosi li se Uredba na moje trgovačko društvo ako samo koristi AI alate, ne razvija ih?

Da. Uredba se primjenjuje i na subjekte koji uvode sustav odnosno koriste AI sustave koriste u okviru profesionalne djelatnosti, bez obzira na to razvijaju li ih sami ili ih koriste od treće strane.

Što su zabranjene AI prakse i vrijede li za moju tvrtku?

Zabrane iz čl. 5. Uredbe primjenjuju se na sve subjekte obuhvaćene Uredbom, bez iznimaka vezanih uz veličinu ili sektor tvrtke. Obuhvaćaju manipulativne AI tehnike, biometrijsku kategorizaciju prema osjetljivim karakteristikama, prepoznavanje emocija na radnom mjestu, predviđanje kriminala temeljeno na profiliranju i druge kategorije. Za kršenje zabrana propisane su kazne do 35.000.000,00 eura ili 7 % globalnog prometa.

Koji su konkretni koraci za usklađenost?

Polazišna točka je klasifikacija AI sustava koje vaša tvrtka koristi ili razvija, koji sustavi su obuhvaćeni Uredbom, kojoj kategoriji rizika pripadaju i koja je uloga vašeg trgovačkog društva u opskrbnom lancu. Na temelju te analize utvrđuje se koje se konkretne obveze primjenjuju: od dokumentacijskih zahtjeva do obveza transparentnosti i zabrana koje vrijede apsolutno.

Primjenjuju li se obveze samo na tvrtke s poslovnim nastanom u EU?

Ne. Uredba se primjenjuje i na trgovačka društva s poslovnim nastanom izvan EU, ako AI sustavi koje razvijaju ili koriste imaju učinak na osobe unutar EU. To znači da i strane tvrtke koje prodaju AI rješenja ili pružaju AI usluge na EU tržištu mogu biti izravno obuhvaćene obvezama Uredbe.

Kontakt

Imate pitanje u vezi s primjenom Uredbe (EU) 2024/1689 (Aktu o umjetnoj inteligenciji) na vaše poslovanje? Obratite nam se, kontaktirajte odvjetnika Ivana Guberinu putem niže navedenih podataka ili putem kontakt obrasca.