Jedna rečenica u marketingu pretvara vaš AI sistem u visokorizični

Dok sam čitala Nacrt vodiča Evropske komisije za klasifikaciju visokorizičnih AI sistema, objavljen u maju 2026. godine, imala sam utisak da je tržište od njega očekivalo jednu stvar: jasan odgovor na pitanje gde je granica između “običnog” AI alata i visokorizičnog AI sistema prema AI aktu.

Posle tumačenja preko 150 strana, moj zaključak je da je Komisija uspela da razjasni neka važna pitanja, ali je istovremeno otvorila i potpuno novu dilemu: da li će o regulatornom statusu AI sistema ubuduće više odlučivati marketing nego sama tehnologija?

To možda zvuči preterano, ali kada pročitate Vodič, postaje jasno zašto tako mislim. Jedna rečenica u uputstvu za upotrebu, primer primene u prodajnoj prezentaciji ili nova funkcionalnost dodata postojećem AI alatu mogu biti dovoljni da sistem pređe regulatornu granicu i postane visokorizičan.

U praksi, klasifikacija AI sistema često neće zavisiti od toga šta sistem tehnički jeste, već od toga kako je predstavljen, kome je namenjen i u kom regulatornom kontekstu se koristi. Upravo zato pitanje klasifikacije postaje jedno od najvažnijih, ali i najneizvesnijih pitanja primene AI akta.

AI akt ne procenjuje tehnologiju, već regulatorno relevantan rizik

Prva stvar koju vredi razumeti jeste da AI akt ne funkcioniše po principu “opasna tehnologija = stroža pravila”.

On uvodi dva nezavisna osnova za klasifikaciju sistema kao visokorizičnog. Prvi se odnosi na AI koji predstavlja proizvod ili bezbednosnu komponentu proizvoda obuhvaćenog harmonizovanim zakonodavstvom EU iz Aneksa I, pod uslovom da za taj proizvod postoji obavezna procena usaglašenosti. Drugi obuhvata AI sisteme čija je namenjena svrha jedna od oblasti navedenih u Aneksu III, poput zapošljavanja, obrazovanja, kreditnog skoringa ili upravljanja kritičnom infrastrukturom.

Ono što je meni bilo posebno zanimljivo jeste da Komisija naglašava da AI akt nije zasnovan na proceni nastale štete, već na proceni regulatorno relevantnog rizika. Međutim, ni svaka hipotetička mogućnost greške nije dovoljna. Ključno pitanje je da li konkretna upotreba sistema može razumno dovesti do rizika po zdravlje, bezbednost ili osnovna prava pojedinaca.

Drugim rečima, nije presudno šta AI sistem može da uradi u teoriji, već kako se koristi u praksi.

Svrsishodnost postaje centralni kriterijum

Najvažnija poruka celog Nacrta, po mom mišljenju, jeste da se klasifikacija AI sistema ne određuje isključivo prema tehničkim karakteristikama. Ključni kriterijum postaje njegova namenjena svrha (intended purpose).

Iako je taj pojam već definisan u članu 3(12) AI akta, Komisija mu sada daje mnogo šire praktično značenje. Namenjena svrha ne proizlazi samo iz tehničke dokumentacije, već iz načina na koji proizvođač predstavlja sistem: kroz uputstva za korišćenje, ugovore, promotivne materijale, internet stranicu i druge javne izjave.

To znači da regulator neće posmatrati samo šta sistem tehnički može da radi, već i šta proizvođač tvrdi da sistem može ili treba da radi.

Ovakav pristup je logičan ako se ima u vidu da AI akt ne reguliše tehnologiju kao takvu, već rizike povezane sa njenom konkretnom primenom. Isti AI model može ostati van režima visokog rizika kada generiše marketinške tekstove, ali postati visokorizičan ako se koristi za selekciju kandidata za posao ili procenu kreditne sposobnosti. Odlučujuća nije arhitektura modela, već svrha zbog koje se koristi.

Marketing postaje deo regulatorne dokumentacije

Ovo je deo koji će, verujem, izazvati najviše pažnje među kompanijama koje razvijaju AI proizvode.

Komisija zauzima stav da namenjena svrha ne proizlazi samo iz formalnih izjava proizvođača, već iz celokupnog načina na koji je sistem predstavljen tržištu. Ako se AI promoviše kao široko primenljiv u različitim industrijama, a proizvođač jasno i dosledno ne isključi visokorizične slučajeve upotrebe, smatraće se da njegova namenjena svrha obuhvata i takve primene ukoliko su tehnički moguće i razumno predvidive.

Praktična posledica je prilično ozbiljna. Više neće biti dovoljno da u opštim uslovima korišćenja napišete da je zabranjena upotreba za zapošljavanje, kreditno ocenjivanje ili druge visokorizične svrhe, ako internet stranica, prodajna prezentacija ili promotivni materijali sugerišu upravo takvu upotrebu.

Marketing tako postaje regulatorno relevantan. Internet stranice, brošure, tehnička dokumentacija, ugovori sa korisnicima i uputstva za korišćenje moraće da budu međusobno usklađeni.

Ovo je posebno važno za pružaoce sistema opšte namene, koji svoje proizvode često predstavljaju kao univerzalna rešenja za različite industrije. Upravo takvo pozicioniranje može proširiti regulatorni opseg njihove odgovornosti.

Ko zapravo procenjuje da li je sistem visokorizičan?

Još jedna važna poruka Nacrta vodiča jeste da početnu procenu vrši sam proizvođač. On mora da ima dokumentaciju kojom dokazuje zbog čega smatra da njegov sistem jeste ili nije visokorizičan, dok nadzorni organi zadržavaju pravo da tu procenu naknadno preispitaju.

Meni ovo najviše liči na režim samoprocene koji postoji u drugim oblastima prava EU. Kompanija mora sama da sprovede pravnu analizu i dokumentuje razloge za svoj zaključak, ali time ne dobija garanciju da će se regulator sa tom procenom složiti.

U graničnim slučajevima to može postati ozbiljan poslovni problem, jer od početnog odgovora na pitanje “da li je sistem visokorizičan?” zavise vreme, troškovi i čitav postupak usklađivanja, uključujući eventualno obraćanje akreditovanom telu i registraciju sistema u nadležnom registru.

Kada korisnik postaje proizvođač

Jedna od tema kojoj sam posvetila najviše pažnje jeste član 25 AI akta i raspodela odgovornosti u lancu vrednosti.

Vodič potvrđuje veoma široko tumačenje ovog pravila. Status proizvođača ne pripada nužno kompaniji koja je razvila osnovni AI model. Distributer, uvoznik, korisnik ili drugo treće lice mogu preuzeti obaveze proizvođača ako stave svoj naziv na visokorizični AI sistem, izvrše njegovu značajnu izmenu ili promene njegovu namenjenu svrhu tako da sistem prvi put postane visokorizičan.

Ovo je posebno važno za generativnu veštačku inteligenciju i foundation modele. Kompanija koja koristi postojeći model putem API-ja neće automatski postati proizvođač visokorizičnog sistema. Međutim, ako isti model prilagodi za selekciju kandidata za zaposlenje, procenu kreditne sposobnosti ili drugu visokorizičnu funkciju iz Aneksa III, upravo ona može preuzeti status proizvođača, iako nije razvila osnovni model.

Ostaje, međutim, otvoreno pitanje kakav je položaj prvobitnog proizvođača foundation modela kada nije jasno ograničio visokorizične načine upotrebe. Vodič tu ne daje konačan odgovor i mislim da će upravo to biti jedno od najspornijih pitanja buduće primene AI akta.

AI sistemi iz Aneksa I: nije svaki AI proizvod automatski visokorizičan

U praksi se često može čuti: “Ako proizvod obuhvaćen harmonizovanim zakonodavstvom koristi AI, onda je visokorizičan.” To jednostavno nije tačno.

AI akt ne uspostavlja poseban režim za sve proizvode koji koriste veštačku inteligenciju. Visokorizični su samo oni AI sistemi koji predstavljaju proizvod ili bezbednosnu komponentu proizvoda obuhvaćenog propisima iz Aneksa I, i to samo ako za taj proizvod postoji obavezna procena usaglašenosti pre stavljanja na tržište.

Drugim rečima, visokorizičnost proizlazi iz regulatornog okruženja u kojem se AI koristi, a ne iz same tehnologije.

Komisija se ovde oslanja na logiku poznatog Blue Guide dokumenta za primenu EU pravila o proizvodima i praktično potvrđuje da AI akt nije zamišljen kao zaseban sistem bezbednosti proizvoda, već kao horizontalni sloj koji se nadovezuje na postojeću regulativu.

To znači da proizvođači medicinskih uređaja, mašina ili drugih regulisanih proizvoda neće prolaziti kroz dva potpuno odvojena postupka, već će se zahtevi AI akta integrisati u postojeće procedure procene usaglašenosti.

Šta je “bezbednosna komponenta”?

Jedno od najkorisnijih pojašnjenja odnosi se na pojam safety component. Komisija potvrđuje da je to autonoman pojam AI akta i da se ne tumači prema definicijama iz pojedinačnih sektorskih propisa.

Praktično se uvodi dvostepeni test. AI predstavlja bezbednosnu komponentu kada ima bezbednosnu funkciju u proizvodu, ali i kada njegova osnovna svrha nije bezbednost, ako bi njegov kvar ili neispravno funkcionisanje mogli da ugroze zdravlje, bezbednost ljudi ili imovinu.

Važno je i to što pojam “kvara” obuhvata mnogo više od potpunog prestanka rada sistema. Uključeni su netačni rezultati, pogrešne klasifikacije, lažno pozitivni i negativni izlazi, degradacija modela i druge nepravilnosti koje mogu dovesti do opasnih posledica.

Ali Komisija postavlja i važnu granicu: nije dovoljna bilo kakva mogućnost greške, već samo ona koja u konkretnom kontekstu može dovesti do rizika koje AI akt nastoji da spreči.

Procena usaglašenosti: važnije je da postoji nego ko je sprovodi

Drugi uslov iz člana 6(1) AI akta često je pogrešno tumačen. Mnogi su smatrali da AI sistem postaje visokorizičan samo ako u proceni usaglašenosti učestvuje notifikovano telo.

Komisija sada izričito potvrđuje da i interna procena usaglašenosti (self-assessment) može biti dovoljna, ako je takav model predviđen relevantnim sektorskim propisom.

Dakle, odlučujuće nije ko sprovodi procenu, već da proizvod potpada pod regulatorni režim koji zahteva njeno sprovođenje pre stavljanja na tržište.

To je važno jer sprečava situaciju u kojoj bi identični AI sistemi imali različit regulatorni status samo zato što različiti sektorski propisi predviđaju različite procedure procene usaglašenosti.

Koliko je Vodič zaista praktičan?

Iako Nacrt sadrži veliki broj primera, upravo tu vidim njegov najveći nedostatak. Većina primera odnosi se na situacije u kojima je odgovor već očigledan na osnovu samog teksta AI akta ili prirode konkretne primene.

Nedostaju granični slučajevi – situacije u kojima nije jasno da li određena AI funkcionalnost predstavlja bezbednosnu komponentu, da li marketing komunikacije trigeruju kvalifikaciju sistema kao visokorizičnog ili kada se promena namenjene svrhe smatra dovoljno značajnom da korisnik postane proizvođač.

Komisija sama priznaje da nije moguće sastaviti iscrpnu listu svih visokorizičnih sistema. Međutim, upravo zbog toga sam očekivala više primera koji bi kompanijama pomogli da razumeju kako regulator razmišlja u nejasnim situacijama.

Šta je moj zaključak posle čitanja Nacrta vodiča?

Ako razvijate ili koristite AI sisteme, nemojte Nacrt vodiča posmatrati kao kontrolnu listu koju je dovoljno “čekirati”.

On je mnogo više metodologija za tumačenje AI akta nego katalog gotovih odgovora.

Ako se vaš sistem ne nalazi među navedenim primerima, pravo pitanje nije da li ste “van radara”, već da li njegova namena i način predstavljanja tržištu dovode do istih ili sličnih rizika kao kod sistema koji jesu navedeni.

A to nas vraća na početak priče.

Možda najveća promena koju donosi Nacrt vodiča nije u tome što uvodi nova pravila, već što prvi put jasno pokazuje da će način na koji govorimo o veštačkoj inteligenciji biti gotovo jednako važan kao i način na koji je razvijamo.