Ne treba nam ‘naš ChatGPT’: AI revolucija za regionalne jezike dolazi iz Srbije!

AI scena u regionu poslednjih godina uglavnom se svodila na korišćenje globalnih modela i razvoj proizvoda iznad tuđe infrastrukture. Međutim, projekti poput ModernBERTić-a pokazuju da Balkan ipak može da bude mnogo više od tržišta za implementaciju stranih AI alata. Iza ovog open-source modela za južnoslovenske jezike stoji Mitar Perović, osnivač startapa Recrewty, koji veruje da region još uvek ima priliku da izgradi sopstveni AI sloj – od podataka i benchmark-a do specijalizovanih modela za lokalne jezike i kontekst.

U razgovoru za Netokraciju, Mitar govori o tome zašto je razvoj enkoder modela za BCMS jezike strateški važniji nego što trenutno deluje, kako izgleda trenirati model na 60 milijardi tokena praktično kao “AI-augmentovani tim od jednog čoveka”, ali i zašto region rizikuje da zauvek ostane samo korisnik stranih AI sistema ukoliko ne počne ozbiljnije da ulaže u sopstvenu ML infrastrukturu, otvorene dataset-ove i istraživanje.

Pričali smo i o tome koliko su domaćoj AI zajednici danas potrebni transparentnost i deljenje znanja i zašto BalkanBench pokušava da postane neutralni standard za evaluaciju modela na srpskom i srodnim jezicima. Mitar nam je detaljnije objasnio zašto smatra da najveća prilika regiona možda nije u pravljenju “našeg ChatGPT-ja”, već u izgradnji specijalizovanih AI sistema zasnovanih na jedinstvenim lokalnim podacima koje globalni modeli nemaju.

Kako je nastala ideja za ModernBERTić i koliko je bilo teško okupiti tim i resurse za jedan ovako ambiciozan projekat?

Mitar: Krenuli smo od enkoder modela kao apsolutnog prioriteta, što je strateška odluka koja ide protiv trenda. Dok je AI industrija usmerena na generativne modele i chatbotove, mi smo videli da enkoderi imaju neposrednu produkcionu primenu, da su jeftini za korišćenje i da su upravo taj sloj koji najviše nedostaje za naše jezike. Validacija te odluke došla je brzo: na bazi ModernBERTić-a u Recrewty-u smo već izgradili tri specijalizovana modela koji napajaju funkcionalnosti naše HR platforme, funkcionalnosti koje pre ovog modela nisu bile izvodljive.

Što se tima tiče, za pretraining baznog modela, prikupljanje korpusa od 60 milijardi tokena, dizajn pipeline-a, distribuirani trening na 64 A100 GPU-a i evaluaciju, tim sam bio ja sam, naravno uz Claude-a kao neizostavnog kolegu. Mislim da je već dokaz i preview budućnosti koje smo svesni, da AI augmentovani timovi mogu sada da ‘napadaju’ dosta ambicioznije softverske projekte.

Drugi krak projekta, BalkanBench i adaptacija evaluacionih podataka, imao je drugačiju vrstu tima. Tu je uz koleginicu i mene, radilo pet ljudi, uključujući anotare i saradnike iz regiona, jer kvalitetan benchmark ne može da se napravi samostalno, traži pažljivu ljudsku superviziju i lingvističku ekspertizu.

ModernBERTić je trenutno predstavljen kao najbolji encoder model za južnoslovenske jezike. Zašto vam je bilo važno da model bude otvoren za zajednicu i komercijalnu upotrebu?

Mitar: Za nas je to bio i strateški i kulturološki potez. Strateški, jer otvoreni razvoj je danas dokazani način da se gradi ozbiljan AI brend. SAD i Kina su jasno pokazale da kompanije koje grade u javnosti, objavljuju benchmark-e, modele i tehničke izveštaje, dobijaju nešto što se novcem ne kupuje, a to je tehnički kredibilitet, poverenje i podsticaj na dalju saradnju.

Mi smo svesno krenuli istim putem: prvo smo objavili evaluacioni benchmark, zatim smo trening vodili javno, i na kraju smo bazni model pustili pod permisivnom licencom. To je redosled koji nije slučajan, jer kredibilitet se gradi otvaranjem prema kritici, ne marketinškim saopštenjima. Posebno nam je važno da takva praksa postane standard u regionu, gde transparentnost u tehnologiji još uvek nije norma.

S druge strane, otvoreni bazni model ne ugrožava poslovni model, već ga omogućava. Naša komercijalna ponuda nije ModernBERTić sam po sebi, nego specijalizovani modeli izgrađeni nad njim, prilagođeni konkretnim domenima poput HR-a, semantičke pretrage i ekstrakcije iz dokumenata.

U planu su i specijalizovani dekoder modeli koji će dopuniti enkoder ponudu. Pored toga, uvodimo i servisnu liniju, namenjenu kompanijama i državnim institucijama koje žele sopstvene varijante ModernBERTić-a, specijalizovane za njihove podatke i procese, sa kompletnim puštanjem u produkciju. To je deo ponude koji konkretno koristi otvorenu bazu, jer klijenti imaju puno poverenje da znaju šta dobijaju, kako je trenirano i pod kojim uslovima.

Koliko domaćoj AI zajednici danas nedostaje transparentnosti i deljenja znanja, posebno kada govorimo o treniranju modela i radu sa datasetovima?

Mitar: Nedostaje suštinski, i to je trenutak u kojem svi mi moramo da napravimo odluku u kom pravcu region ide. Postoji važna razlika koja se kod nas često meša. Jedno je AI inženjering, što znači koristiti gotove API-je foundation modela (OpenAI GPT, Anthropic Claude itd.) i graditi proizvode iznad njih.

Drugo je pravi machine learning rad, što znači agregirati i čistiti skupove podataka, donositi odluke o arhitekturi, training/finetuning modela, raditi sopstvenu evaluaciju i razumeti šta se zaista dešava unutar modela. Ova druga vrsta rada zahteva potpuno drugačiji nivo dubine, znanja i transparentnosti.

Trenutno region pretežno radi prvu stvar. To samo po sebi nije problem, jer i kvalitetan AI inženjering pravi vrednost. Problem nastaje kada se to predstavlja kao istraživanje i kada cela scena propusti priliku da razvije sopstveni ML kapacitet. Ako ostanemo isključivo na nivou pozivanja stranih API-ja, kaskaćemo trajno. Svaka inovacija će dolaziti spolja, mi ćemo biti samo distributeri.

Zato su priče oko pravog ML rada toliko važne. Treba nam više objavljenih korpusa, javnih training logova, technical reportova, post-mortema o tome šta nije radilo, naučnih radova na konferencijama. Sve ono što omogućava sledećoj generaciji istraživača da krene odakle smo mi stali, umesto od nule.

Šta su najveći problemi kada pokušavate da objektivno merite performanse AI modela za srpski i srodne jezike?

Mitar: To je upravo problem koji rešavamo BalkanBench-om. Trenutno smo u situaciji da svako tvrdi da njegov model dobro radi na našim jezicima, a niko nema neutralno mesto gde se to može proveriti. Bez toga AI scena ostaje u svetu utisaka i marketinških tvrdnji, a ne stvarnih performansi.

BalkanBench je zamišljen kao otvoreni javni leaderboard na kojem se objektivno meri kako se svi modeli, regionalni i globalni, ponašaju na srpskom, hrvatskom, bosanskom i crnogorskom. U prvoj fazi smo se fokusirali na enkoder modele, gde je već napravljeno sistematsko poređenje. Sledeća faza, koja je u pripremi, donosi evaluacione korpuse za generativne modele i rangiranje najpopularnijih LLM-ova, od GPT-a i Claude-a do Gemini-ja i lokalnih varijanti.

Metodološki, najveći izazov je što mašinski prevod engleskih benchmark-a ne valja sam za sebe, jer prenosi i kulturne pretpostavke i sintaksičke artefakte engleskog. Pokušaj da se sve napravi ručno je drugi ekstrem, jer je preskupo i presporo za jezike sa našom veličinom tržišta.

Naš pristup, dokumentovan u radu na LoResLM workshop-u EACL konferencije, koristi najbolje dostupne foundation LLM-ove za prvi sloj prevođenja, a zatim ljudsku superviziju anotara za korekciju, kulturnu adaptaciju i osiguranje kvaliteta, uz još jedan korak automatske postkorekcije. Ta kombinacija nam daje skalabilnost mašinskog rada i preciznost ljudskog rada.

Drugi problem je kulturna specifičnost. Mnogi zadaci u jezičkim benchmark-ima testiraju opšte znanje, ko je premijer, kako se zove glavni grad, koje su lokalne reference. Globalni modeli ovde haluciniraju ili daju engleski-centrične odgovore, a benchmark mora to da meri. Treći problem je infrastruktura održavanja. Engleski benchmark-i imaju iza sebe Stanford, Allen AI i Google DeepMind.

BalkanBench mora da postoji kao otvorena regionalna inicijativa, jer nijedna pojedinačna kompanija ne može i ne treba da ga gradi sama. Zato je BalkanBench objavljen pod permisivnom licencom sa pozivom i akademiji i industriji da doprinose dodatnim evaluacionim setovima.

Koliko je danas infrastruktura i dalje ‘usko grlo’ za ozbiljan AI razvoj u regionu?

Mitar: Infrastruktura jeste usko grlo, ali ne na način kako se obično misli. Problem uskoro prestaje biti toliko fizički hardver koliko nedostatak incentive tj. strukture koja bi tim hardverom omogućila ozbiljan istraživački rad iz regiona.

Konkretan primer, za pretraining ModernBERTić-a koristio sam 64 NVIDIA A100 GPU-a. To je u trenutku treninga bilo dve trećine ukupnog kapaciteta Nacionalne AI platforme u Kragujevcu. Pozitivna vest je da Srbija ovaj problem prepoznaje i pokušava sistemski da ga reši. Najavljeno proširenje kragujevačkog centra sa 640 NVIDIA GraceHopper superčipova do kraja 2026. godine je ozbiljan iskorak. Kada se to realizuje, region će po prvi put imati infrastrukturu uporedivu sa srednjim evropskim klasterima, i to je inicijativa koju treba pozdraviti.

Posledica je da svaki ozbiljan istraživački projekat iz regiona mora da prolazi kroz strane infrastrukture i strane administrativne procese, što filtrira ko može da radi. Zato su potrebni transparentni programi alokacije računarskog vremena za istraživače i startape, partnerstva sa univerzitetima, javni saziv za projekte sa ozbiljnim ML komponentama i operativna podrška koja domaćim timovima objašnjava kako se uopšte koristi HPC infrastruktura. Bez te softverske komponente oko hardvera, i 640 GraceHopper čipova ostaće nedovoljno iskorišćeni.

Da li misliš da region Balkana trenutno propušta priliku da sistemski razvija jezičke tehnologije?

Mitar: Sistemski kasnimo, ali prozor da uhvatimo korak sa globalnim trendovima je još uvek otvoren. Kasnimo, jer dok globalne kompanije treniraju modele pete i šeste generacije, kod nas se još uvek vodi debata o tome zašto bi nam uopšte trebao sopstveni AI razvoj. Korisničke navike se već formiraju oko stranih API-ja, a to znači da svakim danom sve više podataka, poslovne logike i učenja migrira u tuđu infrastrukturu nad kojom nemamo kontrolu.

S druge strane, prozor postoji, i to zbog konkretne strukturne prednosti koju imamo. Naša prava prilika nisu modeli, već podaci. Mislim na arhive Radio-televizije Srbije i drugih javnih servisa u regionu, sa decenijama audio, video i tekstualnog materijala na našim jezicima. Mislim na Narodnu biblioteku Srbije, Maticu srpsku i njihove ekvivalente u Crnoj Gori, Hrvatskoj, i Bosni. Mislim na sudsku i administrativnu dokumentaciju, novinske arhive, akademske radove i regionalnu kinematografiju. Sve to su resursi koje niko van regiona nema niti može da reprodukuje.

Strategija koja sledi iz toga je jasna. Ne treba da pravimo “naš ChatGPT” od nule, jer to ne možemo da pobedimo. Treba da uzmemo najbolje dostupne otvorene modele i da ih kontinualno pretreniramo i fino podešavamo nad našim jedinstvenim korpusima. To je nešto što GPT ili Claude ne mogu da postanu jednostavnim povećanjem broja parametara, jer im nedostaje upravo onaj kulturološki i jezički kontekst koji mi imamo.

ModernBERTić i BalkanBench su konkretni pokušaji da pokažemo da je to izvodljivo. Sledeći logičan korak, ako region ima volju da ga preduzme, je sistemska valorizacija postojećih arhiva i biblioteka kao AI resursa.

Gde vidiš najveći potencijal primene modela poput ModernBERTić-a u domaćim proizvodima i servisima?

Mitar: Upravo je u tome i ključ. Enkoderi nisu deo medijskog hype-a, a to je istovremeno njihova najveća prednost. Dok se priča vodi oko chatbotova, prava produkciona infrastruktura velikih AI sistema oslanja se upravo na enkodere. Na primer, jedan vodeći open-source enkoder, preuzima se oko 258 miliona puta mesečno sa Hugging Face-a, što je više od bilo kog generativnog modela. To nije slučajnost, to je odraz toga ko zaista radi posao u produkciji.

Za naše tržište potencijal je ogroman jer ovaj sloj jedva da postoji. Konkretni use case-ovi:
E-commerce pretraga na BCMS jezicima je danas u najgorem stanju u Evropi. ModernBERTić omogućava semantičku pretragu koja razume kontekst, a ne samo tačan match reči. Javna uprava i pravo, gde ogroman korpus dokumenata na našim jezicima čeka da bude pretraživ.

Mediji i fact-checking, gde enkoder povezuje nove tvrdnje sa već proverenim izvorima. HR i edukacija, što je domen u kojem smo već u Recrewty-u izgradili tri specijalizovana modela nad ModernBERTić modelom. Korisnička podrška, gde klasifikacija i rangiranje na lokalnim jezicima omogućavaju automatizaciju koja danas zahteva ljudski rad.

Sve ovo se danas može graditi jeftino i lokalno, bez slanja podataka u inostranstvo. Enkoderi su tiho pogonsko gorivo AI revolucije, i upravo zato je strateški važno da postoji kvalitetan enkoder za naše jezike.

Kada biste danas imali institucionalnu podršku bez većih ograničenja, šta bi bio sledeći veliki korak za AI razvoj na srpskom jeziku?

Mitar: Sledeći korak je mali generativni jezički model, takozvani Small Language Model ili SLM, specijalizovan za BCMS. Konkretno, adaptacija najboljih dostupnih otvorenih SLM-ova nad korpusom od 60 milijardi tokena koji sam već izgradio za ModernBERTić i specijalizovanim datasetovima koje posedujemo.

Cilj je model koji odlično razume naše jezike i regionalni kulturni kontekst, koji svako može da pokrene lokalno na svom laptopu ili čak na telefonu, bez slanja podataka u inostranstvo i bez zavisnosti od stranih API-ja. To je strateški drugačiji pristup od “našeg ChatGPT-a”. Ne pokušavamo da konkurišemo veličinom, već specijalizacijom i lokalnošću.

SLM pristup je važan iz tri razloga. Prvo, izvodljiv je sa resursima koji su realno dostupni regionu, za razliku od najvećih frontijerskih modela. Drugo, omogućava potpunu privatnost podataka, što je presudno za javnu upravu, zdravstvo i pravosuđe. Treće, postavlja nas u istu kategoriju sa najnovijim svetskim trendom, gde i kompanije poput Mete, Microsofta i Mistral-a sve više ulažu u manje, specijalizovane modele.

Sa pravom institucionalnom podrškom, vizija je šira od pojedinačnog modela. To znači sistemsko otvaranje arhiva javnih servisa i biblioteka kao AI resursa, sa odgovarajućim licencnim okvirom. To znači koordinaciju između istraživačkih grupa u Beogradu, Novom Sadu, Zagrebu, Sarajevu i Podgorici, jer su naša tržišta pojedinačno mala, a zajedno čine kritičnu masu.

Fokus AI industrije prešao je na velike generativne modele. Da li misliš da se zbog toga zanemaruje razvoj kvalitetnih infrastruktura za manje jezike?

Mitar: Da, i to je istorijski očekivan obrazac. Pažnja prati spektakularno, a infrastruktura se gradi u tišini. Kada se pojavila električna struja, svi su pričali o sijalicama. Niko nije pričao o transformatorima i prenosnoj mreži, a bez njih sijalica ne svetli.

U AI svetu trenutno se priča gotovo isključivo o velikim generativnim modelima, jer su impresivni i lako razumljivi laičkoj publici. Pritom, gotovo svaki ozbiljan generativni proizvod u produkciji oslanja se na enkodere za pretragu i RAG sisteme, na vektorske baze, na evaluacione benchmark-e i na specijalizovane manje modele za konkretne zadatke. Taj sloj je realno fundamentalan, ali se ne pojavljuje na naslovnicama.

AI infrastruktura nije konkurencija velikim LLM-ovima, ona je komplementarna i nužna. Ako region investira samo u “korišćenje” stranih LLM-ova, a ne i u sopstveni AI sloj, gradimo na tuđem temelju. Posledica je predvidljiva. Svaki sledeći proizvod biće taoc cenovnih politika, geopolitičkih odluka i prioriteta stranih kompanija koje naš jezik ne smatraju strateški važnim.

Kako vidiš ulogu domaćih startapa u narednih nekoliko godina, možemo li postati relevantni kreatori AI tehnologije za specifične niše i jezike?

Mitar: Mogu reći da smo, narodski rečeno, u situaciji “sreća u nesreći”. Zaostajemo za engleskim AI landscape-om, ali upravo to zaostajanje znači da imamo ogroman prostor za inovaciju koji u engleskom svetu više ne postoji. Svaki ozbiljan ML problem za naše jezike je, manje ili više, neistraženo polje. To je teško i frustrirajuće, ali je istovremeno i istorijska prilika za one koji odluče da se time bave ozbiljno.

Konkretan primer iz našeg iskustva, tokom rada na ModernBERTić-u i specijalizovanim modelima, suočili smo se sa tim da ne postoji nijedna gotova infrastruktura za kvalitetno označavanje podataka na BCMS jezicima. Morali smo da gradimo sopstvenu data labelling platformu, da učimo koje tehnike garantuju visok kvalitet anotacije, kako se pišu instrukcije za anotatore, kako se mere međusobna saglasnost i šta sve može da pođe naopako u procesu.

To je znanje koje je u engleskom svetu kodirano u stotinama radova i komercijalnih alata, a u našem svetu jedva da postoji. Svaki sledeći tim u regionu, koji bude pravio sopstvene modele, suočiće se sa istim problemom. Zato je to znanje koje treba sistematski da gradimo i delimo regionalno.

To se odnosi na sve slojeve foundational rada: data infrastrukturu, anotaciju, evaluaciju, fine-tuning pipeline-e, reinforcement learning, alignment tehnike, itd. Sve to su discipline koje moramo da gradimo lokalno, jer niko drugi to neće da uradi za naše jezike i naš kontekst.

Šta to znači za regionalne startape i istraživače u sledećih nekoliko godina. Ako ostanemo isključivo na sloju AI inženjeringa, pozivanju stranih API-ja i pravljenju omotača oko tuđih modela, ostajemo trajno konzumenti tuđe tehnologije.

Ali ako preuzmemo ulogu kreatora, makar u nišama gde imamo strukturnu prednost, region može da postane relevantan globalni igrač u sloju regionalnih i specijalizovanih jezičkih tehnologija. Ne moramo da pravimo “naš ChatGPT”, treba da budemo najbolji u stvarima koje veliki igrači ne smatraju prioritetom.

Na nama je da inspirišemo region da uradi sledeće: da objavljuje više otvorenog koda i naučnih radova, da gradi i deli infrastrukturu za podatke i evaluaciju, da sarađuje kros-regionalno.

Koji su vaši planovi za budući period?

Mitar: Gradimo dalje ka našoj viziji da Recrewty bude sloj inteligencije iznad vaših podataka, tj. sloj koji vam pomaže u donošenju odluka, a koji ostaje u potpunom vlasništvu i pod kontrolom korisnika. To znači AI infrastruktura bez slanja podataka u inostranstvo, bez zavisnosti od stranih API-ja, sa modelima specijalizovanim za vaš domen i vaše procese. Verujemo da je to budućnost ozbiljnog korporativnog AI-ja, naročito u sektorima poput HR-a, javne uprave, finansija i pravosuđa, gde privatnost i kontrola nisu opciono nego presudno.

Konkretno, fokus narednog perioda je na tri pravca:

Prvi je proširenje BalkanBench-a, i to da sledeća faza donosi evaluacione korpuse za generativne modele i sistematsko testiranje LLM-ova na našim jezicima, sa javnim leaderboard-om gde svako može da vidi koji model najbolje radi na BCMS-u. Cilj je da BalkanBench postane neutralno, regionalno vlasništvo, a ne projekat jedne kompanije. Pozivamo i druge istraživače, kompanije i institucije da se uključe.

Drugi pravac je razvoj malog generativnog jezičkog modela za BCMS, o kojem smo već govorili. To je sledeći logičan korak posle ModernBERTić-a i predstavlja prelazak iz enkoder sveta u generativni svet, uz zadržavanje istih principa: lokalno pokretanje, otvorena licenca, specijalizacija za naš kontekst.

Treći pravac je proširenje na druge modalitete i dodatne specijalizovane modele. Tekstualni enkoder je samo početak. Audio, slika, multimodalne kombinacije, sve su to slojevi koje treba pokriti za kompletan AI stack za naše jezike. Paralelno, nastavljamo da gradimo specijalizovane modele za konkretne domene u okviru Recrewty platforme, jer upravo ta specijalizacija je ono što pretvara baznu tehnologiju u realnu poslovnu vrednost.

Šire gledano, želim da nastavim da radim na preseku istraživanja i industrije. Region ima ozbiljan inženjerski kapacitet, ali nedostaju primeri da je moguće raditi ozbiljan istraživački rad odavde. Nadam se da ovaj rad može da bude jedna takva referenca, i da će se broj sličnih projekata u regionu drastično povećati u narednim godinama.