Edge računarstvo: Uputstvo za upotrebu i korisni saveti stručnjaka

Edge računarstvo: Uputstvo za upotrebu i korisni saveti stručnjaka

Sa Pavlom Dragišićem i Nenadom Petrovićem razgovarali smo o svemu što vas je zanimalo o 'edge computing' paradigmi i njenoj primeni kroz različite oblasti informacionih tehnologija.

Iako nije u pitanju novi koncept, edge računarstvo (edge computing) je poslednjih godina jedna od aktuelnijih tema u svetu visoke tehnologije. Tome je doprinelo značajno poboljšanje alata i resursa dostupnih “na ivici”, a rezultat je rastuće potražnje za bržom obradom podataka, manjom latencijom i unapređenom efikasnošću u upravljanju aplikacijama koje zahtevaju veliki broj podataka.

Ukratko objašnjeno, primena ove tehnologije omogućava obradu podataka bliže mestu na kojem su ti podaci kreirani ili korišćeni, ne oslanjajući se na bilo kakvu centralizovanu lokaciju, kao što je data centar. Lokalna obrada podataka na samim uređajima ili geografski bliskim serverima, značajno ubrzava izvršenje zadatih komandi, povećavajući efikasnost pomenutih aplikacija, zasnovanih na velikim količinama podataka.

Iz tih razloga, doprinosi razvoju brojnih industrija i oblasti ljudskog delanja. Na primer, u medicini oslanjanje na ovu tehnologiju dobrinosi praćenje pacijenta u realnom vremenu, ubrzanje procesa dijagnostike i efektivnije rešavanje problema.

A da bismo bolje razumeli značaj edge računarstva, stupili smo u kontakt s dvojicom stručnjaka iz ove oblasti  – Pavlom Dragišićem i Nenadom Petrovićem – kako bi nam pružili što bolju ekspertizu i primere njegove primene u različitim oblastima kompjuterskih nauka.

Šta je tačno edge computing?

Na početku razgovora, zamolili smo naše sagovornike da nam podrobnije, a opet na jednostavan način, predstave značenje edge računarstva. Pavle Dragišić, softverski inženjer, koji u jednoj domaćoj IT kompaniji radi na razvoju IoT edge kompjutera, prvo je objasnio sam pojam edge:

Da bismo razumeli šta je ‘edge computing’, potrebno je prvo objasniti značenje pojma ‘edge’. Telekomunikacione mreže možemo posmatrati kroz postojanje dva kraja: izvora informacija (taj izvor mogu biti različiti tipovi senzora, kamere, mikrofoni) i ‘cloud’ serverske aplikacije, koja obavlja prihvat, analizu, skladištenje i prikaz tih podataka.

Transport informacija između ove dve strane obavlja se telekomunikacionim kanalom. Izvor informacija predstavlja krajnu tačku, ivicu ili takozvani ‘edge’ jedne ovakve telekomunikacione mreže.

Realizaciju računarske snage (‘computational power’) na toj strani, odnosno strani gde se odvija izvor informacija koja ima za cilj da vrši inicijalnu obradu, odlučivanje i nakon toga dalje slanje prethodno obrađenih podataka ka ‘cloud’-u predstavlja ‘edge computing’.

Nadalje, Pavle je istakao kako se edge computing može odvijati u takozvanim edge device-ima i edge serverima. Prema njegovim rečima, edge device predstavljaju uređaje najčešće pokrenute Linux operativnim sistemom, koji s jedne strane imaju interfejse ka izvorima informacija, a s druge strane imaju povezanost ka aplikativnim cloud serverima.

Nasuprot tome, edge serveri predstavljaju klasične servere koji se fizički nalaze blizu izvora informacija. Često je u pitanju uređaj koji ima ograničene resurse (constrained-device) po raznim pitanjima: procesorske snage, memorijskog prostora, pa je hardver značajan ograničavajući faktor. Da bi nam bolje predočio njihovu funkcionalnost, Pavle je iskoristio primer ovih servera koji se često primenjuje u poljoprivredi:

U nekim primenama, koje se posebno sreću u poljoprivredi, ‘edge’ računari su napajani baterijski tako da njihova energetska efikasnost predstavlja važan faktor. Ovi uređaji su često povezani na Internet putem kanala ograničenih performansi kao što su mobilne ili satelitske mreže.

Inače, od počeka svoje karijere Pavle se bavi ovom oblašću, a prvi projekat na kojem je radio bio je IoT Edge Computer koji za cilj ima da omogući korisnicima akviziciju podataka sa različitih tipova uređaja, njihovu obradu, vizuelizaciju, slanje na cloud. A, koja ideja stoji iza ovog projekta, ukratko je objasnio na sledeći način:

Sam koncept je bio jedinstven, jer je u određenim korisničkim slučajevima radio kao hibrid ‘edge’ i ‘cloud’ funkcionalnosti. U okviru projekta SOFIS radio sam na ‘edge’ aplikaciji za prikupljanje podataka sa solarnih panela kroz radio senzorsku mrežu, njihovu obradu, agregaciju i slanje na cloud aplikaciju gde je pomoću ML-a vršeno predviđanje proizvodnje i dijagnostika.

Na trenutnoj poziciji u jednoj IT kompaniji, Pavle učestvuje na razvoju IoT platforme koja nalazi primenu i na edge-u i na cloud-u, a angažovan je i na razvoju biblioteke Poco C++ koja je osnova IoT framework-a i mnogih edge i cloud IoT uređaja i aplikacija.

Širok spektar oblasti i industrija u kojima je zastupljena edge paradigma

A kako zapravo pisanje koda i distribucija podataka u okviru edge računarstva poboljšavaju performanse usluga prvobitno hostovanih na platformama u cloud-u, predstavio nam je Nenad Petrović, asistent na Elektronskom fakultetu u Nišu, naučnik i konsultant iz oblasti mašinskog učenja u kompaniji Syrmia.

On, pre svega, navodi da su kod tradicionalnog cloud-a, identifikovana dva glavna problema koji su poslužili kao pokretači razvoja edge računarstva:

Prvo, obrada svih prikupljenih podataka na cloud-u zahteva upload ogromne količine podataka sa lokalnih senzorskih i ostalih uređaja. U tom slučaju, bez obzira na ogromnu procesorsku moć cloud-a, dolazi do pada performansi usled intenzivnog opterećenja mreže.

Prema tome, prebacivanje obrade podataka bliže samim izvorima podataka se pokazalo kao efikasno u prevazilaženju ovog problema.

S druge strane, imajući u vidu aktuelne inicijative zaštite privatnosti i osetljivih ličnih podataka (GDPR kao jedan od primera), mnogobrojne institucije (od zdravstva i vojske do bankarstva) su primorane da izbegavaju slanje osetljivih informacija izvan svojih fizičkih opsega.

Uzevši u obzir gorenavedeno, edge computing pruža dodatnu vrednost, bilo kompletnom obradom osetljivih podataka uz pomoć lokalnih uređaja ili slanjem podataka za dalju obradu na cloud u anonimizovanom obliku, pri čemu se sam proces anonimizacije obavlja na edge-u.

Nenad je trenutno u završnoj fazi pripreme doktorata u oblasti primene ontologija i semantičkih tehnologija za razvoj domenski-specifičnih inteligentnih sistema, a kao što smo već napomenuli, skoro šest godina je zaposlen na Elektronskom fakultetu. Pored toga, radi i za jednu domaću kompaniju, na projektu koji se najviše odnosi na razvoj sistema visokih performansi za izvršenje dubokih neuronskih mreža.

Tokom svoje karijere, imao je prilike da direktno i indirektno učestvuje u različitim evropskim projektima, koji su obuhvatali primenu edge computing-a, najviše u oblasti robotike i razvoja industrije 4.0.

Što se robotike tiče, on navodi da kod mobilnih robota figurišu različiti senzorski podaci – od merenja temperature i LiDAR-a do kamere. Kod industrijskih scenarija, neophodan je odgovor u realnom vremenu, tako da edge computing značajno doprinosi ovom aspektu. Sve to, pojasnio je na konkretnim primerima:

Recimo, prenos velikog broja slika u sekundi na cloud radi detekcije objekata (u ovom domenu) nema praktičnu vrednost, s obzirom da sam prenos podataka predstavlja usko grlo. U razmatrim slučajevima, imali smo većinu kritične obrade na samom Raspberry Pi single-board računaru koji upravlja robotom, dok se cloud server koristio za centralizovanu koordinaciju većeg broja robota, pri čemu su korišćeni za ovu svrhu lokalno izračunati ishodi analize.

Sa druge strane, na jednom kasnijem projektu smo imali kao studiju slučaja UWB sistem za lokalizaciju u zatvorenom industrijskom okruženju. Izračunavanje pozicije ‘tag’-a na osnovu prikupljenih podataka od strane nekoliko čvorova obavljeno je oslanjajući se na edge uređaj – Raspberry Pi i u ovom slučaj, što je omogućilo lokalizaciju objekata približno u realnom vremenu, ali i aktivaciju kontekstualnih menija (status i instrukcije o upotrebi proizvodnih mašina u bliskom okruženju).

Prednosti i mane: kada (ne)treba da zakoračimo ‘na ivicu’?

Pavle je istakao da edge računarstvo ne predstavlja univerzalno rešenje. Kako kaže, ono nije stvar mode ili trenda, već promišljenog inženjerskog pristupa. Prema njegovim rečima, edge je najbolje rešenje onda kada se primenjuje tamo gde treba, a to su situacije sa ograničenjima različitih vrsta:

Na primer, u slučajevima obrade i odlučivanja u realnom vremenu kašnjenje komunikacionih kanala često isključuje ‘cloud’ kao rešenje. Tada moramo primeniti ‘edge’ i pomiriti se sa ograničenjima i nedostacima koje on donosi. Za razliku od ‘cloud’ računara koji uživaju u blagodetima klimatizovanih ‘data’ centara sa redundantnim napajanjima i optičkim umrežavanjem edge računari mogu da se nađu u neprijatnim okruženjima.

Mislim da niko ne želi situaciju sa hiljadama ‘edge’ računara koji se nalaze razbacani u sred ničega, daleko od asfaltiranih puteva u koje treba da upiše nova verziju softvera, po snegu. Jasno je da implementacija ‘edge computing’-a podrazumeva dodavanje novih uređaja i njihovo umrežavanje sa ‘cloud’ sistemom, čime se povećava kompleksnost sistema.

Implementacija ‘edge computing’-a podrazumeva dodavanje novih uređaja i njihovo umrežavanje sa ‘cloud’ sistemom, čime se povećava kompleksnost sistema.

Po svemu sudeći, to zahteva dodatne angažmane oko problematike upravljanja tim uređajima, njihovom bezbednošću, potencijalnim ažuriranjem softvera. Najzad, Pavle ističe i da instalacije koje su povezane putem mobilnih mreža ili satelita zahtevaju i dodatne troškove prenosa podataka i održavanja mreže, koje centralizovni cloud sistemi nemaju.

Ipak, velika prednost je činjenica da je prikupljanje i obrada podataka na njihovom izvoru j brzo i predvidivo, jer ne zavisi od transportnog kašnjenja i raspoloživosti cloud aplikacije:

U sistemima kao što su energetski ‘smart grid’ sistemi kojima je brzina reakcije na događaje presudan faktor egde computing predstavlja logičan izbor.

Izmeštanjem obrade podataka sa centralizovane ‘cloud’ aplikacije na ‘edge’ postižu se značajni efekti: smanjenje protoka podataka na mreži, verovatnoća zagušenja mrežnih resursa kao i smanjenje opterećenja ‘cloud’ aplikacije takozvani ‘offloading’.

Značajna prednost je da ‘edge computing’ radi i kada cloud aplikacija nije dostupna, što omogućava redundantnost i smanjuje rizik od gubitka podataka.

Edge ili cloud, pitanje je sad!

Kao još jednu od prednosti edge računarstva, Nenad je dodao i pozitivan uticaj na životnu sredinu. Prema njegovim rečima, uzimajući u obzir da se sve veći deo obrade podataka u edge computing-u prebacuje na single-board računare i mikrokontrolere manjih dimenzija, ali i niske potrošnje, jedan od indirektnih benefita edge računarstva svakako jeste i doprinos očuvanju prirode:

Ne samo da se na ovaj način smanjuju potrebe za proizvodnjom i potrošnjom električne energije, nego se smanjuje i količina otpada koji potiče od digitalnih uređaja, što na duže staze, uz dodatne aktivnosti kao što su reciklaža, može značajno poboljšati više aspekata iz perspektive održivog razvoja i zaštite životne sredine.

Uzevši to u obzir, pretpostavili smo da bi bilo efikasnije i u skladu sa principima održivog razvoja, sve više se okretati edge computing-u. Zato smo Nenada pitali kako efikasno iskoristiti ovu paradigmu za poboljšanje performansi uz minimalne arhitektonske promene, na šta nam je on odgovorio na sledeći način:

Kontejnerizacija servisa i orkestracija kontejnera poprilično su doprineli ovom aspektu. Docker kao engine za kontejnerizaciju u sinergiji sa Kubernetesom kao moćnim orkestratorom omogućava fleksibilno upravljanje servisima, bilo da su u cloud-u ili na edge-u, bez maltene ikakvih arhitekturnih modifikacija.

Međutim, tokom ranih dana Kubernetesa, podrška za ‘edge’ uređaje je bila vrlo oskudna (pogotovu za ARM i slične, koji nisu tradicionalni x86/x64), pa je realizacija ovakvih rešenja zahtevala veliku količinu dodatnog koda, pa čak i razvoj pomoćnih radnih okvira.

Naši sagovornici ukazali su na širok spektar oblasti i industrija u kojima je zastupljena edge paradigma, a neke od njih su robotika, industrija 4.0, energetika, transport, poljoprivreda.

Nenadov master rad, na univerzitetu Politecnico di Milano, posvećen je ovoj temi, s tim što je umesto Kubernetesa koristio sam Docker-ov native orkestrator, Docker Swarm. Kao studiju slučaja, on je tom prilikom razmatrao zdravstveni informacioni sistem jedne italijanske državne ustanove, pri čemu su se kritični podaci o pacijentima prikupljali uz pomoć Raspberry Pi edge uređaja, a u anonimizovanom obliku dalje slali na cloud zarad obrade.

Govorivši na ovu temu Pavle je istakao da se edge računarstvo ne razlikuje po načinu pisanja koda od bilo koje druge oblasti softverskog inženjerstva. Međutim, napominje da u edge slučaju namena, performanse i multiplatformski rad većinski diktiraju izbor programskog jezika i framework-a. Zato je izdvojio dva karakteristična primera:

Kura framework baziran na Java programskom jeziku i macchina.io framework baziran na C++ programskom jeziku. Iako su to dva različita projekta, možemo da uočimo karakteristike koje oslikavaju koncepte edge alata i framework. Prva je apstrakcija hardvera i operativnog sistema koja podrazumeva rad na bilo kojoj platformi (Linux, Windows, MacOS, Android, ARM, x86).

Druga krakteristika je servisno orijentisana arhitektura (SOA). Za razliku od monolitnih, servisi su odvojene programske celine koje preko posebne vrste API-ja međusobno interaguju kroz zajednički resurs najčešće nazivan service registry. Na primer zamislimo edge računar koji ima zadatak da očitava temperaturu sa stotina senzora i da šalje na Cloud najveću vrednost.

Kako je dalje naveo, u servisnoj arhitekturi dva servisa rade nezavisno: senzorski servis i servis slanja na cloud, a podatak o najvećoj temperaturi razmenjuje se posredstvom servis registry-a. Time se, dakle, ostvaruje modularnost i enkapsulacija funkcija, često viđena kod cloud mikroservisnih ahitektura. Stoga, Pavlov zaključak je da se pravim izborom alata unificira arhitektura i na cloud-u i na edge-u.

Saveti za početnike i predviđanja za naredni period

Za kraj razgovora, Pavla smo pitali da nam predstavi veštine su potrebne da bi se savladala oblast edge računarstva, kao i koje su to industrije u kojima ona pronalazi najbolju primenu. On nam je odgovorio da su neke koje čine edge computing poznavanje merenja, akvizicije, obrade i skladištenje podataka, komunikacioni protokoli, keširanja, redovi, neuralne mreže, povezivanja na cloud, security, build sistemi, operativnih sistema i, naravno, programiranje:

Možemo se specijalizovati samo za neki njen segment. Međutim, da bismo bili uspešni, potrebno je posedovati uvid i u druge oblasti, što zahteva radoznalost, spremnost za svakodnevno učenje i strpljenje. RaspberyPi-a i neki Open Source projekat su dobar početak, da se na lak način uđe i istraži izazovna oblast edge computinga.

On zaključuje da se sam koncept egde computing-a sreće u raznim oblastima, da i mnoge imaju veliki potencijal, ali da ih je iz nekog razloga je masovnost primene zaobišla.

Potencijal za dalji razvoj ‘edge’ računarstva predstavljaju veliki jezički modeli, koji su otvorili ceo novi horizont u gotovo svim oblastima.

Kao čoveka od nauke, koji u svojim istraživanjima vidi daleko u budućnost, Nenada smo za kraj pitali upravo to – koja su njegova predviđanja za naredni period kada je u pitanju ova oblast. On smatra da, osim održivog razvoja, poboljšanja reciklabilnosti i povećanja stepena iskorišćenog materijala prilikom ovog procesa, potencijal za dalji razvoj predstavljaju veliki jezički modeli (Large Language Models – LLMs), koji su otvorili ceo novi horizont u gotovo svim oblastima:

Već sada su dostupne klijentske biblioteke za ultra popularni ChatGPT koje se mogu pokrenuti čak na minijaturnim Arduino mikrokontrolerima. Na ovaj način, edge computing dobija sasvim nove dimenzije, što otvara vrata velikom broju inovativnih primena, što sam razmatrao u mojim poslednjim konferencijskim radovima.

Prvo, pojedini veliki jezički modeli pokazuju izuzetnu moć generisanja koda, što značajno može automatizovati razvoj sistema i integraciju razlicitih edge uređaja. Osim toga, upotreba servisa kao sto je ChatGPT na edge uređajima daje mogućnost kompleksne analize senzorskih podataka i predikcija na osnovu njih.

Međutim, Nenad ističe činjenicu da većina LLM rešenja zahteva izuzetnu procesorsku moć, pa se trenutno u najvećem slučaju za ovu svrhu edge uređaji i dalje komuniciraju sa cloud infrastrukutrama. Prema tome, što se budućih razvoja tiče, on da se radi na optimizaciji postojećih LLM-ova, tako da se uz prihvatljive performanse izvršavaju i na edge uređajima, ali i specijalizovanog energetski-efikasnog hardvera za ovu svrhu.


Želiš da podeliš svoje mišljenje o ovoj temi? Komentari su otvoreni na našoj Facebook i LinkedIn stranici!

Popularno

Startapi i poslovanje

Vega IT ulaže €1.000.000 u osnivanje novog startapa Thrivea

Kao nastavak globalnog širenja poslovanja, kompanija Vega IT najavila je novi poslovni poduhvat. Ovog puta, rade na razvoju inovativnog HR SaaS rešenja pod imenom Thrivea.

Startapi i poslovanje

Anygo je novi servis za deljenje vozila u Beogradu putem aplikacije – čija se mreža širi

Na ulicama glavnog grada pojavili su se mali gradski Hyundai automobili sa natpisom 'Anygo car sharing'. Prestonica je konačno dobila jedan ovakav servis, a mi vam u intervjuu sa osnivačem startapa 'Anygo' otkrivamo kako on funkcioniše i na koji način je nastao.

Novost

Sve što treba da znate o aplikaciji Agencije za privredne registre

APR je uveo aplikaciju za sastavljanje i podnošenje finansijskih izveštaja za 2023. godinu, u skladu sa Zakonom o računovodstvu. Za vas smo izdvojili najvažnije pojedinosti vezane za njeno korišćenje.

Propustili ste

Startapi i poslovanje

Novi GapMinder Fond II s kapitalom od €80 miliona targetira i srpske startape!

GapMinder Ventures, VC fond koji je dosad primarno ulagao u tehnološke kompanije iz Rumunije, pokreće GapMinder Fond II, investicioni paket od 80 miliona evra koji će biti alociran i na širem istočnoevropskom regionu, pa tako i Srbiji i Hrvatskoj.

Tehnologija

SEO Spam: Kako su AI generisani advokati pokušali da prevare Netokraciju?

Razvojem veštačke inteligencije cyber kriminalci postaju sve veštiji, a napadi sve maliciozniji. Donosimo vam priču o tome kako smo uspeli da raskrinkamo jedan takav pokušaj ucene.

Office Talks Podcast

Da li će Bitcoin doći do $100.000?

Dolazak Bitcoin ETF-a izazvao je pažnju mnogih u Web3 svetu. Upravo o ovoj temi ali i o stanju na tržištu kriptovaluta, razgovarali smo u novoj epizodi podkasta sa Aleksandrom Matanovićem, direktorom i osnivačem kripto menjačnice ECD.rs.

Mobilno

Uživo praćenje prevoza u Beogradu od danas na Google mapama!

Google je u okviru svoje aplikacije mapa na pametnim telefonima omogućio praćenje javnog prevoza u realnom vremenu za našu prestonicu.

Digitalni mediji

Vladimir Kovač: Iz zajednice se regrutuje radna snaga, zato kompanije treba da budu deo događaja

Zrenjaninski hotel Vojvodina tradicionalno će krajem aprila ugostiti još jednu DigiTalk konferenciju i edukaciju posvećenu e-trgovini. O važnosti održavanja ovakvih događaja za kreativnu, digitalnu i IT zajednicu, razgovaramo sa jednim od osnivača i organizatora konferencije.

Sponzorisano

Bosch inženjerski centar u Srbiji zapošljava IT stručnjake koji razvijaju rešenja za auto industriju

Ubrzani razvoj 'automotive' industrije i okretanje u smeru sve veće integracije digitalnih rešenja, otvorile su jedno sasvim novo poglavlje za tehnološke i IT kompanije. Jedan od lidera u razvoju digitalnih rešenja za auto industriju je i kompanija Bosch, čiji IT sektor u Srbiji zapošljava više od 400 stručnjaka.