U dugogodišnjem iskustvu u softverskom inženjerstvu sada imamo inkorporirano i iskustvo izgradnje sistema zasnovanih na veštačkoj inteligenciji u vidu:
LLM rešenja – široka integracija velikih jezičkih modela za specifične potrebe klijenata. Kroz unificirani pristup, upravljanjem bezbednošću, usaglašenošću sa zakonodavstvom, monitoringom i komercijalizacijom, gradimo rešenja „ključ u ruke“.
RAG arhitekture – izrada sistema sa pretragom relevantnih podataka i dinamičkom generacijom odgovora zasnovanih na tim podacima. Ovaj pristup se može posmatrati kao način da se modelu omogući pristup spoljnim informacijama u trenutku kada generiše odgovor. Umesto da se model oslanja isključivo na znanje ugrađeno tokom treniranja, sistem pre generisanja, ili pri generisanju odgovora, zavisno od implementacije, pronalazi relevantne i neposredne izvore znanja i nudi ih modelu kao sadržaj za oblikovanje rezultata inferencije. U načelu, ovakav mehanizam može doprineti smanjenju izmišljanja činjenica (halucinacija), poboljšanju tačnosti u specifičnim domenima, kao i većoj transparentnosti i mogućnosti da se nad postojećim korpusima podataka izgradi inteligentna logika pretrage. RAG pristup omogućava korisnicima da bolje iskoriste sopstvene interne informacije, bez potrebe za obimnim ponovnim treniranjem modela, i pruža fleksibilnu osnovu za aplikacije kao što su pametni asistenti, sistemi za podršku, napredni pretraživači podataka i analitički alati.
Autonomni agenti – dizajn i implementacija agenata koji obavljaju zadatke, donose odluke i komuniciraju sa okruženjem. AG predstavljaju koncept u kome se modeli zasnovani na veštačkoj inteligenciji kombinuju sa mehanizmima za planiranje, izvršavanje i praćenje zadataka. Ideja je da se sistemu omogući da funkcioniše kao samostalna jedinica, sposobna da sagleda cilj, razloži ga na manje korake, bira optimalne akcije i prilagođava se promenama u okruženju. Ovakva rešenja mogu biti motivisana željom za automatizacijom složenih procesa, smanjenjem operativnog opterećenja ljudi, bržom reakcijom na promene ulaznih parametara obrade kao i mogućnošću da se obavljaju zadaci koji zahtevaju kontinuirano praćenje i odlučivanje. Primene se načelno mogu kretati od jednostavnih operativnih radnji, preko korisničke podrške i analitike, do orkestracije sistema koji zahtevaju visoku autonomiju, fleksibilnost i pouzdanost.
Lokalni modeli za inferenciju – postavljanje i optimizacija modela koji se izvršavaju lokalno, bez eksternih servisa, uz punu kontrolu nad podacima i performansama.
Ovako korišćeni modeli predstavljaju scenario pokretanja modela veštačke inteligencije (npr. jezičkih modela, ali i drugih) direktno na infrastrukturi korisnika — umesto da se koriste eksterni cloud servisi. Ovakav pristup omogućava potpunu kontrolu nad podacima i procesom obrade, smanjuje zavisnost od provajdera i često može doneti prednost u pogledu stabilne latencije, potpune kontrole podataka a time i privatnosti korisnik, kontrolu troškova i kontinuiranu dostupnost. Zbog trenutno niske cene korišćenja komercijalnih LLM ovakvo eksploatisanje lokalnih modela je trenutno retkost osim u istraživanjima, ali bi vremenom mogli postati kritičan deo infrastrukture zbog poslovne sigurnosti.
Prilagođavanje modela (fine-tuning postojećeg modela) – najkompleksini pristup koji je u našoj ponudi. Kako je treniranje modela izuzetno kompeksan proces, a RAG nekada ne može ispuniti dovoljno dubok uticaj na model kako bi ovaj postao idealno podešen određenoj upotrebi, u mogućnosti smo da ponudimo saradnju u ovom vrlo delikatnom pristupu prilagođavanju modela određenoj svrsi, koji predstavlja sredinu između RAG pristupa i treniranja novog modela. Ovaj pristup (fine-tuning) zahteva veliku meru angažovanja kako bi se ispravno pripremili podaci za obradu i kako bi se pravilno izabrao optimalan postojeći model i ceo proces pravilo konfigurisao za ovu dodatnu obradu.
Ovaj skup tehnologija omogućava nam da klijentima pružimo rešenja koja su efikasna, bezbedna i prilagođena potrebama savremenog digitalnog okruženja, kako bi oni mogli održati konkurentnost u uslovima sve izraženije proliferacije sistema zasnovanih na veštačkoj inteligenciji — ali bez mistifikacije, ponekada i neosnovanog optimizma, kao i nerealnih očekivanja da ovi sistemi već sada mogu zameniti ljude u poslovima dubokog razumevanja, rezonovanja i zaključivanja, koja često proističu iz nedovoljnog poznavanja ove tehnologije kao i izostanka kritičkog pogleda na istu.