All rights reserved verifikacija odgovora, generativni jezički modeli, semantička pretraga, biomedicinski tekstovi Veliki jezički modeli su napravili revoluciju u oblasti obrade prirodnih jezika, omogućivši vrhunske rezultate za većinu zadataka uz znatno manje resursa. Generativni jezički modeli (LLaMA, GPT...), koji su dostupni za upotrebu i krajnjim korisnicima, imaju potencijal da transformišu način rada krajnjeg korisnika povećavajući njegovu produktivnost, kao i način na koji pronalazi informacije. Premda su takvi modeli trenirani na velikim jezičkim bazama, u određenim situacijama dolazi do pojave halucinacija, naročito (1) kada korisničko pitanje nije adekvatno formulisano i (2) kada, u vezi sa korisničkim pitanjem, nemaju dovoljno konkretnih podataka na kojima su do tada trenirani. Budući da u najvećem broju slučajeva odgovori zadovoljavaju sva sintaksička, semantička, ali i pragmatička pravila određenog jezika, a nisu činjenično utemeljeni, ovo predstavlja svojevrsnu opasnost prilikom korištenja ovih modela, naročito u konkretnim oblastima poput biomedicine. Projekat Verif.ai ima za cilj da razvije sistem koji bi proveravao tačnost činjenica u odgovorima iz biomedicinskog domena koje daju generativni jezički modeli i potkrepljivao odgovore odgovarajućim referencama, čime bi se značajno smanjio rizik od širenja netačnih ili obmanjujućih informacija. Verif.ai bi dodatno smanjio potrebu za ručnim proveravanjem informacija, unapredio efikasnost i smanjio operativne troškove. Davanjem proverenih i pouzdanih odgovora, sistem će povećati poverenje javnosti u generativne modele, što će dalje voditi osnaživanju odnosa između korisnika i članova zajednice koja se bavi veštačkom inteligencijom. Ljajić, Adela Košprdić, Miloš Bašaragin, Bojana Medvecki, Darija Milošević, Nikola https://unilib.phaidrabg.rs/o:4195 Verif.ai: Napredni sistem verifikacije odgovora generativnih jezičkih modela u biomedicinskom domenu info:eu-repo/semantics/conferenceProceedings Odeljenje tehničkih nauka SANU, Matematički institut SANU application/pdf 1002143 bytes srp 2023 Knjiga apstrakata, Konferencija Veštačka inteligencija