Kas yra RAG? Išsamus paaiškinimas apie paieškos papildytą generavimą

RAG (Retrieval-Augmented Generation) — tai dirbtinio intelekto architektūra, kuri leidžia kalbos modeliui (LLM) atsakyti ne tik iš savo apmokytų duomenų, bet ir iš realaus laiko išorinių dokumentų bei žinių bazių.

Standartinis kalbos modelis — tarsi ekspertas, kuris egzaminą laiko uždaromis knygomis. Jis žino tik tai, ką išmoko prieš tam tikrą datą. Jei jūsų įmonė praėjusį ketvirtį atnaujino kainoraštį, sudarė naują sutartį ar pristatė naują produktą — modelis apie tai nieko nežino.

RAG tai pakeičia: modelis dabar laiko egzaminą su atvirų knygų teise. Prieš atsakydamas jis suranda aktualius dokumentus, perskaito juos ir tik tada formuluoja atsakymą.

Tai sprendžia dvi pagrindines standartinių LLM problemas:

• Haliucinacijos — LLM kartais sugalvoja faktus, kurių nėra. RAG pritvirtina atsakymą prie realių šaltinių.
• Pasenusi informacija — LLM apmokymo duomenys turi datą. RAG leidžia modeliui naudoti naujausius jūsų dokumentus, nepermokinant modelio iš naujo.

---

RAG sistema veikia trimis pagrindiniais žingsniais.

1. Dokumentų pavertimas vektoriais (embeddings)

Jūsų dokumentai — PDF failai, žinių bazės straipsniai, sutartys, produktų aprašymai — yra paverčiami skaitiniais vektoriais naudojant specialų kalbos modelį (embedding model). Vektorius yra matematinis dokumento prasmės atspindys: semantiškai panašūs tekstai gaunami panašius skaitmenis.

Visi šie vektoriai saugomi vektorinėje duomenų bazėje (pvz., Pinecone, Weaviate, pgvector ar kita).

2. Paieška pagal vartotojo klausimą

Kai vartotojas užduoda klausimą, jis irgi paverčiamas vektoriumi. Sistema matematiškai palygina šį vektorių su visais saugomais dokumentų vektoriais ir atranda semantiškai artimiausias vietas — net jei žodžiai tiksliai nesutampa.

Pavyzdys: klausimas „Kokia mūsų grąžinimo tvarka?" suras dokumentą pavadintą „Prekių keitimo ir grąžinimo politika", net jei žodis „grąžinimo tvarka" jame nepasirodo pažodžiui.

3. Atsakymo generavimas su kontekstu

Surasti dokumentų fragmentai yra pridedami prie vartotojo klausimo ir siunčiami kalbos modeliui kaip kontekstas. Modelis atsakymą formuluoja remdamasis būtent šia informacija — ir gali nurodyti, iš kurio dokumento atsakymas paimtas.

---

Įsivaizduokite naujoką, kuris pirmą darbo dieną turi atsakyti klientams. Be RAG — tai naujokas be jokių instrukcijų, kuris atsakinėja iš savo bendrų žinių. Su RAG — naujokas, kuriam duotos visos jūsų vidinės instrukcijos, kainoraščiai ir atsakymų šablonai, ir kuris prieš kiekvieną atsakymą jas perskaito.

Skirtumas yra esminis: antruoju atveju atsakymai tikslūs, paremti jūsų tikrais duomenimis, o ne sugalvoti.

---

Vidinės žinių bazės

Didelės įmonės kaupia šimtus vidinių dokumentų: darbo tvarkos aprašai, IT instrukcijos, HR politikos, procesų vadovai. Su RAG darbuotojai gali užduoti klausimą lietuviškai ir gauti tikslų atsakymą iš konkretaus dokumento — be ilgų paieškų SharePoint ar intranete.

Klientų aptarnavimo botai

Lietuvos e. komercijos ir paslaugų įmonės gali sukurti chatbotus, kurie atsako remiantis tikru kainoraščiu, grąžinimo politika ir DUK — ne sugalvotais atsakymais. Tokiu atveju atsakymas visada aktualus, nes jis paimamas iš dabartinės dokumentacijos.

Dokumentų klausimų ir atsakymų sistemos

Teisinės, apskaitos ar konsultacinės įmonės dirba su dideliais dokumentų kiekiais: sutartimis, įstatymais, ataskaitomis. RAG leidžia specialistui paklausti „Kokios sąlygos galioja 5 punkte?" ir gauti tikslų atsakymą iš konkretaus dokumento, ne bendrą LLM interpretaciją.

---

Aspektas	Grynas LLM	RAG sistema
Žinių aktualumas	Iki apmokymo datos	Realaus laiko dokumentai
Šaltinių nuorodos	Dažnai nėra	Gali nurodyti konkretų dokumentą
Haliucinacijų rizika	Didesnė	Žymiai mažesnė
Duomenų kontrolė	Nėra — modelis apmokytas	Jūsų dokumentai lieka jūsų sistemose
Atnaujinimas	Reikia permokyti modelį	Paprasčiausiai atnaujinate dokumentus

Ypač svarbu: duomenys lieka pas jus. RAG sistemą galima diegti on-premise — jūsų serveryje, jūsų infrastruktūroje. Jūsų sutartys, klientų duomenys ar komercinės paslaptys nekeliauja į jokį išorinį AI debesį.

---

RAG nėra universalus sprendimas viskam. Jis nereikalingas, kai:

• Jūsų naudojimo atvejis yra paprastas ir statinis — pvz., paprastas FAQ botas su 20 klausimų, kurie retai keičiasi. Tokiu atveju pakanka paprasto sprendimo be vektorinės infrastruktūros.
• Neturite struktūrizuotų dokumentų — RAG veikia tik kai yra kokybiška žinių bazė. Jei dokumentų nėra arba jie chaotiški, RAG nepadės — šiukšlės įeina, šiukšlės išeina.
• Biudžetas ir techniniai resursai riboti — RAG sistemos diegimas ir palaikymas reikalauja techninių kompetencijų. Mažam verslui kartais pigiau naudoti paprastą chatbot SaaS sprendimą.
• Greitis svarbesnis už tikslumą — retrieval etapas prideda papildomą laiko sąnaudą.

Gera taisyklė: jei jūsų klausimų ir atsakymų scenarijus telpa į vieną puslapį ir keičiasi rečiau nei kartą per mėnesį — pradėkite nuo paprastesnio sprendimo.

---

RAG turi svarbių privalumų BDAR (Bendrasis duomenų apsaugos reglamentas) atitikties požiūriu, tačiau reikalauja ir papildomo dėmesio.

RAG leidžia AI sistemą diegti lokaliai — jūsų serveryje, nenaudojant išorinių AI paslaugų, į kurias keliautų asmens duomenys. Tai leidžia lengviau užtikrinti BDAR reikalavimus dėl duomenų tvarkymo vietos ir saugumo.

• Jei į žinių bazę patenka asmens duomenys (pvz., klientų sutartys su vardais, kontaktais), turite numatyti jų apsaugos priemones pagal BDAR 5 straipsnio principus: duomenų minimizavimą, tikslų apribojimą.
• Vartotojų klausimai ir sistemos atsakymai gali būti registruojami žurnaluose — užtikrinkite, kad ši informacija tvarkoma teisėtai.
• Jei sistema pateikia atsakymus apie asmenis (pvz., HR kontekstas), tinkamas prieigos valdymas yra privalomas.

Valstybinė duomenų apsaugos inspekcija (VDAI) yra pagrindinis reguliatorius Lietuvoje. Prieš diegiant AI sistemas, kurios tvarko asmens duomenis, rekomenduojama atlikti duomenų apsaugos poveikio vertinimą (DAPV / DPIA), ypač aukštos rizikos atvejais.

---

RAG nėra revoliucinė naujovė — tai praktinis inžinerinis sprendimas konkrečiai problemai: kaip padaryti, kad AI atsakytų tiksliai, remiantis jūsų duomenimis, o ne sugalvotomis žiniomis.

Jei jūsų versle yra dokumentų, žinių bazių ar vidinio turinio, kurio AI dar "nežino" — RAG yra tas tiltas tarp jūsų žinių ir kalbos modelio galimybių.

WebEdge padeda Lietuvos įmonėms diegti dokumentų AI sprendimus: nuo paprasto žinių bazės chatboto iki sudėtingų RAG sistemų su on-premise diegimu. Susisiekite su mumis →

---

Šaltiniai: Lewis et al., „Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks", NeurIPS 2020 (arXiv:2005.11401); AWS dokumentacija „What is RAG?"; IBM Research „Retrieval-Augmented Generation"; GDPR.eu — BDAR pagrindiniai principai; Valstybinė duomenų apsaugos inspekcija (vdai.lrv.lt).