A RAG (retrieval-augmented generation) az a működési mód, amelyben a nyelvi modell válaszadás előtt külső forrásokból kikeres releváns szövegrészleteket, és azokat beemeli a válasz alapjába. A modell így nem csak a tanult súlyaiból dolgozik, hanem friss, hivatkozható szövegből is.
Hogyan működik
- A rendszer a kérdést lekérdezéssé alakítja, sokszor többfélére bontva.
- Egy keresőindexből vagy vektoradatbázisból kikeresi a legjobban illeszkedő szövegrészeket.
- A találatokat rangsorolja, és csak a legjobb néhányat tartja meg.
- Ezeket beteszi a nyelvi modell elé a kérdéssel együtt.
- A modell ebből a szövegből fogalmaz választ, és általában megjelöli a forrásokat.
A kulcslépés a kiválasztás. A modell nem az oldaladat olvassa el egészben, hanem néhány kiragadott bekezdést. Ami nem fér be a kontextus-ablakba, az a válasz szempontjából nem létezik.
Miért más ez, mint a klasszikus rangsorolás
A hagyományos találati listán az oldal egésze verseng egy pozícióért. RAG-nál a bekezdéseid versengenek egymással és mások bekezdéseivel. Egy jó oldal is kieshet, ha a benne lévő tudás hosszú, szétszórt mondatokba van elrejtve.
Ezért lett a citálhatóság önálló szempont. A generatív keresők szinte kivétel nélkül RAG-gal dolgoznak, amikor friss vagy konkrét adatot kérdezel tőlük.
Mikor számít igazán
- Ha az oldalad ára, nyitvatartása vagy szolgáltatási köre gyakran változik.
- Ha szakmai kérdésekre adsz választ, és ezekre AI-ban akarsz megjelenni.
- Ha a márkádról rossz információ kering, és ezt friss szöveggel akarod felülírni.
Röviden: RAG esetén nem az oldalad rangsorol, hanem a bekezdéseid, ezért az számít, mennyire kiemelhető belőlük egy önálló, igaz mondat.