Čo to je (ľudsky)
RAG je technika, ktorá umožňuje AI odpovedať na základe tvojich vlastných dokumentov a dát, nie len z toho, čo sa naučila počas tréningu. Model si najprv „vyhľadá“ relevantné informácie a až potom vygeneruje odpoveď.
Ako to funguje v praxi
Tvoje dokumenty sa rozdelia na kúsky a uložia do vektorovej databázy ako embeddingy. Keď položíš otázku, systém nájde najrelevantnejšie časti a pošle ich modelu ako kontext. Model tak odpovedá presne z tvojich dát a menej si vymýšľa.
Príklad zo Slovenska / Česka / EÚ
Firemný chatbot, ktorý odpovedá zamestnancom z interných smerníc a manuálov. Namiesto všeobecných odpovedí cituje konkrétnu vetu z tvojej dokumentácie – napr. „podľa reklamačného poriadku máš na vrátenie 14 dní“.
Kedy sa to oplatí
- ✓Keď potrebuješ odpovede z vlastnej dokumentácie
- ✓Pri často sa meniacich dátach, ktoré nechceš pretrénovať
- ✓Keď potrebuješ zdroje a dohľadateľnosť odpovede
Kedy je to problém
- •Zle spracované alebo neaktuálne dáta = zlé odpovede
- •Náklady na vektorovú databázu a jej údržbu
- •Citlivé dáta vyžadujú riešenie ochrany súkromia
Typické chyby
- !Nekvalitné rozdelenie dokumentov na kúsky (chunking)
- !Chýbajúca aktualizácia dát v databáze
- !Príliš veľa nerelevantného kontextu v odpovedi