Čo to je (ľudsky)
Halucinácia je situácia, keď AI s plnou istotou uvedie informáciu, ktorá je nesprávna alebo vymyslená. Model neklame naschvál – jednoducho generuje pravdepodobne znejúci text, aj keď fakty nesedia.
Ako to funguje v praxi
LLM predpovedá slová podľa vzorov, nie podľa databázy pravdy. Keď mu chýba informácia, doplní niečo, čo „znie správne“ – neexistujúci zákon, zlé číslo či vymyslený zdroj. Preto výstup pôsobí dôveryhodne, aj keď je chybný.
Príklad zo Slovenska / Česka / EÚ
Spýtaš sa AI na konkrétny paragraf zákona a ona ti sebavedomo odcituje číslo, ktoré neexistuje. Alebo v odpovedi zákazníkovi uvedie zľavu, ktorú firma nikdy neponúkala. Bez kontroly by to spôsobilo problém.
Kedy sa to oplatí
- ✓Toto je riziko, nie výhoda – treba ho riadiť
- ✓Overuj fakty, čísla a citácie z AI
- ✓Pri dôležitých výstupoch nasaď človeka na kontrolu
Kedy je to problém
- •Pri právnych, zdravotných a finančných témach
- •Keď výstup ide priamo k zákazníkovi bez kontroly
- •Pri rozhodnutiach na základe vymyslených dát
Typické chyby
- !Slepá dôvera vo výstup bez overenia
- !Chýbajúci zdroj alebo dohľadateľnosť odpovede
- !Nepoužitie RAG pri faktických otázkach