Slovník
Halucinácia AI
Keď AI sebavedomo vygeneruje informáciu, ktorá znie hodnoverne, ale je nepravdivá alebo vymyslená.
Halucinácia je situácia, keď jazykový model vygeneruje odpoveď, ktorá znie presvedčivo a plynulo, ale je fakticky nesprávna - prípadne si úplne vymyslí zdroj, číslo alebo citát. Samotná plynulosť nie je dôkazom správnosti odpovede.
Prečo k tomu dochádza
Samotné generovanie textu neoveruje každé tvrdenie proti pôvodnému zdroju. Aj pri použití vyhľadávania alebo priložených podkladov treba správnosť odpovede skontrolovať. Keď model nemá dosť podkladov, môže doplniť nepodložené tvrdenie, ktoré znie rovnako presvedčivo ako správna odpoveď.
Ako sa pred halucináciami chrániť
- Overte fakty. Čísla, mená, citácie a zdroje vždy skontrolujte mimo modelu.
- Dajte modelu kontext. Relevantné podklady, napríklad priložené dokumenty, môžu obmedziť chyby; overte však, či z nich odpoveď skutočne vychádza.
- Pýtajte sa na zdroje. Bez overiteľného zdroja podľa odpovede nerobte rozhodnutie.
- Nedávajte AI posledné slovo tam, kde chyba stojí peniaze alebo reputáciu.
Zdroj: OpenAI - Why language models hallucinate. Overené 3. 10. 2026.
Postup pri neexistujúcom zdroji
Ak odkaz nefunguje, vyhľadajte názov dokumentu u uvedeného vydavateľa. Ak sa tvrdenie nedá dohľadať, odstráňte ho alebo označte neistotu; nenahrádzajte ho prvým podobne znejúcim článkom. Opravenú vetu znovu porovnajte s otvoreným zdrojom. Druhá odpoveď toho istého modelu nie je nezávislé potvrdenie.
Časté otázky
Dá sa halucináciám úplne zabrániť?
Bezchybnú odpoveď pri každom použití nemožno zaručiť. Halucinácia však nie je nevyhnutná: model môže pri neistote priznať, že odpoveď nepozná. Relevantné podklady môžu obmedziť chyby. Kontrola výstupov pomáha chyby odhaliť a obmedzenie oprávnení bráni tomu, aby chybná odpoveď spustila nežiaducu akciu.
Prečo AI vymyslí aj zdroj?
Pretože generuje pravdepodobný text. Model môže vytvoriť odkaz, ktorý vyzerá vierohodne, hoci daná stránka neexistuje alebo tvrdenie nepodporuje. Preto zdroj otvorte a skontrolujte.