Slovník
Halucinácia AI
Keď AI sebavedomo vygeneruje informáciu, ktorá znie hodnoverne, ale je nepravdivá alebo vymyslená.
Halucinácia je situácia, keď jazykový model vygeneruje odpoveď, ktorá znie presvedčivo a plynulo, ale je fakticky nesprávna - prípadne si úplne vymyslí zdroj, číslo alebo citát. Samotná plynulosť nie je dôkazom správnosti odpovede.
Prečo k tomu dochádza
Samotné generovanie textu neoveruje každé tvrdenie proti pôvodnému zdroju. Aj pri použití vyhľadávania alebo priložených podkladov treba správnosť odpovede skontrolovať. Keď model nemá dosť podkladov, môže doplniť nepodložené tvrdenie, ktoré znie rovnako presvedčivo ako správna odpoveď.
Ako sa pred halucináciami chrániť
- Overte fakty. Čísla, mená, citácie a zdroje vždy skontrolujte mimo modelu.
- Dajte modelu kontext. Relevantné podklady, napríklad priložené dokumenty, môžu obmedziť chyby; overte však, či z nich odpoveď skutočne vychádza.
- Pýtajte sa na zdroje. Bez overiteľného zdroja podľa odpovede nerobte rozhodnutie.
- Nedávajte AI posledné slovo tam, kde chyba stojí peniaze alebo reputáciu.
Pre marketing platí jednoducho: AI môže pripraviť prvý návrh. Pred použitím treba overiť fakty a zdroje.
Časté otázky
Dá sa halucináciám úplne zabrániť?
Úplne nie, je to vlastnosť technológie. Relevantné podklady môžu obmedziť chyby. Kontrola výstupov pomáha chyby odhaliť a obmedzenie oprávnení bráni tomu, aby chybná odpoveď spustila nežiaducu akciu.
Prečo AI vymyslí aj zdroj?
Pretože generuje pravdepodobný text. Model môže vytvoriť odkaz, ktorý vyzerá vierohodne, hoci daná stránka neexistuje alebo tvrdenie nepodporuje. Preto zdroj otvorte a skontrolujte.
Nezávislý audit
Zistite, čo vo vašom marketingu zlepšiť.
Podľa potrieb vášho webu vyberieme oblasť auditu: SEO, PPC, meranie, obsah alebo AI Search. Dostanete až 10 odporúčaní podľa dopadu a plán na 30 dní.