Grounding

Grounding znamená, že generovaná AI odpoveď dostane oporu v konkrétnych zdrojoch. Môže ísť o webové vyhľadávanie, firemné dokumenty, databázu alebo iné aktuálne dáta. Model potom neskladá odpoveď iba zo vzorov naučených pri tréningu, ale pracuje aj s informáciami, ktoré získal pre danú otázku.

Pri AI vyhľadávaní sú touto oporou často webové stránky. Ak služba ukáže odkazy alebo citácie, používateľ môže skontrolovať, z čoho odpoveď čerpala. Citácia však sama osebe nepotvrdzuje, že každá veta je správna alebo že zdroj odporúča konkrétnu firmu.

Grounding nie je tréning modelu

Tréning vytvára všeobecné schopnosti a znalosti modelu. Grounding pridáva podklady pri konkrétnej odpovedi. Preto môže pomôcť s aktuálnosťou a overiteľnosťou, ale neodstraňuje všetky halucinácie.

RAG je jeden zo spôsobov groundingu: pred generovaním vyhľadá relevantné dokumenty. Grounding je širší pojem a môže odpoveď prepájať aj s webovým vyhľadávaním, databázou alebo nástrojom.

Čo z toho plynie pre web

• Tvrdenia musia mať oporu. Uveďte zdroj, dátum, metodiku alebo vlastný dôkaz.
• Obsah musí byť dostupný. Dôležitá informácia schovaná iba v obrázku alebo za blokovaním sa používa ťažšie.
• Zdroj musí byť jednoznačný. Jasný autor, canonical, nadpisy a interné odkazy pomáhajú určiť, čo stránka tvrdí a kam patrí.

Neexistuje schema vlastnosť, ktorá by z webu urobila garantovaný zdroj pre AI. Cieľom je vytvoriť obsah, ktorý je technicky dostupný, vecne presný a dosť konkrétny na to, aby sa oň odpoveď mohla oprieť.

Google Cloud vysvetľuje grounding modelu pomocou Google Search.

Modelový príklad s firemnými podkladmi

Pri návrhu odpovede zákazníkovi dáte modelu aktuálny cenník a podmienky dopravy. Cena aj termín majú vychádzať z týchto podkladov. Pred odoslaním porovnáte návrh s konkrétnymi riadkami dokumentov. Ak podmienky potrebný údaj neobsahujú, model ho nemá dopĺňať odhadom.

Časté otázky