Uziemienie odpowiedzi (grounding)
Uziemienie odpowiedzi to właściwość generatywnego silnika polegająca na tym, że każde twierdzenie w wygenerowanej odpowiedzi jest zakorzenione w konkretnym, pobranym fragmencie źródłowym, co pozwala modelowi wskazać dokument, z którego pochodzi dana informacja.
Najważniejsze
- Uziemienie odpowiedzi oznacza, że model generuje tekst na podstawie pobranych fragmentów, a każde twierdzenie można przypisać do konkretnego dokumentu źródłowego.
- Fragmenty samodzielne znaczeniowo, bez nierozwiązanych zaimków i odesłań do kontekstu spoza akapitu, uzyskują spójniejszy embedding i są częściej pobierane przez potok RAG jako kandydaci do uziemienia.
- Wg Presenc.ai sekcje zrozumiałe w izolacji są cytowane 1,7 razy częściej, co wskazuje, że samodzielność fragmentu zwiększa jego szansę na pełnienie roli podstawy uziemionej odpowiedzi.
Jak to działa
W architekturze RAG silnik dzieli stronę na fragmenty na granicach akapitów i nagłówków, zamienia każdy fragment na osobny wektor, a następnie pobiera top-k fragmentów przez podobieństwo semantyczne do zapytania. Uziemienie następuje, gdy model generuje zdanie oparte bezpośrednio na treści pobranego fragmentu. Fragment zależny od kontekstu, na przykład zawierający nierozwiązany zaimek lub odwołanie do tabeli umieszczonej kilka akapitów wcześniej, daje niespójny embedding i bywa pomijany, by ograniczyć ryzyko halucynacji. Treść pisana z myślą o uziemieniu zawiera pełną myśl w każdym akapicie.
Powiązane pojęcia
- RAG (generowanie wspomagane pobieraniem) Generowanie wspomagane pobieraniem (RAG) to architektura, w której model językowy przed wygenerowaniem odpowiedzi pobiera z zewnętrznego indeksu fragmenty dokumentów semantycznie zbliżone do zapytania, a następnie włącza je do kontekstu generowania, co pozwala odpowiedzi opierać się na aktualnych, konkretnych źródłach.
- Samodzielny fragment Samodzielny fragment to sekcja treści, która niesie pełną myśl i jest zrozumiała po wyjęciu ze strony, bez odwoływania się do otaczającego kontekstu, co pozwala silnikowi generatywnemu pobrać ją i zacytować bez zniekształcenia sensu.
- Halucynacja modelu Halucynacja modelu to zjawisko, w którym model językowy generuje informację brzmiącą wiarygodnie, lecz niemającą pokrycia w pobranych dokumentach ani w danych treningowych.