← Wiedza

Kryteria wyboru RAG w systemach firmowych

15 września 2025 · 2 min czytania

Retrieval-Augmented Generation łączy model językowy z wyszukiwaniem we własnych dokumentach organizacji. Artykuł porządkuje kryteria, kiedy RAG ma uzasadnienie, kiedy wystarcza prostsze rozwiązanie, i wskazuje ryzyka z listy OWASP dla aplikacji LLM, które dotyczą indeksu dokumentów.

Kryteria wyboru RAG w systemach firmowych

Pojęcie Retrieval-Augmented Generation (RAG) opisali Patrick Lewis i współautorzy w pracy przyjętej na konferencję NeurIPS 2020. Model generatywny korzysta w niej z wiedzy zapisanej w parametrach oraz z zewnętrznego indeksu dokumentów przeszukiwanego przy każdym zapytaniu.

W systemie firmowym RAG pozwala odpowiadać na podstawie regulaminów, umów i dokumentacji technicznej bez ponownego trenowania modelu. Nie każde pytanie użytkownika wymaga jednak modelu językowego, dlatego artykuł zestawia kryteria decyzji (opracowanie autora).

W artykule

Warunki, w których RAG ma uzasadnienie

RAG ma sens, gdy wiedza potrzebna do odpowiedzi zmienia się częściej, niż opłaca się zmieniać model, a odpowiedź musi wskazywać dokument, z którego pochodzi. Dotyczy to zwłaszcza zbiorów nieustrukturyzowanych: procedur, umów, notatek technicznych i korespondencji, o które użytkownicy pytają własnymi słowami.

Wartość takiego zastosowania polega na skróceniu drogi do właściwego fragmentu dokumentu i na możliwości sprawdzenia go przez człowieka (opracowanie autora).

Prostsze rozwiązania dla części pytań

Jeżeli dane są ustrukturyzowane, odpowiedź daje zapytanie do bazy albo raport. Krótka i stała lista odpowiedzi mieści się w FAQ albo w regułach. Gdy użytkownik szuka dokumentu, a nie odpowiedzi, wystarcza wyszukiwarka pełnotekstowa. Jeżeli wynik musi być deterministyczny, na przykład przy kwotach i terminach, lepiej sprawdzają się reguły z cytatem źródła.

RAG pozostaje rozwiązaniem dla pytań, które nie przechodzą żadnego z tych filtrów (opracowanie autora).

Schemat decyzji: dane ustrukturyzowane, stała lista odpowiedzi, potrzeba dokumentu i wymóg determinizmu prowadzą do prostszych rozwiązań, pozostałe przypadki do RAG.
Kolejność pytań przed wyborem RAG (opracowanie autora).

Ryzyka indeksu dokumentów

Lista OWASP Top 10 for LLM Applications 2025 zawiera trzy pozycje szczególnie istotne dla RAG. LLM08 Vector and Embedding Weaknesses dotyczy słabości osadzeń i indeksu wektorowego. LLM01 Prompt Injection obejmuje także instrukcje ukryte w treści dokumentów, które trafiają do kontekstu modelu. LLM02 Sensitive Information Disclosure dotyczy ujawnienia informacji, do których pytający nie powinien mieć dostępu.

W praktyce oznacza to sprawdzanie uprawnień do dokumentu już w chwili wyszukiwania oraz traktowanie treści dokumentów wyłącznie jako danych dla modelu (opracowanie autora).

Pomiar jakości odpowiedzi

Przed wdrożeniem warto przygotować zestaw pytań testowych z oczekiwanym dokumentem źródłowym dla każdego z nich. Miarą jest odsetek odpowiedzi, które wskazują właściwe źródło, oraz zachowanie systemu, gdy źródła brak: odmowa odpowiedzi jest wtedy wynikiem poprawnym. Ten sam zestaw uruchamia się po każdej zmianie modelu, podziału dokumentów albo indeksu (opracowanie autora).

Źródła

  • P. Lewis i in., Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, NeurIPS 2020 – arxiv.org/abs/2005.11401
  • OWASP, Top 10 for LLM Applications 2025 – genai.owasp.org/llm-top-10/

Najważniejsze wnioski

  • RAG ma uzasadnienie, gdy wiedza zmienia się często, a odpowiedź musi wskazywać dokument źródłowy.
  • Dane ustrukturyzowane, stała lista odpowiedzi i wyszukiwanie dokumentów obsługują prostsze narzędzia niż model językowy.
  • Uprawnienia do dokumentów trzeba sprawdzać w chwili wyszukiwania, bo treść trafia do kontekstu modelu.
  • Zestaw pytań testowych z oczekiwanym źródłem pozwala porównać jakość przed zmianą i po zmianie systemu.

Kolejne kroki

  1. Podział pytań użytkowników na grupy według schematu decyzji i wybór narzędzia dla każdej grupy.
  2. Przypisanie do każdego dokumentu w indeksie metadanych źródła, daty i uprawnień.
  3. Przygotowanie zestawu pytań testowych z oczekiwanym dokumentem źródłowym.
  4. Przegląd ryzyk LLM01, LLM02 i LLM08 z listy OWASP dla planowanego rozwiązania.
Kryteria wyboru RAG w systemach firmowych | Code One