RAG (Retrieval Augmented Generation)
1Definicja
Technika, która łączy możliwości generatywnego modelu AI (np. ChatGPT) z zewnętrzną bazą wiedzy (np. Twoimi dokumentami firmowymi), aby model mógł odpowiadać na pytania, korzystając z aktualnych i prywatnych informacji, których nie miał podczas treningu.
2Co to oznacza w praktyce
Standardowy model LLM jest jak genialny student, który przyszedł na egzamin bez podręcznika – pamięta tylko to, czego się nauczył miesiące temu. RAG to danie temu studentowi dostępu do "ściągi" – otwartej książki. Jak to działa? 1. Zadajesz pytanie (np. "Jaka jest nasza polityka urlopowa?"). 2. System przeszukuje Twoją bazę dokumentów i znajduje odpowiedni fragment (regulamin urlopowy). 3. System wkleja ten fragment do promptu dla AI: "Na podstawie poniższego tekstu: [treść regulaminu], odpowiedz na pytanie: Jaka jest nasza polityka urlopowa?". 4. AI generuje odpowiedź na podstawie dostarczonego tekstu.
3Dlaczego to ma znaczenie
RAG to obecnie najpopularniejszy sposób na biznesowe wykorzystanie AI. Rozwiązuje dwa główne problemy LLM: brak aktualnej wiedzy i halucynacje. Model nie musi "zmyślać", bo ma przed oczami tekst źródłowy. Pozwala firmom budować chatboty "gadające z własnymi danymi" bez konieczności drogiego douczania (fine-tuningu) modelu.
Najczęstszy błąd
Myślenie, że RAG sprawia, że model "wie" wszystko. Jakość RAG zależy od jakości wyszukiwarki, która znajduje odpowiednie fragmenty tekstu. Jeśli wyszukiwarka poda modelowi błędny fragment, model wygeneruje błędną odpowiedź (GIGO).