Halucynacje
1Definicja
Zjawisko, w którym model AI generuje odpowiedź, która jest gramatycznie poprawna i brzmi pewnie, ale jest merytorycznie błędna, zmyślona lub nie ma oparcia w faktach.
2Co to oznacza w praktyce
Model AI "nie wie", kiedy nie wie. Zamiast przyznać się do niewiedzy, często próbuje "uzupełnić luki", zmyślając fakty. Może wymyślić nieistniejący wyrok sądowy, podać błędną datę historyczną, przypisać cytat niewłaściwej osobie lub wygenerować bibliografię pełną nieistniejących książek – i zrobi to z pełnym przekonaniem.
3Dlaczego to ma znaczenie
To największe ryzyko w profesjonalnym użyciu LLM. Bezkrytyczne zaufanie halucynującemu modelowi może prowadzić do poważnych błędów w pracy prawnika, lekarza, programisty czy dziennikarza. Wymaga to stałej czujności i weryfikacji generowanych treści (human-in-the-loop).
Najczęstszy błąd
Ufanie modelowi w obszarach, na których się nie znamy. Paradoksalnie, AI jest najbezpieczniejsze, gdy używamy go do zadań, których wynik potrafimy sami zweryfikować.