Pełna definicja
Halucynacja to termin techniczny opisujący najczęstszą wadę modeli LLM (ChatGPT, Claude, Gemini): model pewnie pisze nieprawdę. Wymyśla cytaty książek, paragrafy ustaw, daty wydarzeń, statystyki, nazwiska autorów. Wszystko brzmi przekonująco — bo model został wytrenowany do generowania "wiarygodnie brzmiącego" tekstu, nie do mówienia prawdy.
Dlaczego AI halucynuje? Bo LLM nie ma "bazy faktów" — ma statystyczny model języka. Nie sprawdza w bibliotece przed odpowiedzią; przewiduje słowa na bazie wzorców treningu. Jeśli wzorzec "art. 30ca PIT mówi o…" pojawia się często w treningu, model dokończy zdanie — nawet jeśli konkretny artykuł ma inną treść.
Praktyczne reguły: 1) Zawsze weryfikuj liczby (kwoty, statystyki, daty). 2) Zawsze weryfikuj cytaty — czy ten paragraf ustawy naprawdę tak brzmi, czy ta książka istnieje. 3) Im bardziej ekspercka odpowiedź, tym ostrożniej. 4) Do rachunków podatkowych i konsekwencji prawnych — zawsze weryfikuj z księgową/prawnikiem. 5) Do brainstormu i pierwszego draftu — halucynacje są mniej groźne, bo i tak edytujesz.
Dobre wiadomości: jakość modeli systematycznie rośnie. GPT-4o i Claude Sonnet 4 halucynują znacznie mniej niż GPT-3.5 z 2022 r. RAG redukuje halucynacje radykalnie — model odpowiada na bazie konkretnych dokumentów, nie pamięci. To dziś standard dla firm.