Dlaczego AI halucynuje jak ludzie kłamią

Dlaczego AI halucynuje jak ludzie kłamią

Kiedy ChatGPT „wymyśla” fakty, nazywamy to halucynacją. Kiedy człowiek robi to samo, nazywamy to kłamstwem, konfabulacją lub — w łagodniejszej wersji — błędem poznawczym. Ale czy te zjawiska są naprawdę tak różne?

Anatomia halucynacji AI

Modele językowe nie „rozumieją” tekstu. Przewidują kolejne słowo na podstawie prawdopodobieństwa. Kiedy model nie ma pewności, wybiera słowo, które statystycznie „pasuje” — nawet jeśli jest nieprawdziwe.

Brzmi znajomo? Ludzie robią dokładnie to samo.

Błędy poznawcze vs halucynacje AI

1. Confirmation bias → Pattern matching

Ludzie szukają informacji potwierdzających ich przekonania. AI szuka patternów w danych treningowych. Oba systemy „widzą” to, co chcą zobaczyć.

2. Confabulation → Token prediction

Ludzie z uszkodzeniami pamięci tworzą spójne, ale fałszywe wspomnienia. AI tworzy spójne, ale fałszywe odpowiedzi. Mechanizm jest zaskakująco podobny.

3. Authority bias → Training data bias

Ludzie wierzą autorytetom, nawet gdy się mylą. AI „wierzy” danym treningowym, nawet gdy zawierają błędy.

Co to oznacza dla nas?

Jeśli halucynacje AI są analogiczne do ludzkich błędów poznawczych, to:

• Nie powinniśmy oczekiwać, że AI będzie „obiektywna” — bo ludzie też nie są
• Możemy stosować narzędzia z ekonomii behawioralnej do poprawy AI
• Krytyczne myślenie jest równie ważne wobec AI, co wobec ludzi

Dlatego stworzyłem Reflector — narzędzie, które nie mówi Ci CO myśleć, ale pokazuje JAK Tobą manipulują. Bo manipulacja działa tak samo, niezależnie od tego, czy jej źródłem jest człowiek czy algorytm.