Dlaczego ChatGPT kłamie i oszukuje? Czym są halucynacje?

Zrozumienie, dlaczego modele takie jak ChatGPT czasami przekazują nieprawdziwe informacje, wymaga cofnięcia się do fundamentów: jak w ogóle działają LLM (Large Language Models), czym jest tzw. wnioskowanie oraz co tak naprawdę znaczy „wiedza” w kontekście sztucznej inteligencji.

• Czym właściwie jest LLM i jak działa?
• Czym są halucynacje w modelu językowym?
• Czy ChatGPT wie, że się myli? Czy może kłamać?
• Czy ChatGPT „ma wiedzę”? A może tylko „na wiedzy się uczył”?
• Co to jest prompt engineering i dlaczego jest tak ważny?

Czytaj także: Kiedy dokładnie zadebiutuje GPT-5 i co nowego może zaoferować użytkownikom?

Czym właściwie jest LLM i jak działa?

LLM to model statystyczny, który został nauczony na ogromnych zbiorach danych tekstowych. Celem tego modelu nie jest „rozumienie świata” w ludzkim sensie, lecz przewidywanie najbardziej prawdopodobnego kolejnego słowa (tokenu) w ciągu tekstowym.

To oznacza, że model nie odpowiada na pytanie, bazując na przemyśleniach czy analizie faktów. On dosłownie:

1. Otrzymuje Twoje pytanie jako ciąg tokenów (np. słowa).
2. Przekształca je w liczby (tzw. embeddingi).
3. Przewiduje najbardziej prawdopodobną sekwencję słów, jaka mogłaby się pojawić dalej.
4. Generuje odpowiedź token po tokenie, zgodnie z tą przewidywaną sekwencją.

Nie sprawdza faktów w czasie rzeczywistym. Nie wie, czy podana informacja jest prawdziwa. On tylko przewiduje, co „powinno się pojawić” według jego statystycznego modelu języka.

Czym są halucynacje w modelu językowym?

W literaturze AI „halucynacja” oznacza sytuację, gdy model generuje informacje, które brzmią poprawnie, ale są nieprawdziwe lub zmyślone. Nie chodzi o błąd logiczny, ale o przekonującą treść, która w rzeczywistości jest fałszywa.

Możemy wyrożnić kilka typowych przyczyn halucynacji:

• Brak dostępu do rzeczywistej wiedzy (w rozumieniu źródła). Model nie odwołuje się do zewnętrznej bazy danych, tylko do statystyk zakodowanych w jego parametrach.
• Niedoprecyzowany prompt. Gdy pytanie jest zbyt ogólne lub prowadzi do niejednoznacznych kontekstów, model „domyśla się” odpowiedzi, co zwiększa ryzyko halucynacji.
• Przesadna pewność. Model nie zna pojęcia „nie wiem”. Jeśli nie zna odpowiedzi, i tak spróbuje ją wygenerować. Nazywa się to czasem „konfabulacją”.

Czy ChatGPT wie, że się myli? Czy może kłamać?

No właśnie, wspomnieliśmy, że model nie zna pojęcia "nie wiem". Więc nie, nie wie też, że się myli. I to jest kluczowe.

ChatGPT nie posiada samoświadomości, intencji ani zdolności do oceniania prawdziwości swojej wypowiedzi. Nie kłamie, ponieważ nie zna kategorii prawdy/fałszu. Generuje tekst, który pasuje do kontekstu – niezależnie od tego, czy jest zgodny z rzeczywistością.

Jeśli zapytasz ChatGPT o źródła, bardzo często wygeneruje publikacje, które brzmią wiarygodnie – tytuł, autor, data – ale nie istnieją. To nie oszustwo z premedytacją. To wynik działania modelu, który nauczył się, że pytanie o źródła często kończy się zestawem cytatów. Więc przewiduje i tworzy coś, co wygląda na cytat.

Model nie myśli. Model zgaduje. Z niesamowitą precyzją – owszem. Ale to wciąż zgadywanie na podstawie danych. Dlatego:

• nie pytaj go o przyszłość (chyba że chcesz fikcję),
• nie traktuj odpowiedzi jako wyroczni,
• naucz się pisać skuteczne prompty,
• nie obwiniaj narzędzia za błędne wyniki przy niejasnych pytaniach.

W tym momencie zastanawiasz się pewnie, czy w takim razie ChatGPT lub jakikolwiek model ma jakąkolwiek wiedzę? 

Czy ChatGPT „ma wiedzę”? A może tylko „na wiedzy się uczył”?

Zacznijmy od tego, że słowo „wiedza” w kontekście człowieka i modelu językowego znaczy zupełnie co innego. Dla nas wiedza to coś, co rozumiemy, pamiętamy, możemy ocenić i powiązać z kontekstem. Dla ChatGPT – to tylko dane statystyczne zapisane w miliardach parametrów.

Kiedy mówimy, że model został nauczony na książkach, forach, dokumentach i kodzie, to nie znaczy, że on teraz „wie, co w nich było”. To znaczy, że:

• przetworzył te dane,
• rozpoznał wzorce,
• zakodował te wzorce w liczbach (wektorach wag),
• i na ich podstawie uczy się przewidywać, jakie słowa mają największe prawdopodobieństwo pojawić się dalej.

Więc odpowiedź brzmi: nie, ChatGPT nie ma wiedzy w naszym sensie. Ale tak, ChatGPT operuje na „statystycznym obrazie wiedzy”, która była dostępna w czasie treningu.

Po co więc ta wiedza? Co model z nią robi? Nie uczy się po to, żeby wiedzieć. Uczy się po to, żeby trafnie przewidywać. To jest cały fundament. I właśnie dlatego nawet najinteligentniejsze modele nie „wiedzą”, że coś jest prawdą – one tylko reagują na wzorce, które wydają się prawdopodobne.

To dlatego możemy dostać:

• genialne podsumowanie artykułu naukowego,
• albo kompletną bzdurę w formie wiarygodnej wypowiedzi.

Bo w obu przypadkach model robi to samo: zgaduje najlepszą możliwą odpowiedź na podstawie danych, które przyswoił.

Co to jest prompt engineering i dlaczego jest tak ważny?

Jeśli dotarłeś aż tutaj, zaczynasz już rozumieć: ChatGPT nie posiada wiedzy w sensie ludzkim. On działa jak ogromna maszyna przewidująca – a to oznacza, że każde pytanie, które mu zadasz, jest instrukcją, która wpływa na to, jak odpowie.

Innymi słowy: to nie tylko model „odpowiada”, to Ty – jako użytkownik – „inicjujesz myślenie”. I właśnie tu zaczyna się temat, który niektórzy traktują jako sztukę, a inni jako czystą inżynierię: prompt engineering.

Prompt engineering to praktyka formułowania skutecznych i precyzyjnych poleceń (promptów), które pozwalają uzyskać najlepszą możliwą odpowiedź od modelu językowego. Można powiedzieć, że to sztuka zadawania pytań — ale oparta na zrozumieniu, jak „myśli” model.

Model nie interpretuje Twojego pytania tak jak człowiek. Nie zastanawia się nad intencją, kontekstem kulturowym, logiką wypowiedzi. On analizuje ciąg tokenów i przewiduje kolejne – tyle. Więc jeśli wprowadzisz go w błąd, to bardzo prawdopodobne, że pójdzie tym torem i wygeneruje błąd — z dużym przekonaniem.

• Starsze modele (jak GPT-3.5) były bardzo wrażliwe na jakość promptu. Im lepiej sformułowany prompt — tym lepsza odpowiedź. Ale jeśli był niedokładny — model halucynował, zmieniał temat, przerywał.
• Nowsze modele (GPT-4, GPT-4o, Claude 3, Gemini 1.5) coraz lepiej radzą sobie z nieprecyzyjnymi poleceniami. Czasem nawet „domyślają się” sensu pytania. Ale to wciąż nie oznacza, że zrobią to dobrze — tylko, że nie od razu się „pogubią”.

To znaczy: im lepszy model, tym większa elastyczność. Ale nawet najlepszy model może wygenerować błąd, jeśli użytkownik poda mylący, zbyt ogólny, niedookreślony prompt. Błędy, które często przypisujemy „modelowi” — są często efektem źle zadanych pytań. Nieświadomie. Automatycznie. Zbyt potocznie. I w tym sensie nie chodzi o to, żeby „oskarżać użytkownika”, tylko zrozumieć jedną rzecz: Model odpowiada zgodnie z jakością Twojego polecenia.

• Jeśli zapytasz: „Napisz artykuł o wpływie technologii” – otrzymasz ogólnik.
• Jeśli zapytasz: „Napisz artykuł w stylu eksperckim, z przykładami, podzielony na 4 sekcje, o wpływie generatywnej AI na rynek edukacji w Polsce” – dostajesz tekst znacznie bardziej konkretny, trafny i użyteczny.

A jeśli chcesz napisać naprawdę ekspercki artykuł, to dostarcz modelowi wiedzy (własne źródła, dokumenty lub polecenie > szukaj w Internecie, chociaż to ostatnie bywa zgubne). Model będzie wtedy (oczywiście nadal zostajemy przy modelu LLM) na podstawie Twojego promptu analizował wiedzę i poszukiwał informacji, które Ci wyciągnie z nich. Czy to idealne narzędzie do pisania? To zależy, jak z kalkulatorem. Otrzymasz suchy wynik, a nie rozpisane obliczenie. Traktuj ChatGPT jako asystenta, a będzie o wiele bardziej pomocy, niż gdy zostawisz go samego z całym zadaniem od A do Z. 

Czego model nie wie i nie przewidzi?

W sieci nietrudno zauważyć, jak użytkownicy traktują narzędzia AI jako źródła absolutnej prawdy. Proszą o liczby w totka. Pytają, kto wygra wybory. Szukają diagnoz chorób albo opinii o leku, który nie istnieje. I co? ChatGPT odpowiada. Bo... został o to poproszony. Nie dlatego, że zna prawdę.

Modele LLM (w tym GPT) nie przewidują przyszłości, nie śledzą wydarzeń na bieżąco (chyba że jawnie korzystają z internetu), nie wiedzą kto wygra wybory czy kiedy spadnie deszcz. One jedynie symulują prawdopodobną odpowiedź, bazując na wzorcach z przeszłości.

To nie jest wina modelu. To niezrozumienie jego natury. Bo GPT nie jest encyklopedią, ani lekarzem. To predykcyjna maszyna, która "widziała" w czasie szkolenia ogromne ilości danych i nauczyła się, jak je logicznie układać w językowe odpowiedzi. To, że ChatGPT zna coś do 2023 czy 2024 roku, nie oznacza, że wie, jak działa AirFryer. Może akurat widział o nim tysiące przepisów. Albo nie widział nic.

Jeśli nie dałeś mu dostępu do internetu, może bazować tylko na tym, co przyswoił wcześniej. A jeśli nawet może szukać online, to i tak musisz mu jasno powiedzieć, czego oczekujesz. Inaczej będzie zgadywać.