Raport Deloitte i halucynacje AI. Weryfikacja źródeł to obowiązek!

Australijski rząd ma otrzymać częściowy zwrot wynagrodzenia za raport przygotowany przez Deloitte. W dokumencie o wartości 440 tysięcy dolarów wykryto błędne przypisy, nieistniejące publikacje naukowe oraz cytat z orzeczenia sądu, którego… nigdy nie było. Jak się później okazało, część treści powstała z użyciem generatywnej sztucznej inteligencji. Sprawa szybko stała się głośnym przykładem zagrożeń wynikających z bezrefleksyjnego użycia AI, nawet przez tak duże podmioty jak Deloitte.

Raport z błędami i „cytatem widmo”

W lipcu 2025 roku Departament Zatrudnienia i Stosunków Pracowniczych (DEWR) otrzymał od Deloitte raport dotyczący systemu informatycznego służącego do automatyzacji kar w systemie opieki społecznej. Wkrótce po publikacji pojawiły się pierwsze wątpliwości – w dokumencie odnaleziono błędne przypisy, odwołania do nieistniejących źródeł oraz „cytat” z orzeczenia Federal Court Justice, którego nie można było zweryfikować w żadnych oficjalnych dokumentach.

W sierpniu sprawą zainteresowały się media. Australian Financial Review poinformował o podejrzeniach, że kluczowy cytat dotyczący głośnej sprawy sprzed kilku lat został w rzeczywistości wymyślony przez AI. Dziennikarz AFR nagłośnił problem w mediach społecznościowych, pokazując konkretne fragmenty raportu i brakujące źródła. W kolejnych tygodniach przedstawiciele rządu oraz niezależni badacze rozpoczęli własną analizę dokumentu.

Deloitte przyznaje się do użycia AI i oddaje część pieniędzy

Na początku października The Guardian ujawnił, że Deloitte zgodziło się zwrócić rządowi część wynagrodzenia za raport. W poprawionej wersji firma przyznała, że korzystała z Azure AI i ChatGPT-4o do generowania części treści – co nie zostało jasno wskazane wcześniej. Usunięto błędy i fikcyjne cytaty, a sytuacja wywołała publiczną debatę o standardach użycia AI w zleceniach publicznych.

Deloitte zapewnia, że korekta nie zmieniła ogólnych wniosków i rekomendacji zawartych w raporcie. Sprawa pokazała jednak, jak bardzo brak przejrzystości i niewystarczająca weryfikacja mogą nadszarpnąć zaufanie do dokumentów przygotowywanych przez renomowane firmy doradcze.

Dlaczego ta sprawa jest tak istotna?

Incydent z Australii to nie tylko wizerunkowa porażka Deloitte, ale również realne konsekwencje finansowe. W grę wchodzą środki publiczne, a raport przygotowany z błędami mógł mieć wpływ na decyzje dotyczące systemów świadczeń. Jeszcze ważniejsze jest jednak to, że problemem nie był sam fakt użycia AI, ale sposób, w jaki to zrobiono – bez odpowiedniej transparentności i bez dokładnej weryfikacji źródeł.

Modele generatywne, takie jak te wykorzystywane w ChatGPT, potrafią tworzyć bardzo wiarygodnie brzmiące teksty, jednak zdarza im się „halucynować” – czyli generować fikcyjne przypisy, źródła i cytaty. Dla wielu osób, taki błąd może być trudny do szybkiego wychwycenia. W raporcie Deloitte wystarczył jeden „cytat widmo”, żeby podważyć całą wiarygodność dokumentu.

Lekcja dla firm i instytucji publicznych

Ta historia to wyraźny sygnał dla organizacji: AI może wspierać pracę, ale nie zastąpi człowieka. Każdy fragment wygenerowany przez modele powinien być sprawdzony przez specjalistów. Niezbędna jest również pełna przejrzystość – zarówno wobec zamawiającego, jak i opinii publicznej w zakresie użytych technologii i metodologii.

Ostrzeżenie na koniec

Sztuczna inteligencja to potężne narzędzie, które może znacząco przyspieszyć proces tworzenia treści i analiz. Ale droga na skróty i kopiowanie wygenerowanych materiałów bez weryfikacji, prowadzi wcześniej czy później do wpadek i poważnych błędów. Przypadek Deloitte pokazuje, że nawet globalne korporacje mogą wpaść w tę pułapkę, a skutki mogą być realne – tym razem finansowe.

Nie ufaj ślepo AI. Sprawdzaj źródła i weryfikuj cytaty. To minimum odpowiedzialności w erze cyfrowej.

Po więcej naszych wpisów dotyczących AI, kliknij TUTAJ!