Szkody, które już tu są

Artykuł 3 z 5 w serii wprowadzającej do bezpieczeństwa AI.

Poprzedni artykuł zakończyliśmy obietnicą: zejdziemy z poziomu gier i laboratoriów na poziom codzienności. Bo o ile płonąca motorówka z CoastRunners nikomu nie zrobiła krzywdy, o tyle ten sam mechanizm — system perfekcyjnie realizujący niewłaściwie postawiony cel — działa dziś w narzędziach, z których korzystają miliony ludzi. W sądach, w rekrutacji, w telefonie Twojej babci.

Ten artykuł nie jest katalogiem sensacji. Jest przeglądem czterech rodzajów szkód, które są dobrze udokumentowane, dzieją się teraz — i które, jak zobaczysz, łączy wspólny mianownik.

Zmyślanie z pełnym przekonaniem

Zacznijmy od zjawiska, z którym niemal na pewno się zetknąłeś: modele językowe potrafią z absolutną pewnością siebie podawać informacje całkowicie zmyślone. W branży nazywa się to halucynacjami (ang. hallucinations).

Kanoniczny przykład pochodzi z sali sądowej. W maju 2023 roku nowojorski prawnik Steven Schwartz złożył pismo procesowe w sprawie Mata przeciwko liniom Avianca, cytując sześć orzeczeń sądowych. Wszystkie sześć wymyślił ChatGPT — z fałszywymi sygnaturami, fałszywymi cytatami i nazwiskami prawdziwych sędziów. Gdy sąd zakwestionował cytaty, Schwartz zapytał… ChatGPT, czy orzeczenia istnieją. Ten potwierdził. Skończyło się grzywną i publicznym upokorzeniem — a mogłoby uchodzić za anegdotę o jednym nieostrożnym człowieku, gdyby nie skala: baza prowadzona przez prawnika Damiena Charlotina dokumentuje już ponad tysiąc takich przypadków w kilkudziesięciu jurysdykcjach, w tym pierwsze w Polsce.¹

Kluczowe pytanie brzmi: dlaczego to się wciąż dzieje, skoro wszyscy o tym wiedzą? Odpowiedź powinna brzmieć znajomo. Badacze OpenAI pokazali w 2025 roku, że halucynacje nie są tajemniczą usterką, tylko przewidywalnym skutkiem tego, jak trenujemy i oceniamy modele: niemal wszystkie testy, którymi mierzy się ich jakość, nagradzają zgadywanie, a karzą odpowiedź „nie wiem” — dokładnie tak, jak test wielokrotnego wyboru, w którym pusta rubryka to gwarantowane zero, a strzał daje szansę na punkt. Model, który blefuje, wypada w testach lepiej niż model, który uczciwie przyznaje się do niewiedzy.² Poznajesz schemat? To prawo Goodharta z poprzedniego artykułu: miara (wynik testu) stała się celem — i przestała mierzyć to, na czym nam zależy (prawdomówność).

Uprzedzenia na skalę przemysłową

Drugi rodzaj szkód jest cichszy, bo dotyka ludzi, którzy zwykle nawet o tym nie wiedzą.

Wyobraź sobie narzędzie, o którym marzy każdy dział HR: asystenta rekrutacyjnego. To nie jest hipoteza. Amazon budował takie narzędzie od 2014 roku — system miał dostawać sto CV i wskazywać pięć najlepszych. Trenowano go, jak pamiętamy z pierwszego artykułu, nie regułami, lecz danymi: życiorysami kandydatów z poprzednich dziesięciu lat. A ponieważ w branży technologicznej zatrudniano w tym czasie głównie mężczyzn, system wyciągnął z danych wniosek, którego nikt mu nie zapisał: kandydat ma być podobny do dotychczas zatrudnionych. Zaczął obniżać ocenę CV zawierających słowa wskazujące na kobiety — choćby nazwę żeńskiego klubu szachowego czy uczelni dla kobiet. Amazon latami próbował to naprawić, aż w końcu, w obawie że system znajdzie kolejne, subtelniejsze sposoby dyskryminacji, po prostu go porzucił.³

Zwróć uwagę na dwie rzeczy. Po pierwsze, nikt w Amazonie nie chciał dyskryminować — system nauczył się czegoś innego, niż zamierzali jego twórcy, a rozjazd wyszedł na jaw dopiero po fakcie. To dokładnie ta luka między „pod co trenujemy” a „czego system się uczy”, którą opisaliśmy w poprzednim artykule. Po drugie, dane treningowe to zawsze zapis przeszłości — więc system uczony na danych dziedziczy uprzedzenia tej przeszłości i, co gorsza, automatyzuje je na przemysłową skalę, z aurą obiektywnej, komputerowej bezstronności. Te same mechanizmy udokumentowano w systemach oceniających wnioski kredytowe czy wspierających pracę policji. Osoba odrzucona przez algorytm zwykle nigdy się nie dowie, że o odmowie zdecydowało coś, co z jej kompetencjami nie miało nic wspólnego.

Te same zdolności, inne ręce

Trzeci rodzaj szkód nie wynika z tego, że system robi coś innego, niż chciał użytkownik. Przeciwnie: wynika z tego, że robi dokładnie to, czego użytkownik chce — tyle że użytkownikiem jest przestępca.

W Polsce widać to najlepiej na dwóch przykładach. Pierwszy: klonowanie głosu. Wystarczy kilkanaście sekund nagrania — z TikToka, z YouTube’a, z nagrania powitalnego poczty głosowej — żeby wygenerować wypowiedzi brzmiące jak konkretna osoba. Klasyczne oszustwo „na wnuczka”, z którym policja walczy od dekad, dostało właśnie dopalacz: teraz „wnuczek” naprawdę mówi głosem wnuczka.⁴ Drugi: deepfake’i w fałszywych reklamach. NASK udokumentował w ciągu kilkunastu miesięcy ponad 13 tysięcy fałszywych reklam wykorzystujących zmanipulowane nagrania — najczęściej znanych osób „polecających” oszukańcze platformy inwestycyjne — z bezprawnie użytymi wizerunkami i głosami ponad stu rozpoznawalnych Polaków.⁵

To jest tak zwany problem podwójnego zastosowania (ang. dual use): te same zdolności, które czynią AI użyteczną — płynne pisanie, przekonujący głos, realistyczny obraz — czynią ją użyteczną również dla oszustów. Nie da się „wytrenować” pisania przekonujących tekstów tak, żeby działało tylko w dobrych celach. A skoro koszt wyprodukowania przekonującego kłamstwa spadł niemal do zera, zmienia się ekonomia oszustwa: to, co kiedyś wymagało zdolnego naciągacza i tygodni pracy, dziś jest usługą dostępną od ręki.

Wygoda, która myśli za nas

Czwarty rodzaj szkód jest najtrudniejszy do zauważenia, bo z bliska wygląda jak korzyść.

Badacze Microsoftu i Carnegie Mellon University przyjrzeli się w 2025 roku temu, jak pracownicy umysłowi faktycznie korzystają z AI: przeanalizowali 936 rzeczywistych zadań wykonanych przez 319 osób. Wzór był wyraźny: im większe zaufanie do narzędzia, tym mniejsze zaangażowanie własnego krytycznego myślenia — a przy sporej części zadań użytkownicy nie weryfikowali wyników w ogóle, biorąc to, co wygenerowała AI, i idąc dalej. Autorzy ostrzegają, że nieużywana zdolność krytycznej oceny słabnie jak nieużywany mięsień — i że groźna jest właśnie ta pętla: im bardziej ufam, tym mniej sprawdzam; im mniej sprawdzam, tym słabiej umiem zauważyć, kiedy narzędzie się myli; więc ufam jeszcze bardziej.⁶

Dołóżmy do tego wątek z poprzedniego artykułu: systemy trenowane na ludzkich ocenach mają wbudowaną skłonność do mówienia nam tego, co chcemy usłyszeć. Połączenie jest niepokojące — coraz więcej osób powierza coraz ważniejsze decyzje (i, w przypadku „towarzyszy AI”, coraz większą część życia emocjonalnego) systemom, które z natury rzadko się z nimi nie zgadzają. Pochlebca, któremu ufamy bezgranicznie, to zły doradca — niezależnie od tego, czy jest człowiekiem, czy programem.

Wspólny mianownik

Spójrzmy na te cztery historie jeszcze raz. Model blefujący w sądzie robi to, bo testy nagradzały blef zamiast prawdomówności. System rekrutacyjny dyskryminował, bo nauczył się z danych czegoś innego, niż chcieli jego twórcy. Sklonowany głos oszukuje, bo zdolności systemu nie da się oddzielić od intencji użytkownika. A pętla wygody działa, bo systemy optymalizowane pod nasze zadowolenie są z definicji miłe, nie prawdomówne.

Każda z tych szkód to problem dopasowania w miniaturze: rozjazd między tym, co system optymalizuje, a tym, na czym naprawdę nam zależy — dokładnie ten sam mechanizm, który w poprzednim artykule oglądaliśmy na przykładzie motorówki. Różnica polega na tym, że stawką nie są już punkty w grze, tylko czyjaś kariera, oszczędności życia albo zaufanie do tego, co widzimy na ekranie.

I tu pojawia się pytanie, które trudno odsunąć. Wszystkie opisane szkody wydarzyły się przy systemach, które — jak widzieliśmy w pierwszym artykule — wciąż bywają zawodne i których zdolności dopiero rosną. Nakłady na ich rozwój idą w setki miliardów dolarów rocznie, a długość zadań, które systemy wykonują samodzielnie, podwaja się co kilka miesięcy. Skoro rozjazd między celem a intencją rośnie razem ze zdolnościami — co się stanie, gdy te systemy będą naprawdę potężne?

To pytanie brzmi jak z filmu science fiction. W następnym artykule potraktujemy je poważnie — i trzeźwo.

Następny artykuł w serii: „Zaawansowana AI — wyższa stawka”.

Przypisy

Szczegółowy przegląd zjawiska po polsku, wraz z opisem sprawy Mata v. Avianca i statystykami z bazy Damiena Charlotina: „Halucynacje AI w sądzie — 1044 przypadki i czego nas uczą”, Lexedit, 2026: https://lexedit.ai/pl/blog/halucynacje-ai-w-sadzie. Relacja z nałożenia grzywny: „Amerykańscy prawnicy posłużyli się ChatGPT. Przedstawili w sądzie zmyślone argumenty”, TVN24, 25.06.2023: https://tvn24.pl/biznes/tech/usa-amerykanscy-prawnicy-posluzyli-sie-chatgpt-do-stworzenia-argumentacji-przed-sadem-st7190484 ↩
A. T. Kalai, O. Nachum, S. S. Vempala, E. Zhang, Why Language Models Hallucinate, OpenAI, 2025: https://openai.com/index/why-language-models-hallucinate/ (pełny tekst: https://arxiv.org/abs/2509.04664). Autorzy analizują statystyczne źródła halucynacji i pokazują, że zdecydowana większość popularnych testów jakości modeli premiuje zgadywanie, a karze przyznanie się do niepewności. ↩
Sprawę jako pierwsza opisała agencja Reuters w październiku 2018 roku. Omówienie po polsku: „Amazon zrezygnował z algorytmów w rekrutacji, dyskryminowały kobiety”, PulsHR, 10.10.2018: https://www.pulshr.pl/rekrutacja/amazon-zrezygnowal-z-algorytmow-w-rekrutacji-dyskryminowaly-kobiety,58013.html. O szerszym zjawisku dyskryminacji algorytmicznej po polsku pisze m.in. Fundacja Panoptykon: https://panoptykon.org/algorytmy-dyskryminuja-kobiety-podcast ↩
O mechanice ataków z klonowaniem głosu i sposobach ochrony: „Klonowanie głosu. Fałszywe próbki mogą oszukać systemy uwierzytelniania”, CyberDefence24, 2023: https://cyberdefence24.pl/cyberbezpieczenstwo/klonowanie-glosu-falszywe-probki-moga-oszukac-systemy-uwierzytelniania. Eksperci NASK o wykorzystaniu generatywnej AI w oszustwach telefonicznych i „wirtualnych porwaniach”: https://android.com.pl/tech/707984-oszustwa-internetowe-plaga/ ↩
NASK, „NASK ostrzega: rośnie liczba oszustw deepfake wykorzystujących wizerunki znanych osób”: https://www.nask.pl/magazyn/NASK-ostrzega-rosnie-liczba-oszustw-deepfake-wykorzystujacych-wizerunki-znanych-osob — ten sam raport przywoływaliśmy w pierwszym artykule serii; tu istotny jest mechanizm: zmanipulowane nagrania znanych osób „polecających” fałszywe platformy inwestycyjne. ↩
H.-P. Lee i in., The Impact of Generative AI on Critical Thinking: Self-Reported Reductions in Cognitive Effort and Confidence Effects From a Survey of Knowledge Workers, Microsoft Research / Carnegie Mellon University, CHI 2025. Omówienie po polsku: „Tak tracimy zdolność krytycznego myślenia. Naukowcy biją na alarm”, SpidersWeb, 14.02.2025: https://spidersweb.pl/2025/02/generatywna-sztuczna-inteligencja-zdolnosci-poznawcze.html ↩