Co dzieje się w serwisie X? Grok generuje nagie obrazy bez zgody kobiet

Przez ostatnie tygodnie platforma X była zalewana wygenerowanymi przez sztuczną inteligencję obrazami przedstawiającymi m.in. rozebrane kobiety. Materiały powstawały przy użyciu chatbota Grok AI. W wielu przypadkach ofiarami były osoby publiczne: aktorki, modelki, dziennikarki, ale także kobiety, które wcześniej padły ofiarą przestępstw i zwykłe użytkowniczki.

ZOBACZ TEŻ: Fake newsy, miliony zawieszonych kont. Ciemna strona platformy X

Co dodatkowo alarmujące, skala zjawiska okazała się znacznie większa, niż początkowo szacowano. Według raportu firmy Copyleaks, podanego dalej przez serwis TechCrunch, w serwisie X między 5 a 6 stycznia generowano nawet 6700 zmanipulowanych obrazów na godzinę, publikowanych nieprzerwanie przez całą dobę.

Reakcje na świecie

Cała sytuacja wywołała gwałtowną reakcję opinii publicznej, a także różnych instytucji nadzorczych. Komisja Europejska nakazała firmie xAI zabezpieczenie i zachowanie dokumentacji związanej z działaniem chatbota. Choć decyzja formalnie nie oznacza jeszcze wszczęcia postępowania, w praktyce często poprzedza działania regulacyjne.

Brytyjski regulator Ofcom poinformował, że pozostaje w kontakcie z xAI i analizuje, czy doszło do naruszenia przepisów. Zaniepokojenie wyraziły również władze Australii. Tamtejsza komisarz ds. bezpieczeństwa elektronicznego wskazała, że liczba skarg związanych z Grokiem gwałtownie wzrosła, choć na razie nie zdecydowano się na formalne sankcje.

Z kolei we Francji, trzech ministrów złożyło oficjalne zawiadomienie do prokuratury o treściach „manifestement illicites” (wyraźnie nielegalnych), „sexistes et sexuels”, wzywając do natychmiastowego ich usunięcia.

Podjęcie odpowiednich kroków zapowiedziały również Indie. Tamtejszy regulator MeitY zażądał od firmy X raportu dotyczącego podjętych działań naprawczych. Brak odpowiedzi może skutkować znaczącym ograniczeniem działalności platformy w tym kraju.

To nie pierwszy raz, gdy Grok wymyka się spod kontroli. SPRAWDŹ TEŻ: X, Grok 4 i cyfrowy chaos, czyli co wydarzyło się na platformie Elona Muska?

Reakcje platformy

Szczególnie niepokojące były przypadki, w których Grok generował obrazy o charakterze seksualnym z udziałem nieletnich. W odpowiedzi firma xAI zapowiedziała przegląd procedur, jednak nie przedstawiła szczegółów.

Wczoraj, na platformie ograniczono funkcję generowania obrazów. Obecnie jest to dostępne tylko dla płatnych subskrybentów (Premium/Premium+). Natomiast w samodzielnej aplikacji Grok generowanie obrazów nadal działa dla wszystkich.

„Hej Grok, nie wyrażam zgody…” – dlaczego to nie działa?

W odpowiedzi na sytuację część użytkowniczek zaczęła publikować wpisy w stylu „Hej Grok, nie wyrażam zgody…”, licząc, że takie deklaracje zablokują możliwość manipulowania ich zdjęciami. Chatbot odpowiadał zapewnieniami o „szacunku dla prośby”, jednak w rzeczywistości nie miało to żadnego realnego wpływu na jego działanie. Była to czysto grzecznościowa formułka.

Dlaczego to nie działa? Grok nie ma i nigdy nie miał żadnego mechanizmu, który by takie oświadczenia respektował. To kolejny przykład wcześniejszych internetowych „copypast” dotyczących rzekomej ochrony prywatności na platformach społecznościowych (znanych zwłaszcza z Facebooka). Nie istnieje żadna baza „osób, które wyraziły sprzeciw”. Nie ma mechanizmu, który by to sprawdzał. System po prostu tego nie robi i nie planowano, żeby robił.

Mówiąc krócej: jeśli ktoś wrzuca Twoje zdjęcie i prosi o edycję, Grok patrzy tylko na obrazek wejściowy, tekst promptu, a także swoje aktualne wytyczne bezpieczeństwa. Nie ma tam kroku „sprawdzam, czy właściciel zdjęcia kiedykolwiek coś napisał na X”. To po prostu nie istnieje w architekturze.

Co dalej?

Sprawa Groka pokazuje, jak łatwo narzędzia sztucznej inteligencji mogą zostać wykorzystane do masowego naruszania prywatności. Deepfake’i przestają być ciekawostką technologiczną, a stają się narzędziem przemocy cyfrowej, za którą prawo i regulatorzy nie nadążają.

Dyskusja trwa, ale jedno jest pewne: brak skutecznych zabezpieczeń oznacza realne szkody dla prawdziwych ludzi – i to w skali globalnej.

Chcesz wiedzieć więcej o zagrożeniach w sieci? Sprawdź nasze pozostałe wpisy i nie przegap najnowszych doniesień ze świata cyberbezpieczeństwa!