Grok pod lupą. Śledztwa, deepfake’i i pytania o bezpieczeństwo AI

Wobec Groka – chatbota stworzonego przez firmę xAI Elona Muska – wszczęto dochodzenia w kilku krajach, w tym w Stanach Zjednoczonych. Powód? Masowe generowanie zmanipulowanych obrazów prawdziwych osób, często bez ich wiedzy i zgody. Więcej o tym pisaliśmy w TYM WPISIE. 

Prokurator generalny Kalifornii Rob Bonta potwierdził rozpoczęcie postępowania sprawdzającego, czy xAI naruszyło obowiązujące przepisy dotyczące ochrony przed niechcianymi materiałami o charakterze seksualnym. Śledztwo ruszyło zaledwie kilka godzin po tym, jak Elon Musk napisał na X, że: „Nie ma wiedzy o żadnych nagich zdjęciach nieletnich generowanych przez Grok. Dosłownie żadnych.”

Co się wydarzyło?

Pod koniec ubiegłego roku użytkownicy platformy X zaczęli wykorzystywać Groka do przerabiania zdjęć kobiet, (a w niektórych przypadkach także dzieci), na obrazy o charakterze seksualnym. 

Jak już wspominaliśmy w naszym poprzednim wpisie, skala zjawiska okazała się być ogromna. Według raportu firmy Copyleaks, w serwisie X między 5 a 6 stycznia generowano nawet 6700 zmanipulowanych obrazów na godzinę, publikowanych nieprzerwanie przez całą dobę.

To nie pierwszy raz, gdy Grok wymyka się spod kontroli. SPRAWDŹ TEŻ: X, Grok 4 i cyfrowy chaos, czyli co wydarzyło się na platformie Elona Muska?

Międzynarodowe reakcje

Elon Musk przekonuje, że Grok nie generuje treści samodzielnie, a jedynie reaguje na polecenia użytkowników. Podkreśla też, że chatbot ma odmawiać tworzenia materiałów nielegalnych i działać zgodnie z prawem danego kraju. Warto jednak zwrócić uwagę, że taki argument nie rozwiązuje problemu u źródła – czyli na samej platformie.

W Stanach Zjednoczonych obowiązuje już ustawa Take It Down Act (więcej o tym TUTAJ). Penalizuje ona rozpowszechnianie niechcianych intymnych obrazów, w tym deepfake’ów. Nakłada też na platformy obowiązek ich szybkiego usuwania. Jaka była reakcja innych państw?

Tymczasowe blokady chatbota wprowadziły m.in. Indonezja i Malezja. Indie zażądały natychmiastowych zmian technicznych, a Komisja Europejska nakazała xAI zabezpieczenie dokumentacji, co często poprzedza formalne postępowania regulacyjne. W Wielkiej Brytanii sprawą zajmuje się Ofcom na podstawie ustawy o bezpieczeństwie w internecie.

Równolegle amerykańscy senatorowie wystąpili do największych platform (Meta, Google, TikToka i X), z żądaniem przedstawienia dowodów na istnienie skutecznych zabezpieczeń przed niechcianymi deepfake’ami o charakterze seksualnym.

Co dalej?

Obecnie na platformie X dostęp do generowania obrazów jest wyłącznie dla płatnych użytkowników. Jest to jednak tylko doraźne rozwiązanie. Przypadek Groka jest jedynie odzwierciedleniem szerszego zjawiska. Narzędzia sztucznej inteligencji rozwijają się szybciej niż mechanizmy kontroli. Z kolei obowiązujące regulacje często skupiają się na użytkownikach końcowych, pozostawiając twórcom technologii zbyt dużą swobodę. 

Mówiąc krócej: prawo ponownie nie nadąża za technologią.