UE zakaże aplikacji „rozbierających” ludzi. Parlament reaguje na nadużycia AI

Parlament Europejski przyjął poprawki do przepisów dotyczących sztucznej inteligencji, które przewidują zakaz stosowania aplikacji umożliwiających generowanie niechcianych treści o charakterze intymnym. Za przyjęciem zmian opowiedziało się 569 europosłów, przy sprzeciwie 45 i 23 głosach wstrzymujących się.

Nowe regulacje są częścią szerszego pakietu legislacyjnego znanego jako Digital Omnibus. Ma on uprościć i ujednolicić przepisy w obszarze AI, cyberbezpieczeństwa oraz ochrony danych w Unii Europejskiej.

ZOBACZ TEŻ: AI pod kontrolą? Nowe filtry mają zwiększyć bezpieczeństwo młodych użytkowników

Koniec aplikacji nudify

W zeszłym roku, informowaliśmy Was, w jaki sposób Meta walczy z aplikacjami nudify. Ale właściwie, co to takiego? W skrócie: to aplikacje wykorzystujące AI do tworzenia fałszywych nagich zdjęć na podstawie zwykłych fotografii. I co oczywiste, to kontrowersyjny trend, który budzi duże obawy o prywatność, a także bezpieczeństwo w sieci.

Dlatego, jednym z kluczowych elementów wprowadzonych zmian jest jednoznaczny zakaz wykorzystywania sztucznej inteligencji do tworzenia fałszywych, intymnych materiałów. Nowe przepisy obejmują również zakaz tworzenia i rozpowszechniania treści związanych z wykorzystywaniem seksualnym dzieci. 

Reakcja na realne incydenty

Decyzja europarlamentu wpisuje się w szerszy kontekst. Na początku tego roku kontrowersje wywołały działania chatbota Grok AI na platformie X, gdzie użytkownicy masowo generowali zmanipulowane obrazy prawdziwych osób, często bez ich wiedzy i zgody.

Skala procederu spowodowała, że wobec Groka – chatbota stworzonego przez firmę xAI Elona Muska – wszczęto dochodzenia w kilku krajach, w tym w Stanach Zjednoczonych.

Co dalej?

Pakiet Digital Omnibus ma usprawnić wdrażanie przepisów wynikających z unijnej ustawy o sztucznej inteligencji. Według przedstawicieli państw członkowskich celem jest nie tylko zwiększenie bezpieczeństwa, ale również wzmocnienie cyfrowej suwerenności Europy.

Choć Parlament Europejski zatwierdził propozycję dotyczącą zakazu, ostateczna decyzja należy jeszcze do państw członkowskich oraz Komisji Europejskiej. Wstępne sygnały wskazują jednak na szerokie poparcie dla tych przepisów, co oznacza, że regulacje mogą wejść w życie szybciej, niż się spodziewano.