Meta w walce przeciwko aplikacjom nudify
W dobie narzędzi opartych na sztucznej inteligencji, obok niemal już niezliczonych możliwości, które ułatwiają nam funkcjonowanie w świecie cyfrowym, jest też ogrom zagrożeń. Jednym z wielu niebezpieczeństw są tzw. aplikacje nudify, które potrafią generować nagie zdjęcia konkretnych osób. W ostatnich dniach firma Meta, odpowiadająca za Facebooka, Instagrama, Messengera czy WhatsAppa, ogłosiła plany dotyczące walki z tego typu aplikacjami.
Jak Meta będzie zwalczać aplikacje do generowania nagich zdjęć?
Oprogramowanie, które umożliwia tworzenie nagich zdjęć bez zgody ofiary to poważny problem. Przede wszystkim, takich narzędzi jest bardzo wiele, do tego stale pojawiają się nowe, dlatego walka z nimi wymaga ciągłego trzymania ręki na pulsie. Meta przede wszystkim zakazała promowania aplikacji nudify – z Facebooka i Instagrama usuwane są powiązane strony, profile, a także reklamy tego typu narzędzi. Co więcej, serwisy te blokują też linki do stron internetowych.
To jednak nie wszystko – w ostatnich dniach Meta zapowiedziała pozew sądowy. Skierowany on będzie przeciwko firmie Joy Timeline HK Limited, która odpowiada za aplikacje CrushAI. Dzięki temu Meta chce zbiorczo uniemożliwić temu podmiotowi reklamowanie produktów na swoich platformach. Krok ten ma być konieczny, ponieważ Joy Timeline HK Limited nieustannie stara się na różne sposoby omijać weryfikację reklam stosowaną przez Meta. Jeśli proces ten uda się wygrać, szansa na walkę z podobnymi podmiotami byłaby znacznie większa także w przyszłości. Dodatkowym rozwiązaniem, które ma utrudnić działanie takim aplikacjom, jest program Lantern Tech Coalition. Meta chce powiadamiać z jego pomocą inne firmy, które będą mogły dzięki temu także sprawniej działać w walce z tym problemem. Jak podano w artykule, od końca marca br., Meta udostępniła już ponad 3800 adresów URL innym firmom uczestniczącym w programie. Dotyczy to również materiałów naruszających bezpieczeństwo dzieci.
Dlaczego blokowanie aplikacji nudify jest takie trudne?
Twórcy aplikacji do generowania nagich zdjęć nie ustają w wysiłkach, poszukując nowych sposobów na ominięcie zabezpieczeń Mety. W rezultacie, mimo obostrzeń co do reklam oraz ich sukcesywnego usuwania, te stale pojawiają się w serwisach. Co więcej, producenci, których domeny są blokowane, tworzą regularnie nowe adresy, których nie ma jeszcze na czarnej liście Mety. Dlatego też gigant serwisów społecznościowych stworzył bardziej skomplikowane rozwiązania – technologię, która sprawniej wykrywa i usuwa reklamy powiązane z aplikacjami typu nudify, szukając dopasowań oraz reklam naśladujących. Dodatkowo, we współpracy ze specjalistami, opracowano szeroką listę haseł, fraz czy emotikonów, które mogą być charakterystyczne dla zakazanych treści. Dzięki temu systemy blokujące szybciej je wykrywają.
Jakie zagrożenia niosą za sobą aplikacje nudify?
NCII (non-consensual intimate imagery), czyli obrazy nacechowane seksualnie, wykonywane bez czyjejś zgody to główny problem związany z aplikacjami typu nudify. To tylko wierzchołek góry lodowej, ponieważ tworzy to pole do wielu nadużyć. Ofiarami są najczęściej kobiety, młodzież, w tym nieletni. Jest to nadużycie, które może wywołać u ofiary cały szereg negatywnych konsekwencji psychologicznych oraz społecznych. W dodatku tego typu wygenerowane sztucznie materiały mogą stać się narzędziem do szantażu – mamy wtedy do czynienia ze zjawiskiem sextortion. W takich przypadkach przestępcy próbują wyłudzić od ofiary pieniądze. Najczęściej pod groźbą upublicznienia nagich obrazów lub wysłania ich do najbliższych – rodziny, przyjaciół czy pracodawcy.
Nie tak dawno mieliśmy do czynienia z tym przestępstwem w jednej z podwarszawskich szkół podstawowych. Artykuł na ten temat można znaleźć, np. na łamach dziennika Rzeczpospolitej. Sprawa trafiła ostatecznie na policję. To oczywiście niejedyny podobny przypadek, a ofiar tego procederu stale przybywa.
Meta dodaje, że kroki prawne podjęte w walce z tym procederem mają podkreślić powagę, z jaką traktują nadużycia związane z aplikacjami nudify. Zobowiązują się tym samym do najwyższych starań w celu ochrony użytkowników. Chociaż zdajemy sobie sprawę, że podjęte działania nie rozwiążą w pełni wszystkich problemów z tej kategorii, jest to niezwykle istotny krok w kierunku zwiększenia bezpieczeństwa w sieci i ograniczenia możliwych zagrożeń.
Chcesz być zawsze na bieżąco z informacjami ze świata cyberbezpieczeństwa? Odwiedź naszego bloga i nie przegap żadnych najnowszych doniesień!