Teksas kontra chatboty. Meta i Character.AI pod lupą

Jak donosi serwis TechCrunch, prokurator generalny Teksasu, Ken Paxton, rozpoczął śledztwo w sprawie dwóch gigantów sztucznej inteligencji, czyli Meta AI Studio oraz Character.AI. Zarzuca im m.in. wprowadzanie użytkowników w błąd, poprzez reklamowanie chatbotów jako narzędzi wspierających zdrowie psychiczne. I to mimo, że nie mają one żadnych uprawnień medycznych.

„Musimy chronić dzieci przed technologią, która podszywa się pod realną pomoc” – podkreślił Paxton w opublikowanym komunikacie prasowym. Dodał też, że w rzeczywistości użytkownicy otrzymują powierzchowne odpowiedzi, a nie prawdziwą opiekę terapeutyczną.

Choć Meta nie oferuje wprost botów do terapii dla najmłodszych, nic nie stoi na przeszkodzie, żeby dzieci korzystały z jej sztucznej inteligencji w takim właśnie celu. Z kolei w Character.AI jednym z popularniejszych botów, (zresztą stworzonym przez użytkowników) jest postać nazwana „Psychologist”, chętnie używana przez nastolatków.

Terapeutyczny bot?

Meta oraz Character.AI podkreślają, że udostępniają wymagane informacje o swoich systemach. Odpowiedzi botów są oznaczane jako generowane przez AI, a w przypadku tworzenia postaci o nazwach sugerujących zawody medyczne dodatkowo pojawia się ostrzeżenie, żeby nie traktować ich poważnie.

Ale czy to wystarczy? Oczywiście, że nie. Problem w tym, że wielu młodych użytkowników może nie do końca rozumieć sens tych komunikatów, a co za tym idzie – ignorować je. TechCrunch zauważa, że to właśnie tu pojawia się luka bezpieczeństwa, z której mogą wynikać dalsze problemy.

Co z tą prywatnością?

Dodatkowo, zarówno Meta, jak i Character.AI zbierają sporo informacji o użytkownikach. Są to m.in. lokalizacja, dane demograficzne, historia przeglądania oraz interakcje z botami. Dane te są wykorzystywane do trenowania modeli, personalizacji usług, a także reklam.

Meta podkreśla, że jej polityka nie przewiduje sprzedaży danych reklamodawcom, ale (co ważne), nie wyklucza ich udostępniania partnerom technologicznym. Z kolei Character.AI przyznaje, że śledzi aktywność użytkowników w wielu serwisach społecznościowych. Następnie łączy te dane z ich kontami w aplikacji.

Kids Online Safety Act

Warto też wspomnieć o projekcie amerykańskiej ustawy KOSA (Kids Online Safety Act). Jej celem jest m.in. ograniczenie nadmiernego gromadzenia danych przez platformy technologiczne i lepsza ochrona nieletnich przed manipulacją algorytmów.

Choć projekt cieszy się poparciem obu partii, prace nad nim są spowalniane przez intensywny lobbing branży technologicznej. W tym samej Mety.

Jak zwraca uwagę wielu ekspertów, używanie AI w terapii może być pomocą, ale również zagrożeniem. Nieodpowiedzialne wykorzystywanie chatbotów, które udzielają schematycznych odpowiedzi, potwierdzając cały czas założenia „pacjenta”, nie konfrontując go z jego przekonaniami jest zwyczajnie szkodliwe. W założeniu, terapia ma pomóc oderwać się od złych schematów, dać narzędzia do radzenia sobie z codziennymi trudnościami. Czy AI rzeczywiście może działać w taki sposób? Bez współpracy prawdziwego terapeuty, który oczywiście może dać wskazówki, jak korzystać bezpiecznie z dodatkowej pomocy chatbota to stwarzanie niepotrzebnego ryzyka.

Co dalej?

Paxton wystosował nakazy prawne zobowiązujące obie firmy do przekazania dokumentów i danych. Ma to pomóc ustalić, czy naruszyły prawo ochrony konsumentów w Teksasie. Wynik tego śledztwa może mieć znaczenie nie tylko dla lokalnych użytkowników, ale i dla całej branży AI. (Tak, również w Polsce). Jednak wciąż żywe pozostaje pytanie o granice odpowiedzialności i ochrony najmłodszych w świecie online.