OpenAI testuje nowe zabezpieczenia w ChatGPT. Co na to użytkownicy?

OpenAI rozpoczęło testy nowego systemu bezpieczeństwa w swoim chatbocie AI. Do aplikacji trafiły mechanizmy automatycznego przełączania między modelami ChatGPT, w zależności od treści rozmowy. Kolejną nowością jest kontrola rodzicielska. Zmiany mają poprawić bezpieczeństwo korzystania z aplikacji, jednak nie wszystkim się one spodobały. Jaka była reakcja użytkowników?

Nowe podejście do rozmów?

System tzw. routing safety został zaprojektowany tak, żeby wykrywać rozmowy o charakterze emocjonalnym i automatycznie przełączać model na GPT-5. Według OpenAI właśnie ta wersja jest najlepiej przygotowana do bezpiecznej obsługi trudnych tematów, takich jak kryzysy psychiczne czy pytania o życie oraz zdrowie.

GPT-5 wyposażono w nową funkcję, która z większą odpowiedzialnością i wrażliwością udziela odpowiedzi – zamiast odmowy lub niebezpiecznego potwierdzania narracji użytkownika. Zmiany są dokonywane w świetle pozwu wobec OpenAI, w którym rodzice jednego z nastolatków twierdzą, że chatbot firmy, przyczynił się do tego, że ich syn odebrał sobie życie.

GPT-4o kontra GPT-5

Zmiany wywołały jednak kontrowersje. Część użytkowników wprost zarzuciła OpenAI, że nowe zabezpieczenia odbierają całą swobodę korzystania z narzędzia. W sieci pojawiły się głosy, że firma „traktuje dorosłych jak dzieci”. Krytycy wskazują też na utratę cech GPT-4o – szybkiego, przyjaznego i (zdaniem wielu), bardziej naturalnego w rozmowach.

OpenAI podkreśla jednak, że routing jest tymczasowy i dynamiczny. Przełączenia odbywają się tylko w określonych momentach, a użytkownik może sprawdzić, który model obsługuje rozmowę.

O kulisach walki OpenAI z cyberzagrożeniami przeczytasz TUTAJ.

Kontrola rodzicielska w ChatGPT?

Drugą nowością jest system kontroli rodzicielskiej, a także nowa strona ze specjalnymi materiałami i wskazówkami dla rodziców. 

Żeby skonfigurować kontrolę rodzicielską, rodzic lub opiekun musi wysłać nastolatkowi zaproszenie do połączenia kont. Po jego zaakceptowaniu można dostosować sposób korzystania z ChatGPT przez dziecko w ustawieniach. Rodzic może to zrobić z własnego konta. Nastolatkowie mogą również zaprosić opiekunów do połączenia.

Co ważne – jeśli dziecko odłączy swoje konto, rodzic zostanie o tym powiadomiony.

Jakie ustawienia mogą wprowadzić rodzice? Są to m.in.: 

• Ustawienie cichych godzin. 
• Zablokowanie trybu głosowego. 
• Wyłączenie generowania obrazów i pamięci rozmów. 
• Zrezygnowanie z trenowania modelu na podstawie konwersacji.

Konta młodszych użytkowników zyskały też dodatkowe filtry treści. Mają one za zadanie blokować brutalne sceny czy ekstremalne ideały piękna. Wprowadzono także narzędzia umożliwiające wykrywanie potencjalnych sygnałów samookaleczenia. W przypadku wykrycia zagrożenia system może powiadomić rodziców. Jak czytamy na blogu OpenAI:

„Jeśli nasze systemy wykryją potencjalne zagrożenie, niewielki zespół specjalnie przeszkolonych osób analizuje sytuację. Jeśli pojawią się oznaki ostrego stresu, skontaktujemy się z rodzicami za pośrednictwem poczty elektronicznej, SMS-ów i powiadomień push na ich telefonach, chyba że zrezygnują z otrzymywania powiadomień”. 

OpenAI przyznaje, że system nie będzie wolny od błędów i może zdarzyć się fałszywy alarm, jednak ich zdaniem, lepiej nadmiernie ostrzec niż przeoczyć realne zagrożenie. Firma pracuje również nad sposobami skontaktowania się z organami ścigania lub służbami ratunkowymi w przypadku wykrycia bezpośredniego zagrożenia życia, gdy nie ma możliwości skontaktowania się z rodzicem.

Open AI zapowiedziało również, że w nadchodzących miesiącach będzie rozwijać system rozpoznawania wieku tak, żeby dało się przewidzieć, czy użytkownik ma poniżej 18 lat. W ten sposób, ChatGPT będzie mógł automatycznie stosować ustawienia odpowiednie dla nastolatków.

Co dalej?

Oczywiście kierunek, jaki obrała firma jest właściwy i potrzebny. Jednak dla części użytkowników wprowadzone rozwiązania ograniczają swobodę, a także zmieniają charakter samej aplikacji. OpenAI zapowiedziało już, że daje sobie 120 dni na dopracowanie nowych mechanizmów, zanim staną się one stałym elementem ChatGPT. My z pewnością będziemy to bacznie obserwować.

A jeśli chcesz wiedzieć, jak zapewnić swojemu dziecku bezpieczne poruszanie się po sieci, to sprawdź naszego ebooka CyberBezpieczny Dzieciak.