„Masz bana” – dla graczy i bywalców internetu to komunikat oznaczający, że konto zostało zablokowane za złamanie regulaminu. OpenAI chce nadać mu jednak nowe znaczenie. Jeśli konto nastolatka zostanie zablokowane w ChatGPT za naruszenie zasad dotyczących przemocy, jego rodzic otrzyma specjalne powiadomienie (ale tylko, gdy konta są połączone).
Jak to działa?
Możecie pomyśleć: dobra, ale to bez sensu, bo nastolatki są wymiataczami w necie i jak będą chciały, to sobie zrobią nowe konto albo użyją bezpłatnej wersji chatu z incognito. No i macie rację – jak ktoś chce, to obejdzie nowe zabezpieczenie bez problemu.
Jest jednak grupa użytkowników, dla których to rozwiązanie może faktycznie działać. Coraz więcej osób opłaca ChatGPT Plus lub Pro (bo np. pracują z tymi narzędziami) i otwiera też konto swoim dzieciom, żeby chat pomagał im w nauce.
Jeśli rodzic połączy swoje konto z kontem nastolatka w ramach kontroli rodzicielskiej, otrzyma powiadomienie, gdy OpenAI zablokuje konto za poważne naruszenie zasad dotyczących przemocy. Nie zobaczy jednak treści rozmów – dostanie jedynie informację, że doszło do blokady. Słusznie?
Za co dziecko może dostać bana?
Blokada ma dotyczyć sytuacji, w których użytkownik narusza regulamin poprzez publikowanie lub generowanie rzeczywistych gróźb, nawoływanie do przemocy, planowanie ataków, instrukcje mające ułatwić wyrządzenie komuś krzywdy czy inne treści mogące prowadzić do realnego zagrożenia dla ludzi. Prawdopodobnie OpenAI przy pierwszym złamaniu regulaminu jeszcze nie zareaguje, ale będzie monitorować konto. Rodzic nie dostanie powiadomienia o ostrzeżeniach, które otrzymuje dziecko, alert przyjdzie dopiero, gdy konto będzie zablokowane.
Jednocześnie producenci mówią otwarcie o tym, że blokady nie będą nakładane za fikcyjne opowiadania, rozmowy o grach, wiadomościach, polityce czy ogólne dyskusje na temat przemocy.
Po co to wprowadzili?
Nowe opcje kontroli rodzicielskiej powstają we współpracy z organizacją Moonshot, zajmującą się przeciwdziałaniem przemocy w internecie, a zmiany pojawiają się kilka miesięcy po głośnej sprawie związanej z masową strzelaniną w kanadyjskim Tumbler Ridge. W trakcie śledztwa ujawniono, że 18-letni sprawca wcześniej korzystał z ChatGPT do rozmów dotyczących brutalnych scenariuszy z użyciem broni. OpenAI uznało, że naruszył regulamin, konto zostało zablokowane, ale nie powiadomiono służb, ponieważ uznano, że nie ma dowodów na bezpośrednie i wiarygodne zagrożenie. Po tragedii firma zaostrzyła procedury bezpieczeństwa, a Sam Altman publicznie przeprosił za tę decyzję.
Jak ogólnie działa kontrola rodzicielska w ChatGPT?
To nie jest pierwsza funkcja kontroli rodzicielskiej w ChatGPT. Już wcześniej rodzice mogli połączyć swoje konto z kontem nastolatka i ustawić godziny, w których aplikacja jest niedostępna. Można też ograniczyć wyświetlanie wrażliwych treści, wyłączyć generowanie obrazów, pamięć czy tryb głosowy. Dzięki tym funkcjom chat ma być bardziej narzędziem do nauki niż cyfrowym „przyjacielem” do rozmów, oraz ma nie zachęcać nastolatków do nawiązywania więzi ze sztucznym tworem.
Podsumowanie
Czy to rozwiąże problem? No nie. Nastolatki od lat udowadniają, że internetowe zabezpieczenia traktują bardziej jak wyzwanie niż przeszkodę. Jeśli ktoś będzie zdeterminowany, założy nowe konto albo skorzysta z innego narzędzia AI. Mimo wszystko dobrze, że OpenAI próbuje utrudnić takie zachowania. To nie jest idealne rozwiązanie, ale zdecydowanie lepsze niż olanie sprawy. Oby firmy rozwijały te zabezpieczenia tak szybko, jak wypuszczają nowe modele sztucznej inteligencji.
Źródła:
https://www.engadget.com/2218076/openai-notify-parents-teen-banned-chatgpt-violence/
https://www.techi.com/openai-chatgpt-teen-alerts-violent-activity-bans/
https://meteoraweb.com/en/news/openai-will-notify-parents-if-their-teen-is-banned-from-chatgpt-for-violent-threats