OpenAI ввела возрастную фильтрацию в ChatGPT

Компания OpenAI начала внедрение функции прогнозирования возраста в ChatGPT. Если чат-ботом пользуется несовершеннолетний, к аккаунту применят «соответствующий подход и меры безопасности для подростков».

Если алгоритм ошибочно присвоит статус подростка взрослому, это можно исправить, пройдя верификацию через сервис Persona.
Внедрение функции происходит по всему миру. Она призвана уменьшить контакт подростков с чувствительным и потенциально вредным контентом.

«Это также позволяет нам относиться ко взрослым как ко взрослым и использовать инструменты так, как они того хотят, в пределах безопасности», — говорится в анонсе.

Как работает

Для оценки возраста модель анализирует поведенческие факторы, например время активности в чате. Если OpenAI не уверена в том, сколько лет пользователю, она автоматически выбирает более безопасный вариант.
Добавление дополнительных мер безопасности можно посмотреть в настройках учетной записи. Они ограничивают показ материалов, содержащих:

• сцены насилия и жестокости;
• вирусные челленджи, которые могут поощрять рискованное или вредное поведение;
• ролевые игры сексуального или насильственного характера;
• изображения повреждений себя;
• пропаганду нереалистичных стандартов красоты, строгих диет и критику внешности.

Инициатива основана на научных данных о детском развитии и учитывает специфику подростковой психики.
В дополнение к новому сервису работает родительский контроль. Он позволяет установить «тихие часы» или настроить уведомления при обнаружении признаков острого дистресса.