Несовершеннолетняя нейросеть. OpenAI представила ChatGPT для подростков
Отдельно регистрироваться в «подростковом ChatGPT» не потребуется, сообщается в пресс-релизе OpenAI. Если пользователь сам укажет возраст от 13 до 17 лет или система определения возраста решит, что ему еще не исполнилось 18, его автоматически переведут в ChatGPT for Teens. Для таких аккаунтов специальные ограничения будут включены по умолчанию. OpenAI подчеркивает, что при создании системы исходила из четырех принципов: ставить безопасность подростков на первое место, при необходимости направлять их за помощью к реальным людям, учитывать особенности возраста и объяснять то, как работает нейросеть.
Одно из главных отличий новой версии касается учебы. OpenAI пытается решить проблему, с которой школы столкнулись почти сразу после появления генеративного ИИ: школьник может попросить чат-бота выполнить за него домашнее задание и просто переписать готовый ответ. В ChatGPT for Teens основной акцент сделан на Study Mode (учебный режим). Вместо того чтобы сразу выдавать решение, нейросеть должна задавать наводящие вопросы, разбивать задачу на этапы и проверять, понял ли пользователь материал. Кроме того, появились специальные напоминания: если система замечает, что подросток пытается просто получить готовое домашнее задание, она может предложить переключиться в Study Mode. Доступны также тесты и визуальные объяснения сложных тем.
У родителей появляется возможность влиять на то, как ребенок пользуется нейросетью. В связанных семейных аккаунтах они смогут устанавливать «тихие часы», когда ChatGPT будет детям недоступен, менять некоторые настройки и задавать периоды, когда учебный режим включается автоматически. В отдельных ситуациях повышенного риска система может отправить родителям уведомление. При этом OpenAI заявляет, что не собирается передавать им содержание обычных разговоров подростка с чат-ботом: предупреждения должны касаться только ограниченного круга ситуаций, когда компании кажется особенно важной помощь реального человека вне интернета. В частности, OpenAI расширяет систему таких уведомлений на случаи, связанные с расстройствами пищевого поведения.
Меняется и поведение самой нейросети. Для несовершеннолетних усилены ограничения на разговоры о самоповреждении, насилии, опасных действиях, расстройствах пищевого поведения, сексуальном и другом неподходящем по возрасту контенте. Но разработчики обращают внимание еще на одну проблему — подросток может начать воспринимать чат-бота как друга или даже романтического партнера. Поэтому ChatGPT for Teens не должен флиртовать с пользователем, изображать романтические отношения, убеждать подростка в наличии у ИИ настоящих чувств или поощрять эмоциональную зависимость от него. Одновременно чат-бот будет напоминать, что он — программа, а не человек.
OpenAI пытается ограничить и чрезмерное использование сервиса. ChatGPT сможет предлагать подростку сделать перерыв, а перед загрузкой фотографий, которые могут вызвать сильную эмоциональную реакцию — напоминать о возможных рисках. При этом компания не хочет превращать подростковую версию в полностью закрытую систему. Подросткам разрешат, например, возможность менять цвет оформления и выбирать варианты голоса.До появления ChatGPT for Teens подростки, как известно, активно пользовались «взрослым» ChatGPT. Удастся ли перевести их на кастрированную версию — пока сложно сказать. Опыт Австралии, которая ввела запрет на нейросети для несовершеннолетних, и не только Австралии, показывает, что тинейджеры успешно обходят всякие там возрастные ограничения и родительский контроль. Захотят ли подростки поменять друга, делающего за них уроки и дающего полезные советы на взрослые темы, на занудную училку, мешающую жить и стучащую родителям? Интересный вопрос.
в Telegram канале
Другие статьи
