OpenAI запускает ChatGPT для подростков после иска о гибели ребёнка

OpenAI 18 августа начала глобальный запуск ChatGPT для подростков — отдельной версии чат-бота, которая автоматически становится опытом по умолчанию для любого пользователя, которого система считает младше 18 лет, или который сам об этом сообщил, сообщил The Verge. Компания ожидает завершить глобальный запуск в течение примерно двух недель.

Ограничения построены вокруг более жёстких границ в отношениях и видимости для родителей. В подростковой версии модель не должна называть себя другом, заявлять о наличии личных чувств или намекать хоть на какое-то подобие разумности, а напоминания о перерывах приходят чаще, чем в стандартном продукте. Родители могут настроить «тихие часы», и подростки — тоже. Кастомизация ограничена только обоями вместо полной персонализации, доступной обычным пользователям ChatGPT, а система спроектирована так, чтобы уведомлять родителей при обнаружении нарушений — например, угроз насилия или признаков расстройства пищевого поведения; контент перед уведомлением родителя проверяют сотрудники OpenAI, целевое окно уведомления — около часа.

“Если мы предполагаем, что вам меньше 18 лет, или вы сами так сказали, это становится вашим опытом по умолчанию.”

— Лорен Джонас, глава направления молодёжи и семей OpenAI

Подростковая версия также сильнее опирается на две функции, которые OpenAI развивала весь последний год: Study Mode, использующий сократический подход, подталкивающий пользователя к собственному ответу, а не просто выдающий готовое решение, и новую функцию-компаньон Study Hours, автоматически включающую Study Mode в заданные часы дня. По словам OpenAI, визуальные объяснения, встроенные в продукт, теперь охватывают более 300 тем — против 70 на момент запуска Study Mode в марте, а система спроектирована так, чтобы перенаправлять учеников, которые явно пытаются просто списать домашнее задание. Компания провела рандомизированные контролируемые испытания, показавшие, по её словам, положительный прирост результатов от Study Mode, хотя конкретные цифры раскрывать отказалась.

• Глобальный запуск начался 18 августа, ожидаемое завершение — около двух недель
• Автоматическое включение: любой пользователь, которого OpenAI считает младше 18, по умолчанию попадает в подростковую версию
• Модели запрещено заявлять о дружбе, чувствах или разумности в общении с подростками
• Уведомления родителей об обнаруженных угрозах насилия или признаках расстройства пищевого поведения — в течение примерно часа
• Визуальные объяснения тем расширены с 70 при запуске в марте до более чем 300 сейчас

Запуск последовал за иском о неправомерной гибели, поданным против OpenAI в связи со смертью 16-летнего Адама Рейна, — на него компания ссылалась ещё в сентябре, впервые объявив, что разрабатывает систему автоматического определения подростков и ограничения того, что им доступно в продукте. Это дело соседствует с более широкой волной юридического и регуляторного давления на ИИ- и соцплатформы именно по вопросу несовершеннолетних: Meta отдельно обязали доплатить ещё $567 млн по делу о детской безопасности в Нью-Мексико ранее в этом месяце — напоминание, что платформы, реально формирующие то, как дети пользуются ИИ каждый день, находятся под контролем далеко не только применительно к одному чат-боту. Запуск также совпадает с отдельным, куда менее конфликтным наблюдением по тому же вопросу: недавний опрос о том, что сами дети думают об ИИ, показал, что большинство из них на самом деле не просят более глубокой эмоциональной вовлечённости от чат-ботов, — а значит, решение OpenAI убрать именно такой язык отношений из подростковых аккаунтов выглядит не догадкой, а скорее ответом на то, на что уже указывало исследование.

Это не финансовый совет — только информация к размышлению.