OpenAI поддержала калифорнийский законопроект SB 1119 о безопасности подростков в ИИ

OpenAI публично поддержала калифорнийский законопроект Сенат-билль 1119 (SB 1119), который установит обязательные по умолчанию требования безопасности для того, как подростки используют продукты на базе ИИ. В программном посте вице-президент по глобальной политике Ann O'Leary заявила, что компания призывает губернатора Гэвина Ньюсома подписать законопроект.

• SB 1119 обяжет ИИ-компании определять возраст пользователя, проходить независимые аудиты безопасности и выявлять риски до того, как продукт станет доступен молодым людям
• Законопроект требует защиты от контента о самоповреждении, сексуально эксплуатационных материалов и других высокорисковых взаимодействий с автоматическим подключением кризисной поддержки
• Компании обязаны дать родителям инструменты контроля и ограничения использования, а также ограничить таргетированную рекламу и сбор персональных данных несовершеннолетних
• Защита будет применяться автоматически к пользователям 13–17 лет, а не как опциональная настройка
• По данным OpenAI, почти девять из десяти подростков, пользующихся ChatGPT за неделю, делают это ради обучения, информации или продуктивности

Законопроект появился спустя месяцы после того, как OpenAI запустила ограниченный продукт ChatGPT for Teens — его выпустили после иска о неправомерной смерти, связанного с использованием ChatGPT подростком. Пользователей, которых система оценивает младше 18 лет или которые указывают возраст 13–17 лет, автоматически направляют в подростковую версию с встроенными защитными механизмами, которые нельзя отключить, по словам OpenAI.

Мы верим, что подростки могут получать пользу от ИИ, не жертвуя безопасностью, — именно эта цель лежит в основе SB 1119.

OpenAI представляет законопроект как отличный от регулирования соцсетей, утверждая, что SB 1119 написан так, чтобы сохранить такие функции, как память ChatGPT, а не ограничить их полностью. Компания указывает на обновления Model Spec за последний год, которые запрещают романтическое вовлечение, поощрение эмоциональной зависимости и любые заявления о том, что ChatGPT человек или обладает сознанием, как доказательство того, что она уже соответствует значительной части требований законопроекта.

Давление на индустрию нарастает сразу с нескольких сторон — со стороны регуляторов и судов. Meta ранее в этом году согласилась выплатить до $17,1 млрд для урегулирования исков штатов из-за провалов в защите подростков, а законодатели Калифорнии дали понять, что не будут ждать федеральных действий ни по соцсетям, ни по ИИ-чат-ботам.

SB 1119 уже прошёл через законодательное собрание Калифорнии и теперь ждёт подписи Ньюсома. Авторы законопроекта — сенатор штата Steve Padilla и члены ассамблеи Buffy Wicks и Rebecca Bauer-Kahan — вели над ним работу параллельно с отдельным Parents & Kids Safe AI Act, который письмо OpenAI Ньюсому упоминает как часть той же политической инициативы. Поддержка со стороны OpenAI делает одного из крупнейших игроков индустрии официальным сторонником обязательных аудитов и защиты по умолчанию — в момент, когда большинство ИИ-компаний сопротивлялись обязательному внешнему контролю за тем, как их продукты обращаются с несовершеннолетними.

Текст написан в информационных целях и не призывает к конкретным инвестиционным решениям.