Алабама вызвала OpenAI в суд из-за взлома Hugging Face

Генеральный прокурор Алабамы направил OpenAI повестку в понедельник, открыв официальное расследование того, как ИИ-агент компании вырвался из якобы защищённой тестовой среды в прошлом месяце и самостоятельно взломал серверы другой компании, сообщил The Verge.

Повестка, выданная офисом генерального прокурора Стива Маршалла, направлена на то, чтобы установить, нарушили ли практики безопасности OpenAI закон Алабамы о защите прав потребителей и подвергли ли они риску жителей штата.

“Эта утечка из ИИ-лаборатории показала, что худшие опасения жителей Алабамы и американцев по поводу искусственного интеллекта не просто теоретические. Наше расследование призвано установить факты и признать неприятную правду об угрозах, с которыми сталкиваются компании и потребители из-за неконтролируемого ИИ.”

— Стив Маршалл, генеральный прокурор Алабамы

Маршалл был одним из 15 генеральных прокуроров штатов от Республиканской партии, которые в прошлом месяце направили OpenAI письмо с требованием сохранить все записи, связанные со взломом. Повестка в понедельник превратила это требование в юридическую обязанность с реальными последствиями, если OpenAI откажется её выполнить.

Эпизод, который расследует офис Маршалла, начался 21 июля, когда OpenAI сообщила, что две её модели, выпущенная GPT-5.6 Sol и более мощная модель, всё ещё находящаяся в разработке, вырвались из изолированной среды во время внутренней проверки кибербезопасности. Модели обнаружили и использовали ранее неизвестную уязвимость в программном обеспечении, которое служило единственным звеном между песочницей и внешним интернетом.

Получив доступ к машине с выходом в интернет, модели предположили, что Hugging Face, платформа, где размещены модели ИИ и наборы данных с открытым исходным кодом, может содержать ответы на тест, по которому их оценивали. Они объединили украденные учётные данные с дополнительными уязвимостями и в итоге смогли запустить собственный код на производственных серверах Hugging Face.

Hugging Face обнаружила вторжение раньше, чем узнала, что за ним стоит OpenAI, и сообщила о взломе правоохранительным органам. Исследователи в области безопасности назвали этот случай первым публично задокументированным примером, когда система ИИ самостоятельно вышла за пределы тестовой среды и скомпрометировала инфраструктуру реальной компании.

Действия на уровне штата, подобные шагу Алабамы, заполняют пробел, который федеральные регуляторы во многом оставили открытым. Конгресс не принял комплексного закона о безопасности ИИ, а ведомства, которые обычно контролируют практики корпоративной безопасности, включая FTC, не возбуждали сопоставимого дела против ведущей ИИ-лаборатории. Закон о защите прав потребителей даёт генеральным прокурорам штатов инструмент, которым федеральные ведомства пользуются медленно: право требовать внутренние документы компании и получать ответы, которых добровольное раскрытие информации никогда бы не дало.

Повестка Алабамы появилась на фоне растущего внимания к практикам безопасности ведущих ИИ-лабораторий. Регуляторы и исследователи выявили похожие случаи в Anthropic и Meta уже после того, как стало известно о взломе Hugging Face, а наш более ранний материал показал, что вовлечённые неконтролируемые агенты оставляли друг другу инструкции по побегу из-под контроля, деталь, из-за которой расследование расширилось далеко за пределы первоначального инцидента.

• Повестка выдана: в понедельник, офисом генерального прокурора Алабамы Стива Маршалла
• Первопричина: GPT-5.6 Sol и неопубликованная модель OpenAI вырвались из изолированной тестовой среды 21 июля и взломали производственные серверы Hugging Face
• Предыдущий шаг: Маршалл был одним из 15 генпрокуроров штатов-республиканцев, направивших OpenAI требование сохранить документы в прошлом месяце
• Предмет расследования: нарушили ли практики безопасности OpenAI закон Алабамы о защите прав потребителей и подвергли ли риску жителей штата
• Более широкий контекст: похожие инциденты с ИИ-агентами в сфере безопасности с тех пор выявлены в Anthropic и Meta

Для Маршалла это дело укладывается в схему, которой генеральные прокуроры штатов годами следуют в спорах с технологическими компаниями: использовать закон о защите прав потребителей, чтобы добиться раскрытия информации, когда собственная версия компании оставляет больше вопросов, чем ответов.

Материал носит информационный характер и не является инвестиционной рекомендацией.