Глава по элайнменту говорит «больше 10%». Счёт за вычисления — $517 млрд

Джейкоб Коксон уволился из Anthropic и ушёл из индустрии ИИ. Ему 27, три года он занимался исследованиями предобучения — сначала в OpenAI, потом в Anthropic. Причину он изложил сам.

Газете The Wall Street Journal он сказал, что больше не верит, будто хоть одна лаборатория способна безопасно построить то, к чему его работодатель мчится. По агрессивным сценариям, по его словам, ситуация может выйти из-под контроля уже к концу следующего года. Историю в среду передал CoinDesk.

Уходит он не в другую лабораторию, а из отрасли целиком — это снимает привычное чтение увольнения как карьерного шага. «Терминатор» же появляется в заголовках, а не в том, что Коксон написал. В его посте есть самоулучшающийся сверхразум и гонка двух компаний, а фильм принадлежит освещению.

Согласие пришло со стороны безопасности

Эван Хубингер, руководитель элайнмента в Anthropic, ответил публично и без смягчений.

“Я считаю, что Anthropic старается изо всех сил, но плана, как решить элайнмент для сверхразума, у нас пока нет, и мы явно не на пути к нему.”

— Эван Хубингер, CoinDesk, 9 сентября 2026 года

Эван Хубингер, руководитель направления Alignment Science в Anthropic. Источник: CoinDesk, 9 сентября 2026 года

Хубингер написал, что он и коллеги всерьёз допускают, что ИИ способен убить всех людей, и оценил вероятность этого выше 10% в ближайшее десятилетие.

Обратите внимание, кто говорит. Коксон строил предобучение — стадию, на которой нейронная сеть впитывает основной массив данных, ещё до настройки поведения через RLHF. Хубингер руководит командой, которой платят за их безопасность. Оба конца здания сказали одно и то же в один день.

Две публичные цифры, направленные врозь

На прошлой неделе мы пересчитали вычислительные контракты Anthropic и получили $517 млрд за одиннадцать месяцев. Это собственные траты компании на то, чтобы системы становились крупнее.

Поставьте рядом вторую публичную цифру от той же компании: руководитель направления безопасности оценивает вероятность вымирания человечества выше 10% за десять лет. Обе цифры названы официально, самой Anthropic, на одной неделе.

Вес несёт формулировка Хубингера. Он сказал, что плана по элайнменту сверхразума у компании пока нет и что она к нему явно не идёт.

Та часть, которую можно проверить

Коксон поставил дату — то, чего прогнозы про ИИ обычно избегают. Он назвал конец следующего года точкой, где агрессивные сценарии становятся скверными. Это пятнадцать месяцев, срок внутри горизонта любого, кто это читает.

Сравните с прогнозом, который мы разбирали сегодня утром: гендиректор Arm заявил, что ИИ поможет вылечить рак ещё при нашей жизни. Ту фразу нельзя проверить сорок лет. Слова Коксона проверяются к концу 2027 года.

Само по себе увольнение ничего не доказывает, и процент тоже. Ценность этой истории в приложенном сроке, который назвал человек, три года делавший эту работу.

Текст написан в информационных целях и не призывает к конкретным инвестиционным решениям.