Amodei из Anthropic: открытые модели лишь смещают власть к чипам

Глава Anthropic Дарио Амодеи оспорил идею, что открытые ИИ-модели решают проблему концентрации власти в отрасли, заявив в переписке с инвестором Гэвином Бейкером в X, что ИИ централизует власть по своей природе, а открытые веса не устраняют эту концентрацию, а просто перемещают её, сообщил The Decoder.

Переписка началась после того, как Бейкер публично представил регулирование ИИ как бинарный выбор — либо сконцентрировать технологию у немногих, либо распределить её максимально широко, — и заявил, что концентрированная власть «редко заканчивалась хорошо на протяжении истории». Бывший исследователь Meta Ян Лекун поддержал ту же сторону, сравнив открытые ИИ-модели с печатным станком и интернетом — инструментами, усиливающими человеческий интеллект именно потому, что доступ к ним широк. Амодеи прямо отверг такую бинарную рамку и чётко изложил свою позицию по открытым весам:

“Они просто смещают концентрацию к тем, у кого больше всего вычислительных мощностей и ИИ-чипов, а это возвращает нас прямиком к крупным лабораториям.”

— Дарио Амодеи, глава Anthropic, из переписки с инвестором Гэвином Бейкером в X

Позиция Амодеи в том, что ИИ централизует власть «главным образом из-за законов масштабирования, а не из-за регулирования», — отдача от увеличения вычислительных мощностей продолжает расти, поэтому тот, кто контролирует больше чипов, продолжает наращивать преимущество независимо от того, открыты веса итоговой модели или закрыты. Он привёл собственную политическую работу Anthropic как доказательство того, что компания не просто продвигает правила, закрепляющие её позицию, сославшись на калифорнийский SB53 как на предложение, построенное так, чтобы «замедлить ведущие лаборатории и создать преимущество для более мелких», а не закрепить позицию той компании, что сейчас впереди.

Переписка также прояснила отдельный слух, циркулировавший в X: инвестор Гэвин Бейкер утверждал, что Амодеи внутри компании говорил, будто Anthropic может остаться единственной частной ИИ-компанией. Исследователь Anthropic Sholto Douglas назвал такую трактовку «полностью ложной» ещё до того, как более широкий спор об открытых весах и централизации взял верх в этой ветке. Не всех в разговоре убедила и сама рамка Амодеи — бывший советник Белого дома по ИИ Дэвид Сакс раскритиковал другое предложение Амодеи о создании федерального агентства для проверки фронтир-моделей ИИ, заявив, что оно приведёт к задержкам, ставящим США в невыгодное положение перед Китаем.

Спор приходится на не самый удачный момент для стороны, отстаивающей открытые веса: релизы моделей вроде решения Moonshot AI полностью открыть исходный код весов Kimi K3 показывают, что открытые модели продолжают становиться мощнее и доступнее, даже пока базовый тезис Амодеи — что запуск открытой модели фронтир-масштаба всё равно требует огромных вычислительных мощностей, которых у большинства людей и компаний просто нет, — остаётся по большей части без ответа со стороны сторонников открытых весов. Это также напоминание о том, насколько центральным этот аргумент стал для самой идентичности Anthropic как компании: лаборатории, ставящей безопасность на первое место, чей глава теперь тратит публичные споры на защиту тезиса, что её собственные, продиктованные осторожностью регуляторные предложения — не просто ров вокруг бизнеса, замаскированный под политику.

Это не финансовый совет — только информация к размышлению.