OpenAI спросила Конгресс, законно ли замедляться сообща

OpenAI спросила членов Конгресса, могут ли передовые лаборатории законно договориться между собой о замедлении разработки, пишет Decrypt со ссылкой на материал WIRED. Главный научный сотрудник компании Якуб Пахоцкий призывает к добровольным замедлениям, пока разработчики не смогут показать, что их системы безопасны. Вопрос в том, нарушает ли замедление ИИ, согласованное между конкурентами, антимонопольный закон, а ответ 51 день лежит в виде законопроекта.

“Люди, которые строят ИИ, всерьёз считают, что он может убить нас всех к концу десятилетия.”

— Джейкоб Коксон, Бывший инженер Anthropic, цитата по WIRED

Джейкоб Коксон, бывший инженер Anthropic

Закон, о котором спрашивают

Конкуренты, договорившиеся ограничить выпуск, — случай, к которому американское антимонопольное право относится жёстче всего:

• Первая статья закона Шермана считает соглашение конкурентов об ограничении выпуска незаконным само по себе, вред доказывать не требуется.
• Компании по ней грозит штраф до $100 млн, человеку — до $1 млн и десять лет.
• Минюст США 154 дня расследовал сделку четырёх автопроизводителей о выбросах строже требуемых и в феврале 2020 года закрыл дело, не приняв мер.

Последний случай ближе всего к прецеденту. Ford, Honda, BMW и Volkswagen в июле 2019 года договорились с Калифорнией соблюдать нормы по выбросам строже федеральных, и 6 сентября Минюст открыл антимонопольное расследование. Дело закрыли 7 февраля 2020 года, не приняв никаких мер. Согласие быть чище, чем требует норма, не дало ничего, и это обнадёживающая часть прецедента. Стоило оно при этом пяти месяцев федеральной проверки.

Законопроект, который отвечает наполовину

Сенаторы Адам Шифф и Джим Бэнкс вместе с конгрессменами Бобом Латтой и Джорджем Уайтсайдсом внесли 23 июля законопроект, который ровно это и выделяет. Collaboration on Adversarial Threats and Security Risks Act разрешит ИИ-компаниям обмениваться данными об угрозах и совместно откладывать или ограничивать выпуск моделей высокого риска при письменном уведомлении, без антимонопольной ответственности. За Минюстом остаётся право требовать судебного запрета для тех, кто злоупотребит исключением, а ценовой сговор и монополизация остаются незаконными.

Шифф и Бэнкс писали законопроект под другую угрозу. В нём названа китайская дистилляция американских моделей и защищена координация против противника. Пахоцкий спрашивает про другое: про паузу среди американских лабораторий, потому что ни одна не может доказать безопасность собственных систем по мере приближения к AGI. Первый случай безопасная гавань закрывает чисто, второй — только если лаборатория сумеет доказать, что угроза национальной безопасности и есть её собственная модель.

Почему ни одна лаборатория не остановится в одиночку

Четыре человека внутри этого спора описывают один и тот же стимул. Главный научный директор Anthropic Джаред Каплан говорил, что замедляться в одиночку смысла мало, пока конкуренты идут вперёд. Дункан Сабиен из Machine Intelligence Research Institute описал механику прямо: каждый рывок приносит создателям ещё миллионы или миллиарды финансирования и больше влияния. Миранда Боген из Center for Democracy and Technology говорит о компаниях, которых выталкивают выпускать продукт до того, как риски поняты.

В одиночку OpenAI уже сделала то, на что просит разрешения сообща. В августе компания приостановила внутреннюю работу над Astra из-за вопросов кибербезопасности — той самой моделью наши читатели видели, как ИИ собирает кибератаки без участия человека. Пауза, взятая одной компанией, стоит денег этой компании. Пауза, взятая отраслью целиком, не стоит никому из них, и именно такую симметрию антимонопольное право и создано разбирать.

Дженсен Хуанг из Nvidia сказал на конференции Goldman Sachs в четверг, что о кибербезопасности столько говорят, потому что индустрия готовится продавать продукты, и спросил, какой способ создать спрос лучше, чем создать проблему. Лаборатории, которые просят у Конгресса разрешения остановиться, — это те самые лаборатории, чей страх он называет маркетингом. Конгрессу теперь решать, из какого прочтения должен исходить закон.

Это не финансовый совет — только информация к размышлению.