Билл Гейтс: ИИ уже перешёл опасные пороги

Билл Гейтс заявил, что искусственный интеллект уже перешёл несколько опасных порогов, рассказав об этом в новом интервью и сопроводительном эссе, опубликованном в тот же день, сообщил MIT Technology Review.

“Мы перешли порог в отношении био-возможностей, кибер-возможностей, психосоциальных возможностей, возможностей разрушения рынка труда, и даже в отношении утраты контроля [со стороны ИИ]. Я просто в шоке от того, насколько мало обеспокоенности и обсуждения происходит за пределами индустрии.”

— Билл Гейтс, филантроп и бывший генеральный директор Microsoft

70-летний Гейтс, филантроп и бывший генеральный директор Microsoft, рассказал MIT Technology Review, что индустрия долгое время предполагала, что защитные меры появятся, когда ИИ приблизится к этим порогам: например, ограничение использования только «хорошими людьми» или запрет на копирование моделей. Он сказал, что находится в шоке от того, что пороги уже пройдены, а таких защитных мер нет. Он добавил, что сама индустрия редко критикует собственные продукты или конкурентов, из-за чего публичное обсуждение остаётся более скудным, чем того требуют ставки.

Что касается рынка труда, Гейтс указал на компании, которые уже нанимают меньше сотрудников начального уровня, как на скромный, но реальный сигнал более масштабных потрясений впереди. Он утверждает, что оставшиеся технические барьеры для более широкой автоматизации белых воротничков, ограничения по возможностям и надёжности, устраняются, а это, по его словам, сделает недорогое замещение возможным для значительной доли офисной работы.

Самое острое предупреждение касалось биологических рисков. «Любая модель, способная создавать новые молекулы, должна находиться под наблюдением», — сказал он. «Я оцениваю риск биотерроризма как примерно в 50 раз более пугающий и более вероятный, чем риск природной пандемии».

Гейтс дополнил предупреждения двумя политическими предложениями: резервированные для людей рабочие места, согласованный обществом набор ролей, сохранённых за людьми, который, по его словам, может отличаться от страны к стране, и налоги на роботов и на ИИ-токены, чтобы направлять доходы от систем, заменяющих труд человека, на финансирование перехода. Идею налога на роботов Гейтс высказывал и раньше. Это ставит его в один ряд с небольшой группой известных бизнес-лидеров, готовых публично заявлять, что риски ИИ заслуживают большего внимания, чем уделяет им индустрия, и в эту группу входит и глава JPMorgan Джейми Даймон, недавно предупредивший, что рынки недооценивают риски, связанные с ИИ.

Гейтс не представил картину исключительно мрачной. Он сказал, что по-прежнему настроен оптимистично в отношении способности ИИ преобразить сельское хозяйство, здравоохранение и образование, а также помочь обществам справляться с бюрократией, и утверждал, что мир в итоге придёт к периоду изобилия. Но, по его словам, путь к этому лежит через полосу турбулентности.

• Кто: Билл Гейтс, 70 лет, филантроп и бывший генеральный директор Microsoft
• Заявление: ИИ перешёл пороги по био-, кибер-, психосоциальным рискам, разрушению рынка труда и утрате контроля
• Оценка био-риска: риск биотерроризма примерно в 50 раз более вероятен, чем природная пандемия
• Политические предложения: резервированные рабочие места для людей плюс налоги на роботов и ИИ-токены
• Формат: новое эссе на gatesnot.es/AI-era, первое из нескольких запланированных, вместе с интервью MIT Technology Review

Это интервью знаменует сдвиг для Гейтса, который последние годы в основном продвигал позитивную сторону ИИ через свой фонд и публичные тексты. Основатель технологической компании, называющий биотерроризм, кибератаки и потерю рабочих мест уже пройденными порогами, а не будущими рисками, меняет тон разговора, который, по его словам, до сих пор был слишком тихим.

Материал носит информационный характер и не является инвестиционной рекомендацией.