Бутерин: ИИ много знает, но судит о тексте поверхностно

Виталик Бутерин в четверг утром спорил о том, как машины читают. В 04:11 UTC он ответил на пост писательницы Руксандры Тесло в ветке, которую запустил материал Wall Street Journal о гарвардском курсе Humanities 10, где на год запрещены телефоны и ноутбуки. Один участник ветки сказал, что нынешние модели — собеседник лучше, чем большинство людей. Другая, писательница, назвала замечания чат-бота к своим эссе мусором.

“Я нахожу ИИ чрезвычайно знающим и потому исключительно способным распознать отсылку почти к чему угодно, но не очень мудрым, и потому он выносит лишь самые поверхностные суждения о том, какую мысль проводит текст”

— Виталик Бутерин, сооснователь Ethereum, из поста в X от 29 октября 2026 года, https://x.com/VitalikButerin/status/2115657736767557845

Дальше в посте он назвал условие, при котором разрыв виден лучше всего. Слабее всего модель на тексте, который встретила впервые. У известной книги в обучающих данных уже лежат десятилетия человеческих разборов, и модель их возвращает. Заканчивает он проверяемостью: знание модели вы видите, а мудрость проверить труднее.

Граница проходит по проверяемости ответа

За три недели до этого поста Бутерин писал, что два года развития ИИ в математике с хорошей вероятностью подорвут практическую стойкость решёточной криптографии. Поставьте два утверждения рядом. В одном и том же месяце он говорит, что модель двигает работу в самой формальной области, и что эта же модель не понимает, о чём спорит эссе. Оба утверждения верны, а граница между ними — проверяемость. Доказательство либо сходится, либо нет, поэтому у LLM на решётках есть судья. У прочтения «Улисса» судьи нет, и модель свободна выдать то, что звучит как прочтение.

От этой границы зависит, что выйдет, когда текст — документ токенсейла или предложение по управлению протоколом. За биткоин-вайтпейпером восемнадцать лет человеческих разборов, и модель отвечает по этой куче. У предложения, опубликованного сегодня утром, её нет, и это ровно тот случай первого прочтения, который Бутерин называет слабым. Модель выглядит острее всего на документах, в которых вы и так разобрались, и слабее всего на том, по которому в пятницу голосование. Сервисы из нашей подборки ИИ-инструментов продают один и тот же приём пересказа.

Гарвард уже рассортировал свои курсы по этой линии

The Crimson взяла выборку примерно из 600 курсов этой осени и опубликовала расклад:

• наука и инженерия: больше половины курсов допускают какое-то применение ИИ
• социальные науки: 35%
• искусства и гуманитарные науки: 27%

Декан колледжа Дэвид Деминг просил преподавателей допустить или поощрять ИИ на курсах, где много пишут. Профессор английского Дейдра Линч оставила полный запрет на обоих своих осенних курсах, а профессор сравнительного литературоведения Хоми Баба просит студентов вести журнал обращений к ИИ. Там, где ответ сходится или не сходится, Гарвард машину пускает.

Humanities 10 — тот самый курс, вокруг которого собрался спор. Стивен Гринблатт и Луис Менанд создали его в 2008 году. Студенты читают примерно по крупному произведению в неделю, от «Одиссеи» через Данте и Болдуина до «Улисса», посещение обязательно, зачёта без оценки нет, а заявок от первокурсников примерно вдвое больше, чем мест. Инструкции Бутерин не дал, но из его претензии она следует: берите у модели то, на чём её можно поймать, — ссылку и перечень того, на что текст опирается. Суждение о том, чего текст хочет, оставьте себе: инференс стоит доли цента, а проверка суждения — вечер. У поверхностного прочтения есть родственник — волна дезинформации, которой ждут перед выборами в США, где текст, похожий на аргумент, и есть весь продукт.

Материал информационный. Цитата приведена по посту Бутерина в X от 29 октября 2026 года. Подробности о курсе — по пересказу материала Памелы Пол в Wall Street Journal на Newser, доли курсов — по выборке The Crimson примерно из 600 осенних курсов. Сопоставление с его постом о решётках и довод о первом прочтении управленческих документов наши.