ИИ-расшифровщик потерял одно слово и перевернул диагноз

Пациенту в Англии сообщили, что у него демиелинизация — повреждение нервов, лежащее в основе в том числе рассеянного склероза. В результате анализа стояло «демиелинизации нет». ИИ-расшифровщик потерял слово, менявшее смысл на противоположный, и заметил это сам пациент.

Healthwatch England, официальный защитник интересов пациентов в NHS, опубликовал этот случай 31 августа вместе с другими. По службе используется двадцать семь разных программ-расшифровщиков.

“Могу утверждать с уверенностью: значимые ошибки я нахожу в консультациях с ИИ гораздо чаще, чем в тех, что набирали коллеги.”

— Доктор Мэри Гиббс, врач общей практики, The Guardian, 7 сентября 2026 года

Источник цитаты: доктор Мэри Гиббс, врач общей практики в нерабочие часы, Манчестер, письма в The Guardian, 7 сентября 2026 года

Сэкономленное время уходит второму читателю

Врач общей практики Мэри Гиббс написала в The Guardian про ту часть обещаний, которую проверяют меньше всего. Её пациентов часто сначала оценивает кто-то другой по телефону, и она читает эту сортировочную запись, прежде чем позвать человека к себе.

Когда запись сделал расшифровщик, пишет она, консультация неизменно выходит длинной, с повторами и порой противоречиями, а анамнез, который она собирает сама, часто расходится с написанным. Поэтому запись проверяют дважды:

1. Первый врач вынужден вычитывать длинный повторяющийся текст, который написал не он.
2. Второй врач ему не доверяет и заново собирает анамнез.
3. Запись читают трижды и ни разу ей не верят.

Гиббс замечает, что винить первого врача — значит не понимать, как работает вычитка. Всякий, кто пробовал проверять собственный текст в спешке, знает: ошибки выживают. Инструмент, который выдаёт черновик, никому не внушающий доверия, работу не убрал — он переложил её на того, кто читает.

Ошибки, которые не смешные

Healthwatch нашёл случаи, когда расшифровщик подменял назначенное лекарство похожим по названию, а врачи сообщали, что программа выдумывает препараты, которых никто не называл. В тех случаях, что всплыли, пациент замечал раньше врача.

Дебби Кэмерон в той же колонке писем вспоминает консультанта, который несколько лет назад пробовал распознавание речи и бросил, когда рекомендация «две недели на лансопразоле» превратилась в двухнедельный отдых на Лансароте. Та ошибка была смешной, потому что была очевидной. Потерянное «нет» — нет.

Медицинскими изделиями их никто не называет

Британское агентство по регулированию лекарств и медизделий не отнесло ИИ-расшифровщики к медицинским изделиям. Двадцать семь программ расшифровывают живые приёмы по всей NHS без той проверки, которая применялась бы, назови их тем, чем они по сути являются.

Гиббс заканчивает тем, что переживёт любую отдельную ошибку. Превратить сбивчивый рассказ пациента в текст, который коллега усвоит за тридцать секунд, — навык, на который уходят годы, и врачи, переставшие его применять, его потеряют.

Вчера мы писали о ремесле, которое ИИ убрал целиком, а в понедельник — об отраслевых организациях, успокаивающих дизайнеров. Медицина занимает третье положение: работу инструмент не забрал, но поменял её содержание — вместо того чтобы писать сводку, врач теперь её проверяет.

Текст написан в информационных целях и не призывает к конкретным инвестиционным решениям.