Человеческий надзор над клиническим искусственным интеллектом не гарантирует безопасность: в четырёх исследованиях электрокардиограмм 26,6% ошибочных интерпретаций остались незамеченными. При корректных автоматических рекомендациях врачи отвечали правильно значительно чаще, чем при ошибочных (отношение шансов 10,19), но часть ошибок всё равно проходит мимо внимания, и это требует оценивать надзор как способность перехватывать ошибки, а не предполагать, что он обеспечивает защиту.
Как сообщается в систематическом обзоре и мета-анализе, опубликованном в рецензируемом научном журнале, исследователи изучили, как врачи реагируют на неверные автоматические рекомендации. Всего проанализировано 46 отчётов, которые представляют 41 независимую когорту, включая 40 основных когорт.
Что показали корректные и ошибочные рекомендации
В трёх скорректированных когортах правильность решений врачей была существенно выше при корректных автоматических рекомендациях, чем при ошибочных. Объединённое отношение шансов составило 10,19 при доверительном интервале 7,43–13,98 и нулевой статистической неоднородности. Анализ чувствительности для исследований с 2020 года дал схожий результат, но менее точный: отношение шансов 9,22 при интервале 2,06–41,13. То есть при верных подсказках системы врач ошибается реже, но при неверных — риск ошибки возрастает.
Что показали реальные исследования
В четырёх разнородных исследованиях компьютерных электрокардиограмм в реальных условиях 26,6% ошибочных интерпретаций не были исправлены или распознаны. Доверительный интервал — 6,4–65,6%, статистическая неоднородность высокая. Иными словами, примерно каждая четвёртая ошибка автоматики осталась без коррекции со стороны человека.
Что известно о современных моделях
Современные исследования искусственного интеллекта и больших языковых моделей также документировали опасную опору на автоматику, но были слишком разнородными, чтобы объединить их в общий анализ. Нежелательные явления на уровне пациента описаны только в одной ретроспективной когорте.
Главный вывод
Авторы заключают: человеческий надзор следует оценивать как способность перехватывать ошибки, а не предполагать, что он обеспечивает безопасность. То есть сам факт присутствия врача рядом с системой не гарантирует, что ошибка будет замечена и исправлена. Это меняет подход к внедрению клинических систем поддержки решений: нужно проверять не только точность модели, но и то, насколько эффективно человек обнаруживает её сбои.
Коротко: главное
-
Сколько ошибочных интерпретаций остались незамеченными? — Почти 27 процентов.
-
Насколько выше правильность при корректных рекомендациях? — Отношение шансов 10,19.
-
Сколько отчётов проанализировали исследователи? — Сорок шесть отчётов.
-
В скольких когортах описаны нежелательные явления для пациентов? — В одной ретроспективной когорте.
-
Как предлагают оценивать человеческий надзор? — Как способность перехватывать ошибки.
Резюме
-
В четырёх исследованиях компьютерных электрокардиограмм 26,6% ошибочных интерпретаций не были исправлены или распознаны.
-
При корректных автоматических рекомендациях врачи отвечали правильно значительно чаще, чем при ошибочных: отношение шансов 10,19.
-
Современные исследования искусственного интеллекта и больших языковых моделей документировали опасную опору на автоматику, но оказались слишком разнородными для объединения.
-
Нежелательные явления на уровне пациента описаны только в одной ретроспективной когорте.
-
Авторы призывают оценивать человеческий надзор как способность перехватывать ошибки, а не предполагать, что он обеспечивает безопасность.
Материал подготовлен изданием «Техносуверен» (technosuveren.ru). Дата публикации: 26 октября 2026 года.
