Нижегородских врачей уличили в использовании ChatGPT при постановке диагнозов.

Поводом для проверки стали медицинские документы, в которых заметили признаки, характерные для ИИ. «Нижегородских врачей поймали на использовании чата джипити при постановке диагнозов — нейросетевых спецов вычислили по эмодзи в документах».

Местный Минздрав обратил внимание, что жители начали получать заключения на «Госуслугах» со специфической стилистикой и пунктуацией, которую обычно используют нейросети. После анализа в ведомстве пришли к выводу, что часть медиков действительно применяла искусственный интеллект при оформлении документов. По данным источников, около 20% нижегородских врачей регулярно пользуются нейросетями, чтобы быстрее заполнять служебную документацию. Еще треть медиков, как утверждается, хотели бы освоить такие инструменты.

Разбираемся, что же произошло и почему врачи пошли на это?

Основные причины использования ИИ:

1. Высокая административная нагрузка. Врачи тратят много времени на заполнение шаблонных документов вместо работы с пациентами. ИИ хорошо справляется с такими задачами.
2. Дефицит кадров. Перегруженность из‑за нехватки специалистов подталкивает к поиску «коротких путей».
3. Скорость оформления. Нейросети позволяют быстро сгенерировать текст заключения или описания приёма.
4. Доступность технологий. ChatGPT и аналогичные сервисы просты в использовании и бесплатны.
5. Отсутствие чётких правил. До инцидента не было явного запрета на применение ИИ в документообороте.

Какие риски выявило использование ChatGPT как врачами, так ипациентами?

• Ошибки в диагнозах. Нейросеть может выдать неверный или неполный диагноз, особенно при нетипичных случаях.
• Упущенные нюансы. ИИ не учитывает индивидуальные особенности пациента, анамнез, динамику заболевания.
• Проблемы с преемственностью. Если следующий врач увидит шаблонный текст без деталей, он может пропустить важные данные.
• Юридические последствия. Ответственность за ошибочный диагноз лежит на враче, а не на ИИ.
• Потеря профессиональных навыков врача. При регулярном использовании ИИ врач может начать полагаться на него вместо собственного анализа.
• Дисциплинарные взыскания. Нарушение регламента работы грозит выговорами, штрафами или увольнением.
• Репутационные риски. Доверие пациентов снижается, если становится известно о применении ИИ без их ведома.

Для системы здравоохранения:

• Стандартизация вместо индивидуализации. Массовое использование ИИ может привести к шаблонным подходам в лечении.
• Проблемы с контролем качества. Если заключения генерируются ИИ, сложно оценить реальную квалификацию врача.
• Нарушение требований к документации. Форматы и содержание медицинских документов строго регламентированы.

Случай в Нижегородской области показал:

• врачи ищут способы снизить административную нагрузку, в т. ч. с помощью ИИ;
• неконтролируемое использование нейросетей несёт серьёзные риски для пациентов и системы здравоохранения;
• полный запрет может решить проблему формально, но не устранит её причину.

А вы используете ИИ в своей работе?