(Фото: shutterstock)
Когда Ребекке Грин, пришедшей на первый прием к урологу, предложили записать разговор с помощью ИИ, она без колебаний согласилась. Ей не хотелось выглядеть проблемной пациенткой или отнимать у врача лишнее время. Позже, просматривая выписку, Ребекка вдруг обнаружила запись, что она якобы принимает психоделические грибы. Откуда взялась эта ошибка и можно ли избежать подобных оплошностей, рассказывается в публикации Ynet.
Речь идет о случае в Австралии, который сейчас широко обсуждается израильскими врачами.
Пройдя операцию по удалению камней из почек, Ребекка Грин получила на руки письмо от уролога для своего семейного врача. Каково же было ее удивление, когда она прочитала в документе, что "принимает микродозы психоделических грибов для лечения почечного кровотечения". "Я была в шоке! Я даже разрыдалась от обиды, ведь я никогда в жизни не употребляла наркотики", - рассказала Грин.
Женщина заволновалась, что ложная информация в официальном медицинском документе приведет к неприятностям. В тот период она получала компенсацию за производственную травму и боялась, что упоминание нелегальных веществ повлияет на выплаты. Кроме того, Ребекку возмутило равнодушие врача - в тот момент, когда ей особенно были нужны внимание и поддержка, врач ,по ее мнению, не отнеслась к ней с должным вниманием и пониманием.
В ответ на жалобу Ребекки уролог принесла извинения и исправила ошибку в медицинских записях. По словам врача, она так и не смогла понять, откуда появилась запись о наркотиках, но отметила, что "очень серьезно относится к точности записей в медкартах пациентов". Скорее всего, ошибка закралась во время диктовки или расшифровки текста. Уролог пообещала пересмотреть формат применения ИИ в своей клинике.
Ребекка искренне рада, что вовремя заметила ошибку, но, по ее словам, если другие пациенты пропустят подобные оплошности, это может навредить их здоровью, работе или страховке. Ребекка считает, что врач должна была дать ей ознакомиться с записью до того, как сохранит ее и перешлет дальше. "Искусственный интеллект - это здорово, но ключевым звеном остается человек", - сказала она, добавив, что сбой произошел из-за отсутствия человеческого контроля.
►С ИИ врачи уделяют больше внимания пациенту
Медицинские регистраторы на базе ИИ, называемые AI Scribes, слушают разговор врача с пациентом, создают расшифровку и формируют структурированный медицинский документ. В зависимости от системы результатом может быть резюме приема, направление, выписка или запись для автоматического внесения в медкарту. Использование таких систем ИИ быстро растет. В Австралии, например, 40% врачей общей практики сообщают о применении данного инструмента.
Его преимущество очевидно: вместо набора текста во время приема или оформления документов после смены врач может полностью сосредоточиться на пациенте. Исследование, опубликованное в медицинском журнале JAMA Network Open, с участием 263 медиков из 6 организаций США показало, что за 30 дней работы с регистратором ИИ уровень выгорания среди участников снизился с 51,9% до 38,8%. Врачи отметили уменьшение нагрузки и рост внимания к пациентам. Но в исследовании сравнивали показатели только до и после внедрения ИИ, без контрольной группы, а результаты основывались на личных оценках.
По словам доктора Элизабет Девени, директора Форума потребителей медицинских услуг Австралии, пациенты часто находят такие ошибки случайно, и им трудно понять, откуда они взялись, а также добиться их удаления или исправления. Также существует риск, что врачи начнут слишком доверять автоматике, сначала внимательно проверяя каждый документ, а со временем переходя к беглому чтению с расчетом на точность системы.
Более того, разные программы дают разные показатели. При сравнении 4 коммерческих систем ИИ с записями врачей на 4 смоделированных приемах алгоритмы ИИ показали похожие, а иногда и более качественные результаты с незначительной статистической разницей. При этом одна из систем часто добавляла информацию, которой не было в реальной беседе.
►Отказ пациента от использования ИИ
Не менее важен и вопрос получения согласия. В одних клиниках пациентов уведомляют об использовании ИИ только на стенде в приемной, в других - включают соответствующий пункт в форму онлайн-записи. Иногда при отказе пациента от использования ИИ ему предлагают обратиться к другому специалисту.
При этом с прозрачностью использования таких систем тоже есть проблемы. Правозащитники изучили политику конфиденциальности 60 австралийских медицинских учреждений, использующих ИИ-регистраторы. Лишь 4 из них прямо указали на использование таких систем.
Но есть и другая сторона - влияние ИИ на откровенность пациента. Само знание о том, что разговор записывает сторонний сервис, может повлиять на нее - особенно когда речь идет о психическом здоровье, домашнем насилии, сексуальной жизни или употреблении психоактивных веществ.
Рекомендации австралийского регулятора AHPRA возлагают ответственность за работу ИИ на врача. Медицинские специалисты должны получать информированное согласие пациента, контролировать работу системы и проверять каждый документ на точность перед сохранением или отправкой.
►А что в Израиле?
Случай Ребекки Грин показывает, чем опасно автоматическое внесение данных ИИ в медкарту без проверки врача. Израильский специалист проф. Ран Балицер из больничной кассы "Клалит", говорит: "Врачи в США и других странах уже некоторое время используют автоматические транскрибаторы (AI Scribe или Speech-to-Text) для распознавания речи и ее превращения в текстовый документ или субтитры, - рассказывает он. - Ведущие мировые компании уже добились высокой точности расшифровки, но в основном это касается разговоров на английском языке".
По мнению профессора, главное преимущество систем ИИ - снижение административной нагрузки на врача и изменение формата общения с пациентом. Автоматический транскрибатор освобождает медика от работы с клавиатурой, позволяет вести свободный диалог и вносить всю информацию в компьютер без необходимости держать детали в голове.
В Израиле интеграция систем ИИ затянулась из-за трудностей точной расшифровки разговорной речи и медицинского сленга на иврите, хотя несколько подходящих программ уже проходят проверку и экспериментальные испытания в структурах здравоохранения, включая поликлиники и больницы кассы "Клалит". Но даже хорошая система не всегда работает без ошибок. Сбои делятся на 3 типа: пропуск сказанного на приеме, добавление непроизнесенной информации (так называемые "галлюцинации ИИ") и замена верных данных на ошибочные (числа, дозы или стороны тела).
Проф. Балицер утверждает, что, поскольку ИИ способен ошибаться, то именно врач обязан проверять вручную каждый отчет перед сохранением. Хотя, когда основной текст выглядит правильным, легко пропустить какую-то одну деталь.
И тогда возникают вопросы, на которые пока нет ответа: как часто ошибается каждая программа, насколько эти ошибки опасны, кто должен проверять инструмент перед запуском и кто отвечает за его мониторинг во время работы. По словам проф. Балицера, западные регуляторы тоже сталкиваются с трудностями: в отличие от лекарства с четким процессом одобрения, системы ИИ разные, и их точность зависит от конкретного учреждения. Возникает вопрос, кто обязан проверять их на ошибки и безопасность.
Регуляторам сложно успевать за быстрым развитием таких программ: в отличие от лекарств, их работа постоянно меняется и может сильно различаться в разных клиниках, поэтому единые правила и централизованное одобрение здесь затруднены.
Для решения этой проблемы больничная касса "Клалит" создала систему Optica для проверки и мониторинга инструментов ИИ. Эта система содержит чек-лист из 77 пунктов и проводит многоступенчатую проверку ИИ-инструмента до запуска и постоянный контроль после него. Недавно ВОЗ отметила Optica как одну из ведущих систем для оценки и безопасной интеграции решений на базе ИИ.
Подробности на иврите читайте здесь
Перевод: Даниэль Штайсслингер