Впервые: Израильская медицинская ассоциация (ИМА, Гистадрут рефуит) устанавливает правила использования искусственного интеллекта (ИИ) в системе здравоохранения страны. Согласно позиции комиссии по этике ИМА, ответственность за лечение всегда остается на враче. Новые правила требуют полной ясности для пациентов в случаях использования врачом ИИ и принятия активных мер для утраты навыков врача из-за зависимости от ИИ. Об этом стало известно в четверг, 16 апреля.
В последние два года в израильской медицине активно пользуются ИИ. Он внедрен в широкий спектр клинических инструментов в больницах и больничных кассах - от улучшения диагностики и лечения до анализа огромных массивов данных и медицинских исследований. Технология включает системы прогнозирования рисков для сложных и опасных состояний; системы расшифровки результатов обследований; "усиленный интеллект" для выбора индивидуального протокола лечения в онкологии и при назначении антибиотиков.
Комиссия по этике Израильской медицинской ассоциации - ведущей организации по изданию клинических рекомендаций для врачей - опубликует на днях первый документ, задающий этические границы применения ИИ. Документ устанавливает главное железное правило: ИИ никогда не заменит врачебное суждение. "Врач будет использовать инструмент ИИ для помощи при принятии решений, но не как замену клиническому суждению", - говорится в правилах.
В центре новых правил стоит принцип "человека в системе" - профессиональный человеческий контроль над любым решением, принимаемым с помощью алгоритма. Согласно документу ИМА, врач несет единоличную ответственность за любой диагноз или лечение, и ему запрещено слепо полагаться на решение ИИ. Новые инструкции устанавливают, что на врача возложена обязанность "служить профессиональным посредником между цифровыми инструментами и пациентом", а также предоставить больному "ясное и понятное объяснение решений, исходя из профессиональной ответственности и медицинской этики".
Одно из главных нововведений касается права пациента на информированность. Врачи теперь обязаны информировать пациента, когда при принятии решений используется искусственный интеллект. Более того, врач должен объяснить пациенту логику выданной рекомендации простым и понятным языком - чтобы получить его согласие на лечение.
►Защита конфиденциальности пациента
Документ устанавливает также правила конфиденциальности информации о больном. Установлен этический запрет на коммерческое использование медицинской информации в системах ИИ без явного согласия пациента. Врачи должны удостовериться, что данные защищены по самым строгим стандартам информационной безопасности.
►Не забудут ли врачи, как лечить?
В документе упоминается такая проблема, как утрата врачами некоторых профессиональных навыков из-за привычки пользоваться ИИ. Например, при расшифровке снимков или принятии решений о лекарствах.
Предлагается сохранять баланс, используя ИИ только как вспомогательный инструмент, но обязательно проходить курсы повышения квалификации и иметь самостоятельную клиническую практику. Чтобы гарантировать это, комиссия рекомендует каждому медицинскому учреждению назначить уполномоченного по этике в области ИИ.
"Мы за новые технологии и в частности за ИИ, поскольку это путь медицины к прогрессу и спасению жизней, - объясняет председатель комиссии по этике доктор Йоси Вальфиш. - Однако мы постоянно видим противоречие между желанием использовать ИИ для улучшения мира медицины и обязанностью защищать автономию, конфиденциальность и самые базовые принципы профессии.
Цель документа - не запрещать врачам использовать ИИ, а наоборот: поощрять осмысленное использование с пониманием ограничений и рисков. По нашему договору с пациентами, врач обязан оставаться профессиональным и ответственным посредником, который полностью контролирует ситуацию, умеет критически относиться к поданной ИИ информации, заботится о защите частной жизни и проверке данных, и не отказывается от человеческого суждения и отзывчивости в лечебном процессе".
Раввин Йоси Эрблих, председатель организации "Ле-маанхем", предоставляющей бесплатные медицинские консультации и инструктажи нуждающимся гражданам, предупреждает об опасностях злоупотребления ИИ в медицине. Он говорит: "Израильская медицинская ассоциация приняла вызов вместо системы здравоохранения, которая снова уснула на посту. Во всем мире понимают, что наряду с огромной пользой неконтролируемое использование ИИ в медицинских вопросах чревато катастрофой. Разработка этического кодекса - критически важный и необходимый шаг для исправления данной ситуации".
Подробности на иврите читайте здесь
Перевод: Даниэль Штайсслингер