На фоне роста киберугроз для системы здравоохранения в ходе войны с Ираном, министерство здравоохранения Израиля ограничило использование инструментов искусственного интеллекта (AI). Письмо с соответствующими рекомендациями было направлено руководителям медицинских учреждений и врачам, о чем 5 марта пишет Ynet. По словам представителей отрасли кибербезопасности, за этим решением стоит серьезная обеспокоенность.
"Система здравоохранения является одним из наиболее привлекательных объектов для атак со стороны государств", - заявил Гиль Мессинг, руководитель аппарата компании Check Point. В свою очередь Ран Балисер, заместитель генерального директора и глава отдела инноваций в крупнейшей израильской больничной кассе "Клалит", подчеркнул: "И для отдельного врача, и для пациента дома действует простое правило: если вы не стали бы публиковать это в Facebook - не отправляйте это и в чат-бот".
В письме, подписанном руководителем подразделения информационной безопасности и киберзащиты министерства Реувеном Элиягу, говорится, что по итогам последней оценки ситуации зафиксирован значительный рост рисков информационной безопасности, связанных с использованием инструментов искусственного интеллекта.
В документе отмечается: инструменты AI становятся одним из ключевых векторов кибератак; злоумышленники используют их для социальной инженерии и сложных киберопераций; существует риск утечки конфиденциальной медицинской информации из организаций здравоохранения.
В связи с этим медицинским учреждениям рекомендовано срочно сократить использование подобных сервисов и проявлять повышенную осторожность.
►Две основные угрозы
По словам Мессинга, ограничения связаны с двумя явлениями, которые особенно усиливаются в условиях войны. Первое - появление поддельных платформ искусственного интеллекта. Злоумышленники создают сайты или сервисы, которые выглядят как инструменты AI, но на самом деле распространяют вредоносное программное обеспечение.
Второе - ускоренное использование различных AI-платформ, уровень защиты которых иногда оказывается недостаточным. "Пользовательский опыт там удобный, ответы приходят быстро, но уровень безопасности не всегда соответствует требованиям. Это создает новые риски", - пояснил Мессинг.
►Найдены уязвимости в популярных AI-сервисах
По данным специалистов Check Point, недавно были обнаружены десять серьезных уязвимостей безопасности в популярных AI-платформах, включая Claude и другие сервисы. Эксперты предупреждают, что загрузка конфиденциальной информации в такие системы может привести к утечке данных, особенно в условиях войны, когда медицинская информация приобретает дополнительную ценность для злоумышленников.
В письме министерства говорится, что для защиты целостности данных и обеспечения непрерывности работы системы здравоохранения медицинским организациям следует: значительно и немедленно сократить использование генеративного AI; ограничить использование внешних облачных сервисов, не контролируемых организацией.
Также введен полный запрет на загрузку в открытые AI-системы - такие как ChatGPT, Claude и Gemini - следующих данных: медицинской информации; внутренних документов организаций; персональных данных сотрудников; программного кода.
►Опасность вредоносных AI-инструментов
Минздрав также предупреждает о попытках злоумышленников распространять вредоносные инструменты на базе AI.
Сотрудников медицинских учреждений могут пытаться убедить установить: расширения для браузеров; мобильные приложения; сторонние модели искусственного интеллекта.
Такие программы могут содержать вредоносный код, позволяющий похищать данные доступа, получать контроль над рабочими компьютерами внутри сети организации.
►Не загружайте документы с личными данными
Несмотря на ограничения, министерство подчеркивает, что разрешено использовать внутренние корпоративные AI-системы, если они развернуты внутри организации и работают в соответствии с правилами информационной безопасности.
Руководителей медицинских учреждений также призвали немедленно сообщать в национальный киберцентр о любой подозрительной активности, связанной с использованием AI.
Профессор Балисер объяснил необходимость таких мер: "Мы находимся в состоянии войны, и ее проявления сегодня - это не только ракеты, но и попытки нанести ущерб в цифровом пространстве. Нужно действовать осторожно, чтобы пользоваться преимуществами AI, не подвергая риску системы и конфиденциальность пациентов".
►Усиление киберготовности
Директор информационных систем медицинского центра "Бейлинсон" Хагит Гендель отметила, что для персонала действуют строгие инструкции: "Мы запрещаем использование внешних AI-инструментов для работы с медицинскими или другими чувствительными данными. Это правило мы постоянно напоминаем сотрудникам".
По ее словам, доступ к публичным AI-сервисам имеют очень ограниченное число сотрудников, и их деятельность постоянно контролируется.
Накануне минздрав распорядился подготовить медицинские организации к переходу с третьего на четвертый уровень киберготовности в рамках политики "Одинокий остров" - это предпоследний уровень перед максимальной степенью тревоги.
В рамках подготовки учреждения должны: провести комплексную оценку рисков, проверить критически важное медицинское оборудование, оценить состояние ключевой инфраструктуры - систем связи, информационной безопасности и операционных систем, выявить уязвимости и усилить мониторинг киберинцидентов.
По словам Гендель, система здравоохранения Израиля уже несколько лет активно готовится к таким угрозам: "Мы занимаемся кибербезопасностью постоянно и готовимся не к тому, произойдет ли атака, а к тому, когда она произойдет".