ИИ
(Фото: shutterstock)
Более 100 крупнейших мировых компаний в сфере технологий, кибербезопасности и финансов выступили с необычным предупреждением: стремительное развитие искусственного интеллекта уже в ближайшие месяцы может привести к новой волне сложных кибератак на критически важную инфраструктуру, в том числе больницы, объекты водоснабжения и интернет-инфраструктуру. Об этом 30 августа пишет Ynet.
В открытом письме, которое среди прочих подписали Microsoft, Google, OpenAI, Amazon и Anthropic, компании предупреждают, что современные инструменты ИИ стремительно снижают порог, необходимый для проведения сложных кибератак. Возможности, которые раньше требовали значительных профессиональных знаний, времени и ресурсов, могут стать гораздо более дешевыми, быстрыми и доступными даже для менее квалифицированных злоумышленников.
По мнению компаний, речь идет об окне возможностей, которое постепенно закрывается. По мере совершенствования моделей искусственного интеллекта растет их способность обнаруживать уязвимости, писать код и автономно выполнять все более значительные этапы цепочки кибератаки.
Поэтому компании призывают правительства и бизнес уже сейчас начать серьезную модернизацию систем защиты, не дожидаясь, пока такие возможности получат еще более широкое распространение.
Среди заметно отсутствующих в списке подписавших обращение - Meta и принадлежащая Илону Маску xAI.
►Атака, занимавшая недели, может сократиться до нескольких минут
Одно из главных опасений связано с так называемыми "агентными" (Agentic) атаками, при которых системы ИИ не ограничиваются ответами на вопросы или написанием кода, а способны самостоятельно выполнять последовательность действий для достижения поставленной цели.
В письме компании предупреждают, что ИИ-агенты могут действовать с машинной скоростью: искать уязвимости в системах, адаптировать свои действия в соответствии с обнаруженными проблемами и практически без участия человека переходить к следующему этапу атаки. В результате процесс, который раньше мог занимать дни или недели, по крайней мере в некоторых сценариях способен сократиться до нескольких минут.
Проблема, по мнению авторов обращения, заключается в том, что компьютерные системы многих организаций попросту не готовы к такому темпу. Старые ошибки в программном обеспечении, программы, которые давно не обновлялись, чрезмерно широкие права доступа, неправильные настройки, слабые механизмы аутентификации и устаревшие системы создают огромный резерв уязвимостей, которые вооруженные ИИ злоумышленники смогут пытаться эксплуатировать гораздо быстрее и в значительно большем масштабе.
Особенно серьезна опасность для критически важной инфраструктуры. Больницам, предприятиям по очистке и обработке воды и поставщикам интернет-инфраструктуры нередко приходится работать с устаревшими системами, а в некоторых случаях - еще и с небольшими командами специалистов по безопасности и ограниченными бюджетами.
В отличие от взлома сайта или учетной записи пользователя, успешная атака на такие системы способна привести не только к финансовому ущербу или утечке информации, но и к нарушению работы жизненно важных служб и даже к физическому ущербу.
►ИИ уже способен на большее
Предупреждение основано не только на теоретических сценариях. Эксперименты с современными системами искусственного интеллекта уже показали, что ИИ-агенты способны писать вредоносный код, создавать в интернете поддельные личности с целью введения людей в заблуждение и даже в рамках контролируемых экспериментов самостоятельно совершать в открытом интернете действия, которые им не поручали.
По данным Reuters, британский Институт безопасности искусственного интеллекта (AI Security Institute) зафиксировал десятки случаев, когда системы ИИ нарушали правила экспериментов в ходе более чем ста смоделированных учений по кибербезопасности. В некоторых случаях модели пытались достичь поставленной перед ними цели способами, которые не соответствовали намерениям операторов, даже когда для них были установлены четкие ограничения.
С подобными опасениями уже пришлось столкнуться и OpenAI. Компания сообщила, что замедлила отдельные этапы разработки своей следующей модели и усилила меры безопасности и изоляции вокруг нее после того, как внутренние проверки не смогли исключить возможность того, что система приближается к уровню возможностей, который сама компания определяет как критический в сфере кибербезопасности.
►Та же технология может использоваться и для защиты
Несмотря на предупреждения, компании подчеркивают, что искусственный интеллект является не только частью проблемы, но и способен стать одним из главных инструментов защиты от нее. Модели ИИ могут анализировать огромные объемы программного кода в поисках уязвимостей, выявлять проблемы до того, как ими воспользуются злоумышленники, определять приоритетность обновлений безопасности и помогать специалистам по кибербезопасности расследовать инциденты в режиме реального времени.
Поэтому авторы письма призывают организации начать внедрять инструменты ИИ и на стороне защиты, а компании, работающие в сфере технологий и кибербезопасности, - разрабатывать решения, доступные не только гигантским корпорациям, но и организациям с ограниченными бюджетами.
Одно из наиболее интересных предложений заключается в том, чтобы компании, разрабатывающие самые мощные в мире модели ИИ, в случае крупных кибератак предоставляли прошедшим проверку и получившим соответствующее разрешение структурам киберзащиты ранний доступ к своим наиболее передовым моделям.
Кроме того, компании призывают расширить обмен разведывательной информацией о киберугрозах между организациями, а также предоставлять финансирование, обучение и техническую помощь структурам, которые сегодня не способны самостоятельно противостоять этой угрозе.
Правительства также должны принять активное участие в этих усилиях. Подписавшие обращение компании призывают их финансировать и координировать киберзащиту на местном, национальном и международном уровнях, а также предоставить надежным организациям безопасный доступ к передовым инструментам искусственного интеллекта для использования в оборонительных целях.
Особое внимание предлагается уделить больницам, объектам водоснабжения и другим организациям, которые на протяжении многих лет сталкивались с недостаточным финансированием в сфере кибербезопасности.