Киберугроза - вирус Pufferfish
(Фото: иллюстрация Google Gemini)
Специалисты по кибербезопасности зафиксировали первый задокументированный случай атаки программы-вымогателя, которую полностью спланировал, провел и довел до конца автономный ИИ-агент. Как стало известно в среду, 8 июля, из отчета компании Sysdig, специализирующейся на кибербезопасности, впервые система на базе искусственного интеллекта (ИИ) действовала автономно, без пошагового руководства со стороны человека.
Отмечается, что система продемонстрировала способность адаптироваться в реальном времени и быстро исправлять ошибки в коде, но при этом выдала явные пробелы в понимании финансового контекста.
По данным отчета, ИИ-агент воспользовался уязвимостью компьютерных систем, после чего самостоятельно продолжил продвижение вглубь сети. Затем он зашифровал элементы в атакованной инфраструктуре. Один из наиболее показательных моментов, отмеченных в отчете, - способность системы к самокоррекции: когда один из скриптов дал сбой, ИИ-агент самостоятельно обнаружил и исправил ошибку в коде всего за 31 секунду, без вмешательства человека.
После завершения шифрования агент автоматически сформировал требование о выкупе в биткоинах. Именно на этом этапе исследователи Sysdig обнаружили слабое место системы: в качестве адреса кошелька для перевода выкупа агент использовал условный (учебный) биткоин-адрес, взятый, по всей видимости, из обучающих материалов, на которых он был натренирован.
Это указывает на то, что при всей технической изощренности атаки ИИ-агент не до конца понимал финансовую логику и практическую сторону вымогательства - то есть куда и как на самом деле должны поступить деньги.
Это только начало
В Sysdig подчеркивают, что атака "JadePuffer" - не единичный случай, а часть более широкой тенденции появления так называемых "агентных субъектов угроз" (agentic threat actors) - злоумышленников, использующих автономные ИИ-системы для проведения атак практически без участия человека.
Ранее подобные инструменты, такие как WormGPT и FraudGPT, применялись главным образом для написания вредоносного кода или фишинговых писем по запросу оператора-человека. Новое поколение агентов способно самостоятельно принимать решения на каждом этапе атаки: выбирать цели, продвигаться по сети, обходить защитные механизмы и реагировать на непредвиденные препятствия в режиме реального времени.
Миру нужна смена парадигмы
По словам главы отдела активной защиты Национального управления кибербезопасности Израиля Юваля Синая, атака такого рода - это тревожный звонок для всей отрасли информационной безопасности.
По его словам, автономные ИИ-агенты меняют саму природу киберугроз: если раньше защитники могли рассчитывать на то, что у атаки есть некий ограниченный темп, продиктованный человеческими возможностями, то теперь скорость и масштаб атаки определяются вычислительными мощностями, а не человеком.
Он подчеркнул, что миру необходима смена парадигмы в подходе к киберзащите - системы должны уметь распознавать и останавливать автономные атаки в реальном времени, а не полагаться только на реакцию человека по факту уже случившегося взлома.