Военное министерство США впервые официально подтвердило, что использовало специальную версию чат-бота Grok компании xAI Илона Маска для поддержки военных операций против Ирана. Как стало известно в среду, 17 июня, об этом под присягой заявил глава Управления цифровых технологий и искусственного интеллекта Пентагона Кэмерон Стэнли в ходе судебного разбирательства в штате Миссисипи.
Дело связано с иском против xAI, поданным правозащитной организацией NAACP (Национальная ассоциация содействия прогрессу цветного населения). Истцы утверждают, что серверный комплекс компании использует десятки газовых турбин, загрязняющих окружающую среду и представляющих угрозу для здоровья местных жителей.
По словам Стэнли, дальнейшая работа чат-бота является вопросом "высшей национальной безопасности". Он сообщил, что система помогла обеспечить применение более 2000 боеприпасов по тысячам различных целей в Иране в течение 96 часов. Это первое официальное признание со стороны высокопоставленного представителя американской администрации того, что армия США использовала чат-бот на основе искусственного интеллекта при нанесении ударов по Исламской республике.
Стэнли уточнил, что Grok входит в число четырех моделей искусственного интеллекта, которые сегодня способны поддерживать задачи национальной безопасности США, и является одной из трех систем, готовых к обеспечению критически важных операций в условиях высшей секретности.
В судебных документах Пентагон также раскрыл использование специальной версии системы — Grok Gov. Этот пакет продуктов разработан специально для федеральных ведомств и, как утверждается, обладает возможностями, которых нет ни у одной другой фронтальной модели искусственного интеллекта.
В военном министерстве предупредили, что возможный запрет на использование этой системы нанесет серьезный ущерб возможностям Пентагона. Ведомство назвало центры обработки данных, обеспечивающие работу государственных ИИ-систем, стратегическим долгосрочным инструментом для сохранения технологического преимущества США над соперниками.
После публикации показаний американские СМИ напомнили о сообщениях первых дней войны с Ираном, согласно которым американские силы были причастны к удару по школе для девочек в городе Минаб. Тогда погибли не менее 165 человек. Этот эпизод считается самым смертоносным инцидентом с гражданскими жертвами за время войны в Иране.
По оценкам аналитиков, причиной трагедии могла стать комбинация ошибки человека и системы наведения на основе искусственного интеллекта. Предполагается, что перед ударом не была должным образом проверена актуальность использованных картографических данных.
Не секрет, что Пентагон уже давно использует системы искусственного интеллекта в военной сфере. Ведомство уже давно применяет систему Maven Smart, созданную Национальным агентством геопространственной разведки. Она использует искусственный интеллект для анализа данных и выявления потенциальных целей. Изначально система работала на модели Claude компании Anthropic, однако позже между компанией и администрацией США возник конфликт.
Судебные документы показывают, что Anthropic не смогла договориться с Пентагоном после того, как отказалась согласиться на использование своих моделей без дополнительных ограничений. После этого министерство обороны назвало компанию "риском для цепочки поставок национальной безопасности", что поставило под угрозу будущие государственные контракты и привело к продолжающемуся судебному спору.
На фоне этих событий несколько сенаторов-демократов уже объявили о подготовке законопроектов, направленных на ограничение использования искусственного интеллекта вооруженными силами США.
Одна из инициатив, подготовленная сенатором Кирстен Джиллибранд, предусматривает, что решения о жизни и смерти должны принимать исключительно люди. Кроме того, предлагается полностью запретить использование искусственного интеллекта в вопросах, связанных с применением ядерного оружия, слежкой за гражданами и автономными боевыми системами.
"Сейчас Пентагон движется к внедрению чрезвычайно мощных систем искусственного интеллекта без разумных ограничений, что может привести к катастрофическим последствиям и сделать всех нас менее защищенными. Мы должны действовать сейчас не для того, чтобы остановить технологический прогресс, а чтобы установить четкие правила, которые сохранят контроль человека и обеспечат разумное и безопасное использование искусственного интеллекта в войне", — заявила Джиллибранд.