Выпущено предостережение: веб-сайты, созданные с помощью искусственного интеллекта методом "вайб-кодинга" (Vibe Coding), могут стать ловушкой для невинных пользователей и украсть личную информацию и даже вывести деньги с кредитных карт. Это показало исследование израильской компании Tenzai. Информацию о новой угрозе публикует 19 января Ynet.
Исследование Tenzai показывает, что стильные сайты, созданные с помощью инструментов OpenAI, Anthropic, Cursor, Replit и Devin, содержат опасные уязвимости защиты. Самая серьезная проблема - полное отсутствие возможности для обычного пользователя понять, что он зашел на ресурс, разработанный с применением вайб-кодинга.
Вайб-кодинг - это такой метод разработки программного обеспечения, при котором человек не пишет код вручную, а поручает его генерацию искусственному интеллекту (ИИ), используя для этого инструкции на естественном языке, например, на английском, иврите или русском.
В рамках исследования Tenzai использовала пять инструментов вайб-кодинга для создания трех типов сайтов: интернет-магазин, форум и сайт обмена файлами. Затем исследователи запустили кибер-агента ИИ своей компании, который попытался взломать эти сайты всеми возможными способами.
Результат: все созданные сайты содержали значительные уязвимости защиты, часть из них - критическая. Эти бреши позволяют хакерам обходить разрешения, проникать во внутренние отделы серверов, красть конфиденциальную информацию пользователей и даже переводить деньги на счета злоумышленников.
"Однозначно, я бы не вводил данные своей кредитной карты ни в одно подобное приложение", – сказал в беседе с Ynet Ури Давид, исследователь компании Tenzai и редактор исследования. По его словам, нужно остерегаться загрузки любой конфиденциальной информации на сайты, созданные вайб-кодингом, включая фотографии, личные сведения, адреса, данные для авторизации на сайтах.
"Мы видели ситуации, когда злоумышленник буквально может захватить сам сервер и оттуда загружать файлы от пользователей приложения и даже запускать на их компьютерах вредоносный код. После этого начинается полный хаос", – говорит он.
Проблема в том, что нет способа узнать, основан ли сайт на вайб-кодинге. Павел Гурвич, генеральный директор Tenzai, говорит, что у пользователя нет возможности понять, создан ли сайт только человеком, или человеком с помощью ИИ, или ИИ с помощью человека, или только ИИ.
"Что мы пытаемся сказать разработчикам – послушайте, есть удивительная магия в способности новых агентов и моделей генерировать код с безумными возможностями, но оказывается, это создает ужасные баги. Поэтому очень важно проверять защиту этих приложений, прежде чем выпускать их наружу", – сказал Гурвич.
►Революция вайб-кодинга
Мир находится в разгаре революции вайб-кодинга: все больше пользователей без опыта написания кода используют автоматические инструменты для разработки сайтов и приложений. Выражение "вайб-кодинг" придумал Андрей Карпати, один из основателей OpenAI, так описавший свой новый стиль работы: "Я вижу вещи, я говорю вещи, я запускаю вещи – и это работает".
За последний год создание сайтов с помощью речи и инструкций для ИИ превратилось из сетевого феномена в мейнстрим, поскольку все больше компаний подталкивают разработчиков применять инструменты вайб-кодинга для ускорения разработки.
Параллельно растет число предпринимателей, приходящих на деловые встречи с прототипом, созданным ими за несколько часов данным методом, и инвестиционных фондов, ищущих созданные людьми стартапы для разработки сайтов с помощью вайб-кодинга.
Может ли обнаружение уязвимостей киберзащиты омрачить этот энтузиазм?
"Мы пришли не для того, чтобы испортить праздник, – говорит Ури Давид. – Мы полностью за прогресс в этой области. Но важно, чтобы люди понимали последствия, если делать это без защиты. Мы видим, что это происходит очень часто – если кто-то создает приложение, полностью основанное на вайб-кодинге, вероятность отсутствия в нем критических уязвимостей защиты очень мала".
– Чего все же стоит остерегаться?
– Тип сайтов, от которого я бы особенно остерегался, – это сайты людей, открывших для себя эту магию, не имеющих технологического бэкграунда, они действительно могут с помощью нескольких простых промптов запустить приложение, выглядящее и работающее отлично. Мы видели случаи, как люди делали это, запускали свое приложение, публиковали его в LinkedIn, и через час начинали размещать панические сообщения: "ой нет, меня взломали, я не понимаю, что случилось".
Один из интересных выводов исследования: иногда сайты, созданные ИИ, позволяют выполнять действия, нелогичные с человеческой точки зрения. Например, заказывать отрицательное количество товаров или устанавливать отрицательную цену на продукт. "Это уязвимости в бизнес-логике, – говорит Давид, – Это не классическая уязвимость, возникающая в коде, а неправильное проектирование приложения. Инструменты ИИ умеют писать код, который ты у них просишь, и делают это неплохо, но от них нельзя ожидать принятия взвешенных решений", – утверждает Давид.
Компания Tenzai, основанная 8 месяцев назад, разработала технологию на основе ИИ, которая постоянно проверяет устойчивость сайтов ко всем типам атак, заменяя ручные услуги экспертов по кибербезопасности, слишком медленные и дорогие.
По словам Гурвича, компания в эти дни расширяется, нанимает много сотрудников и постоянно привлекает новых клиентов. "На рынке очень большой спрос, бизнес требует помощи", – говорит он.
– Знаете, что здесь тревожит? Все, что вы делаете, может делать и хакерская группа. Только вместо предупреждения она воспользуется этими уязвимостями.
– Именно это и происходит. Злоумышленники уже давно открыли для себя мир ИИ и проводят автоматизацию точно так же, как мы. Они используют ИИ для сокращения временного окна между обнаружением новой уязвимости и ее эксплуатацией.
В конечном счете, для компаний и организаций это поле жестокой битвы. Раньше они проводили периодические тесты на взлом. С новыми возможностями ИИ постоянно пытаться взламывать сайты угроза взлома становится осязаемой и мгновенной. По сути, вопрос в том, кто найдет уязвимость раньше – компания вроде Tenzai и ей подобные, или хакеры.
Перевод: Даниэль Штайсслингер