Скрытая опасность инструмента AI для кодирования: Уязвимость через заднюю дверь угрожает крупной Крипто платформе

Популярный AI кодировочный ассистент, широко используемый крупной криптовалютной биржей, содержит опасную уязвимость в виде «закладок», которая может позволить хакерам внедрять скрытые вредоносные программы и компрометировать целые организации, согласно данным кибербезопасной компании HiddenLayer.

В своем блоге в четверг исследователи подробно описали, как “атака лицензии CopyPasta” использует уязвимости в редакторе кода Cursor. Эта атака кажется безобидной на первый взгляд, но может встраивать вредоносные программы в общие файлы разработчиков.

Техническая эксплуатация

Курсор, который предлагает интеллектуальное автозаполнение и автоматизированные предложения кода, содержит критическую уязвимость в своем режиме автозапуска. Эта уязвимость обходит протоколы безопасности, разработанные для предотвращения несанкционированного выполнения кода.

Эксплойт манипулирует системными подсказками внутри Cursor, которые обрабатывают соблюдение лицензий программного обеспечения. Прячась под стандартным текстом лицензии (, таким как соглашения GPL ) в файлах README в формате markdown, атака может обмануть ИИ, заставив его выполнить скрытые команды.

“Когда в сочетании с вредоносными инструкциями атака CopyPasta одновременно реплицирует себя в зашифрованном виде в новые репозитории и вводит преднамеренные уязвимости в иначе безопасные кодовые базы,” объяснил HiddenLayer.

Во время тестирования исследователи развернули безвредный полезный нагрузку, которая вставляла одну строку кода в файлы Python. Однако они предупредили, что этот же метод может быть использован для установки бекдоров, кражи конфиденциальных данных, истощения ресурсов системы или повреждения производственных сред.

Несколько других инструментов ИИ для кодирования, включая Windsurf, Kiro и Aider, также оказались уязвимыми для этой уязвимости. Как HiddenLayer, так и группа безопасности BackSlash независимо сообщили об уязвимости.

Принудительное принятие ИИ вызывает опасения

Это откровение происходит в особенно тревожное время, так как CEO биржи активно продвигает инструменты AI-кодирования по всей организации. Вчера он сообщил, что его инженерная команда сильно зависит от Cursor и планирует сделать его обязательным для всех инженеров к февралю.

В интервью подкаста в прошлом месяце генеральный директор признал, что дал разработчикам ультиматум: начать использовать GitHub Copilot и Cursor в течение одной недели или рисковать потерей работы.

“Я вышел из-под контроля и опубликовал в канале Slack 'все в одном'… Если не [onboarded] к концу недели, я проведу встречу в субботу со всеми, кто этого не сделал, и хотел бы встретиться с вами, чтобы понять, почему,” сказал он.

Недавно исполнительный директор похвастался в социальных сетях, что ИИ в настоящее время генерирует около 40% кода компании, с ожиданиями превысить 50% к октябрю. Хотя он был одним из самых активных сторонников ИИ в Силиконовой долине, его грубый подход вызвал критику в технологическом сообществе.

Я не могу не задуматься, не ставит ли этот стремительный переход к использованию инструментов ИИ для кодирования без должной проверки безопасности сцену для катастрофического нарушения. Когда руководители ставят приоритет на технологическую адаптацию выше соображений безопасности, риску подвергаются активы всех.