Прихована небезпека інструмента програмування AI: Вразливість з зворотним доступом загрожує великій Крипто платформі

Популярний AI-асистент кодування, який широко використовується великою криптовалютною біржею, має небезпечну уразливість з бекдором, яка може дозволити хакерам впроваджувати приховані шкідливі програми та скомпрометувати цілі організації, згідно з даними компанії з кібербезпеки HiddenLayer.

У своєму блозі в четвер дослідники детально описали, як “Атака ліцензії CopyPasta” використовує вразливості в редакторі коду Cursor. Ця атака на перший погляд виглядає безневинною, але може вбудовувати шкідливі програми в загальні файли розробників.

Технічна експлуатація

Курсор, який пропонує інтелектуальне автозаповнення та автоматизовані пропозиції коду, містить критичну вразливість у своєму режимі Авто-Запуск. Ця вразливість обходить протоколи безпеки, призначені для запобігання несанкціонованому виконанню коду.

Експлойт маніпулює системними запитами в Cursor, які обробляють дотримання ліцензійного програмного забезпечення. Приховуючись під виглядом стандартного ліцензійного тексту (, як угоди GPL ) у файлах README markdown, атака може обманути ШІ, змусивши його виконати приховані команди.

“Коли поєднується зі шкідливими інструкціями, атака CopyPasta одночасно реплікує себе в заплутаній манері в нові репозиторії та вводить навмисні вразливості в інакше безпечні кодові бази,” пояснив HiddenLayer.

Під час тестування дослідники розгорнули безпечний вантаж, який вставляв одну рядок коду в файли Python. Однак вони попередили, що цей же метод може бути використаний для вставлення «чорних ходів», крадіжки чутливих даних, вичерпання системних ресурсів або корупції виробничих середовищ.

Кілька інших інструментів кодування на базі ШІ, включаючи Windsurf, Kiro та Aider, також виявилися вразливими до цього експлойту. І HiddenLayer, і група безпеки BackSlash незалежно повідомили про вразливість.

Примусове впровадження ШІ викликає занепокоєння

Це відкриття відбувається в особливо тривожний час, оскільки генеральний директор біржі активно просуває інструменти кодування ШІ протягом організації. Ще вчора він розкрив, що його інженерна команда сильно покладається на Cursor, з планами зобов'язати всіх інженерів використовувати його до лютого.

У подкаст-інтерв'ю минулого місяця CEO визнав, що дав розробникам ультиматум: почати використовувати GitHub Copilot і Cursor протягом одного тижня або ризикувати втратою роботи.

“Я вийшов за межі правил і написав у каналі Slack для всіх… Якщо не [onboarded] до кінця тижня, я проведу зустріч у суботу з усіма, хто цього не зробив, і хотів би зустрітися з тобою, щоб зрозуміти чому,” сказав він.

Керівник нещодавно похвалився в соціальних мережах, що ШІ наразі генерує близько 40% коду компанії, з очікуваннями перевищити 50% до жовтня. Хоча він був одним з найбільш голосних прихильників ШІ в Силіконовій долині, його жорсткий підхід викликав критику в технічному співтоваристві.

Я не можу не задумуватися, чи не готує ця спешка до впровадження інструментів AI кодування без належного перевірки безпеки ґрунт для катастрофічного витоку. Коли керівники ставлять пріоритет на технологічному впровадженні над питаннями безпеки, під загрозу ставляться активи всіх.