AI編程工具的隱藏危險：後門漏洞威脅主要加密貨幣平台

一家主要的 cryptocurrency 交易所廣泛使用的流行 AI 編碼助手存在一個危險的後門漏洞，這可能允許黑客植入隱藏的惡意軟件並破壞整個組織，依據網路安全公司 HiddenLayer 的說法。

在他們星期四的博客文章中，研究人員詳細說明了 "CopyPasta License Attack "如何利用Cursor代碼編輯器中的漏洞。這個攻擊表面上看似無害，但可以將惡意指令嵌入到常見的開發者文件中。

技術漏洞

Cursor，提供智能自動補全和自動代碼建議，在其自動運行模式中存在一個關鍵缺陷。此漏洞繞過了旨在防止未經授權的代碼執行的安全協議。

該漏洞利用Cursor中處理軟件許可合規的系統提示。通過僞裝成標準許可文本(的GPL協議)，攻擊可以欺騙AI執行隱藏命令。

“HiddenLayer 解釋道：當與惡意指令結合時，CopyPasta 攻擊以混淆的方式同時在新的代碼庫中自我復制，並在原本安全的代碼庫中引入故意的漏洞。”

在測試期間，研究人員部署了一個無害的有效載荷，該有效載荷向Python文件插入了一行代碼。然而，他們警告說，這種方法可能被武器化，以植入後門、竊取敏感數據、耗盡系統資源或破壞生產環境。

包括 Windsurf、Kiro 和 Aider 在內的幾個其他 AI 編碼工具也被發現對該漏洞存在脆弱性。HiddenLayer 和安全組 BackSlash 獨立報告了該漏洞。

強制AI採納引發擔憂

這一揭示在一個特別令人不安的時刻出現，因爲交易所的首席執行官一直在積極推動整個組織使用AI編碼工具。就在昨天，他透露他的工程團隊在很大程度上依賴Cursor，並計劃在二月份之前強制所有工程師使用它。

在上個月的一次播客採訪中，首席執行官承認給開發者下了最後通牒：在一周內開始使用 GitHub Copilot 和 Cursor，否則將面臨失業的風險。

“我不按常規行事，在全員Slack頻道發了消息……如果到本週末還沒有[onboarded]，我將於周六與所有未完成的人召開會議，我想和你見面，了解原因。”

這位高管最近在社交媒體上吹噓，AI目前生成了公司約40%的代碼，並預計到十月份將超過50%。雖然他一直是硅谷最積極的AI倡導者之一，但他強硬的做法在科技界引發了批評。

我不禁想知道，這種急於接受人工智能編碼工具而沒有適當安全審查的做法，是否爲災難性漏洞的發生鋪平了道路。當高管們將技術採用置於安全考慮之上時，所有人的資產都面臨風險。