Nguy cơ ẩn giấu của Công cụ Lập trình AI: Lỗ hổng cửa hậu đe dọa nền tảng Tiền điện tử lớn

Một trợ lý lập trình AI phổ biến được sử dụng rộng rãi bởi một sàn giao dịch tiền điện tử lớn tiềm ẩn một lỗ hổng cửa hậu nguy hiểm có thể cho phép tin tặc cài đặt phần mềm độc hại ẩn và xâm phạm toàn bộ tổ chức, theo công ty an ninh mạng HiddenLayer.

Trong bài viết trên blog vào thứ Năm, các nhà nghiên cứu đã mô tả cách mà “Cuộc tấn công Giấy phép CopyPasta” khai thác những điểm yếu trong trình biên tập mã Cursor. Cuộc tấn công này có vẻ vô hại ở bề mặt nhưng có thể nhúng các lệnh độc hại vào các tệp phát triển phổ biến.

Lỗ hổng kỹ thuật

Cursor, một công cụ cung cấp tự động hoàn thành thông minh và gợi ý mã tự động, chứa một lỗ hổng nghiêm trọng trong chế độ Tự động chạy của nó. Lỗ hổng này vượt qua các giao thức an toàn được thiết kế để ngăn chặn việc thực thi mã trái phép.

Lỗ hổng khai thác các lời nhắc hệ thống trong Cursor xử lý việc tuân thủ giấy phép phần mềm. Bằng cách ngụy trang thành văn bản giấy phép tiêu chuẩn (như các thỏa thuận GPL) trong các tệp markdown README, cuộc tấn công có thể đánh lừa AI thực thi các lệnh ẩn.

“Khi kết hợp với các hướng dẫn độc hại, cuộc tấn công CopyPasta tự sao chép đồng thời theo cách mã hóa đến các kho lưu trữ mới và giới thiệu những lỗ hổng có chủ đích vào các mã nguồn an toàn khác,” HiddenLayer giải thích.

Trong quá trình thử nghiệm, các nhà nghiên cứu đã triển khai một tải trọng vô hại đã chèn một dòng mã duy nhất vào các tệp Python. Tuy nhiên, họ cảnh báo rằng phương pháp này có thể bị vũ khí hóa để cài đặt backdoor, đánh cắp dữ liệu nhạy cảm, làm cạn kiệt tài nguyên hệ thống hoặc làm hỏng môi trường sản xuất.

Nhiều công cụ lập trình AI khác bao gồm Windsurf, Kiro và Aider cũng được phát hiện dễ bị tổn thương trước lỗ hổng này. Cả HiddenLayer và nhóm an ninh BackSlash đều báo cáo độc lập về lỗ hổng này.

Sự áp dụng AI bắt buộc gây lo ngại

Sự tiết lộ này xảy ra vào một thời điểm đặc biệt đáng lo ngại khi CEO của sàn giao dịch đã tích cực thúc đẩy các công cụ lập trình AI trong toàn tổ chức. Chỉ mới hôm qua, ông đã tiết lộ rằng đội ngũ kỹ sư của ông phụ thuộc rất nhiều vào Cursor, với kế hoạch bắt buộc sử dụng nó cho tất cả các kỹ sư vào tháng Hai.

Trong một cuộc phỏng vấn podcast vào tháng trước, CEO đã thừa nhận đã đưa ra một tối hậu thư cho các nhà phát triển: bắt đầu sử dụng GitHub Copilot và Cursor trong vòng một tuần hoặc có nguy cơ mất việc.

“Tôi đã tự ý đăng bài trong kênh Slack all-in… Nếu không [onboarded] trước cuối tuần, tôi sẽ tổ chức một cuộc họp vào thứ Bảy với tất cả những ai chưa làm điều đó, và tôi muốn gặp bạn để hiểu lý do tại sao,” anh ấy nói.

Giám đốc điều hành gần đây đã khoe trên mạng xã hội rằng AI hiện đang tạo ra khoảng 40% mã của công ty, với kỳ vọng sẽ vượt quá 50% vào tháng Mười. Mặc dù ông là một trong những người ủng hộ AI mạnh mẽ nhất ở Silicon Valley, nhưng cách tiếp cận cứng rắn của ông đã gây ra sự chỉ trích trong cộng đồng công nghệ.

Tôi không thể không tự hỏi liệu sự vội vàng chấp nhận các công cụ lập trình AI mà không có kiểm tra bảo mật thích hợp có thể đang tạo ra một kịch bản cho một cuộc vi phạm thảm khốc. Khi các giám đốc điều hành ưu tiên việc áp dụng công nghệ hơn là các cân nhắc về bảo mật, tất cả tài sản của mọi người đều gặp rủi ro.