Các nhà nghiên cứu từ Đại học Toronto, Vector Institute, Đại học Cambridge và ServiceNow đã chứng minh một “con sâu” (worm) do AI điều khiển có khả năng tạo chiến lược tấn công và tự lây lan trên các mạng một cách tự chủ. Mã độc dạng proof-of-concept (bằng chứng khái niệm) chạy trên các máy tính bị nhiễm bằng các mô hình open-weight thay vì các dịch vụ đám mây, đánh dấu sự khác biệt so với các mối đe dọa do AI trước đó. Các nhà nghiên cứu cho rằng công trình này cho thấy các cuộc tấn công mạng do AI tạo ra đã vượt ra khỏi phạm vi lý thuyết: con sâu có thể nhận diện lỗ hổng, vạch ra các lộ trình tấn công phù hợp, chiếm quyền hệ thống, và tự nhân bản đồng thời điều chỉnh chiến thuật cho các mục tiêu khác nhau.
Bài nghiên cứu mô tả đây là một thay đổi mang tính nền tảng so với các “con sâu” truyền thống. “Chúng ta phải chuẩn bị cho các đối thủ đối kháng sinh ra tự động,” các nhà nghiên cứu đã viết. “Các hệ thống mã độc lan truyền mà không cần người vận hành và không được định nghĩa bởi mã khai thác cố định, mà bởi năng lực suy luận về mục tiêu, thích nghi với những quan sát, và tổng hợp logic tấn công theo thời gian thực.”
Các worm máy tính là mã độc tự nhân bản, tự lây lan qua các mạng có lỗ hổng. Các đợt bùng phát worm trong lịch sử bao gồm ILOVEYOU năm 2000 và WannaCry năm 2017 đã lây nhiễm hàng triệu máy tính trên toàn thế giới, làm gián đoạn các dịch vụ then chốt và gây thiệt hại lên tới hàng tỷ đô la. Gần đây hơn, malware Shai-Hulud cho thấy các cuộc tấn công tự lan truyền có thể lan rộng trên mạng, lây nhiễm phần mềm được dùng bởi các công ty lớn bao gồm OpenAI và Mistral.
Các nhà nghiên cứu thử nghiệm worm AI trong môi trường mạng cô lập
Nhóm đã thử nghiệm con sâu trong một mạng ảo cô lập gồm 33 hệ thống Linux, Windows và IoT được cấy các lỗ hổng phổ biến. Trong 15 thí nghiệm, con sâu nhận diện trung bình 31,3 lỗ hổng, chiếm quyền thành công 23,1 máy chủ và lan tới khoảng 20 máy trong 7 ngày vận hành tự chủ.
Trong một số thử nghiệm, mã độc đạt tới 7 thế hệ tự nhân bản. Các nhà nghiên cứu phát hiện hệ thống có thể khai thác các lỗ hổng được công bố sau mốc giới hạn dữ liệu huấn luyện của mô hình bằng cách nạp các khuyến nghị bảo mật mới xuất bản ngay tại thời điểm chạy, cho phép nó tích hợp thông tin không nằm trong dữ liệu huấn luyện ban đầu của mô hình.
Worm AI hoạt động mà không cần hạ tầng đám mây
Theo nghiên cứu, điểm khiến worm do AI điều khiển này khác biệt so với các phiên bản trước là khả năng thích nghi với các mục tiêu khác nhau: dùng một mô hình ngôn ngữ lớn để nhận diện lỗ hổng và tạo chiến lược tấn công theo thời gian thực, thay vì dựa vào một tập hợp cố định các mã khai thác.
“Các worm truyền thống, như WannaCry, khai thác các lỗ hổng đã được định sẵn, và việc lây lan của chúng có thể bị dừng lại bằng cách vá các lỗ hổng đó,” các nhà nghiên cứu đã viết. “Ở đây, chúng tôi cho thấy các tác nhân trí tuệ nhân tạo tạo ra một mối đe dọa mang tính nền tảng mới: một con sâu tạo ra các chiến lược tấn công phù hợp cho từng mục tiêu mà nó gặp.”
Khác với nhiều ứng dụng AI khác, con sâu không phụ thuộc vào quyền truy cập các dịch vụ đám mây AI. Thay vì dựa vào hạ tầng đám mây từ các nhà cung cấp như AWS, Microsoft Azure hay Google Cloud, mã độc chạy các mô hình AI trực tiếp trên các máy bị xâm nhập. Khi nó lan rộng, các hệ thống bị nhiễm thực chất đã trở thành một phần của hạ tầng tính toán của nó.
Nhóm nghiên cứu giấu thông tin kỹ thuật để ngăn lạm dụng
Mặc dù việc thử nghiệm được tiến hành trong môi trường được kiểm soát, các tác giả thừa nhận tính “hai mặt” của công trình và cố ý không công bố một số chi tiết kỹ thuật nhằm giảm rủi ro bị lạm dụng.
“Trước khi phát hành bản preprint này, chúng tôi đã chỉnh sửa bản thảo để đảm bảo phần trình bày về phương pháp của mình cân bằng giữa mức độ chi tiết cần thiết để cộng đồng nghiên cứu mối đe dọa mới này và rủi ro một kẻ tấn công có thể dùng phương pháp của chúng tôi để tạo mã độc,” các nhà nghiên cứu cho biết.
Các nhà nghiên cứu cho biết dự án nhằm hiểu rõ hơn các rủi ro do các worm máy tính thích nghi gây ra và cung cấp bằng chứng về mức độ năng lực mạng được hỗ trợ bởi AI đã tiến xa đến đâu. “Do đó, việc đối phó với mối đe dọa này sẽ cần hành động phối hợp trên các cộng đồng nghiên cứu, an ninh, ngành công nghiệp và hoạch định chính sách: các khung đánh giá kiểm tra năng lực cấp độ công cụ tích hợp, các hệ thống phát hiện được tinh chỉnh theo dấu hiệu hành vi của các tác nhân tự chủ, và các biện pháp quản lý tính đến bản chất phi tập trung của suy luận open-weight,” họ viết.
FAQ
Các nhà nghiên cứu đã chứng minh được điều gì trong nghiên cứu worm AI?
Các nhà nghiên cứu từ Đại học Toronto, Vector Institute, Đại học Cambridge và ServiceNow đã chứng minh một worm do AI điều khiển ở mức proof-of-concept có thể nhận diện lỗ hổng, tạo chiến lược tấn công và tự lây lan trên các mạng đồng thời thích nghi chiến thuật với các mục tiêu khác nhau.
Worm AI hoạt động thế nào trong quá trình thử nghiệm?
Trong 15 thí nghiệm trên một mạng ảo cô lập chứa 33 hệ thống, con sâu nhận diện trung bình 31,3 lỗ hổng, chiếm quyền thành công 23,1 máy chủ và lan tới khoảng 20 máy trong 7 ngày vận hành tự chủ. Trong một số thử nghiệm, mã độc đạt tới 7 thế hệ tự nhân bản.
Vì sao nhóm nghiên cứu giấu một số thông tin kỹ thuật?
Các tác giả thừa nhận tính “hai mặt” của công trình và cố ý không công bố một số chi tiết kỹ thuật để giảm rủi ro một kẻ xấu dùng phương pháp của họ để tạo mã độc, đồng thời vẫn cung cấp đủ mức độ chi tiết để cộng đồng nghiên cứu mối đe dọa mới này.
