AI dùng chiêu tin tặc gây 'sự cố nghiêm trọng' trong thử nghiệm

Theo The Guardian ngày 5.8, vụ việc liên quan các tác nhân AI, tức những hệ thống có khả năng tự thực hiện nhiệm vụ mà không cần con người hỗ trợ trực tiếp. Các tác nhân được vận hành bằng 2 mô hình Mythos 5 của Anthropic và GPT-5.6 Sol của OpenAI.

Anh cảnh báo tác nhân AI tạo tài khoản giả, nhắm vào người thật để vượt đánh giá an ninh

ẢNH: REUTERS

AISI phát hiện hoạt động bất thường trong một cuộc đánh giá an ninh mạng định kỳ ngày 28.7. Một số tác nhân đã tiến hành "hoạt động kéo dài, có khả năng gây hại nhằm vào người thật và các tổ chức". AISI mất khoảng 1 giờ để kiểm soát sự cố.

Trong sự cố nghiêm trọng nhất, một tác nhân AI vận hành bằng mô hình Mythos đã tìm cách chèn mã độc vào một dự án phần mềm mã nguồn mở trên GitHub, với tính toán rằng hành động này sẽ giúp nó vượt qua bài đánh giá.

Để mã độc được chấp thuận, tác nhân tạo nhiều danh tính trực tuyến giả mạo, sau đó sử dụng chúng để gây sức ép với người giám sát dự án. Hệ thống còn gửi email chứa phần mềm độc hại tới 2 nhà phát triển cụ thể, áp dụng kỹ thuật thường được tin tặc sử dụng gọi là "tấn công lừa đảo có chủ đích". Cơ quan giám sát cho biết không có thiệt hại nào xảy ra, nhưng hành động của tác nhân AI này là "chưa từng có tiền lệ".

Trong một trường hợp khác, tác nhân AI đã soạn tin nhắn bằng tiếng Đan Mạch nhằm thuyết phục một nhà phát triển nói tiếng Đan Mạch chấp nhận đoạn mã độc. Nó cũng tạo các tài khoản GitHub giả để phụ họa cho tuyên bố sai rằng phần mềm không chứa nội dung độc hại.

Theo AISI, tác nhân đã tính toán sai rằng việc tải mã độc lên sẽ kích hoạt một chuỗi sự kiện, cho phép nó sử dụng phiên bản phần mềm đã chỉnh sửa để vượt qua bài kiểm tra. Không có thiệt hại thực tế nào được ghi nhận.

"Đây là lần đầu tiên chúng tôi chứng kiến rõ ràng những rủi ro liên quan tính tự chủ và hành vi lừa dối xuất hiện trong thế giới thực mà không có yêu cầu cụ thể", AISI cho biết.

Trong tổng số 19 hành vi vượt quá quy định được ghi nhận trong quá trình đánh giá, 17 trường hợp do tác nhân sử dụng Mythos thực hiện và 2 trường hợp liên quan Sol.

AISI nhấn mạnh đây không phải trường hợp AI thoát khỏi "môi trường thử nghiệm an toàn". AISI xác nhận họ đã chủ động cho phép các mô hình truy cập internet và vô hiệu hóa một số bộ lọc ngăn hành vi nguy hiểm để phục vụ quá trình đánh giá.

AISI cho biết chưa có bằng chứng cho thấy những hành vi tương tự xảy ra ngoài phạm vi thử nghiệm. Mythos 5 chưa được phát hành rộng rãi, còn phiên bản GPT-5.6 Sol ra mắt công chúng được tích hợp các biện pháp bảo vệ an ninh mạng.

Dù vậy, AISI cho rằng mức độ và thời gian duy trì hành vi lừa dối đã vượt xa dự đoán. "Điều chúng tôi có thể khẳng định là hành vi này có thể xảy ra, kéo dài và mang tính mới. Chỉ riêng điều đó đã đáng được chú ý", AISI nhận định.

Vụ việc nối tiếp một số sự cố tương tự trong các cuộc đánh giá tại OpenAI và Anthropic. Trước đó, OpenAI cho biết một tác nhân sử dụng mô hình của hãng đã tấn công một công ty khởi nghiệp AI trong thử nghiệm. Sau đó, Anthropic đã thông báo mô hình Claude đã tấn công 3 tổ chức trong một cuộc đánh giá khác.

Theo AISI, chuỗi sự cố cho thấy "bối cảnh rủi ro đang thay đổi". Đây không phải hành vi cố ý lạm dụng các mô hình công khai, mà là trường hợp những hệ thống trong môi trường nghiên cứu tự thực hiện hành động ngoài dự kiến và "vượt quá phạm vi cho phép".

AISI thừa nhận chưa giám sát liên tục hoạt động của các tác nhân trong quá trình đánh giá. Sau sự cố, Viện này đã siết quyền truy cập internet, triển khai cơ chế theo dõi theo thời gian thực và xem xét lại thiết kế các bài thử nghiệm. AISI cho rằng những cuộc đánh giá trong tương lai cần giả định mô hình có thể tìm cách hành động vượt ngoài giới hạn.

Anthropic nhận định sự cố cho thấy cần có thảo luận rộng hơn về cách đánh giá an toàn các tác nhân AI ngày càng mạnh, đồng thời cam kết tiếp tục hợp tác với AISI. OpenAI cho biết thử nghiệm được tiến hành trong những điều kiện "không phản ánh cách sử dụng thông thường".

Ông Ollie Whitehouse, Giám đốc công nghệ Trung tâm An ninh mạng quốc gia Anh, cảnh báo phát hiện sự cố sau khi xảy ra là chưa đủ. "Những công nghệ này phải được phát triển và sử dụng ngay từ đầu với các biện pháp bảo vệ mạnh mẽ, giám sát theo thời gian thực và kế hoạch rõ ràng để ứng phó khi điều bất ngờ xảy ra", ông nói.