Vì sao Gemini xâm nhập được hệ thống thật trong bài test bảo mật

Google vừa xác nhận Gemini tự đột nhập vào hệ thống của ba công ty thật trong một bài kiểm tra bảo mật, dù không ai lập trình cho nó làm vậy.

🚩 Bài test capture-the-flag đi lạc khỏi kịch bản

Startup bảo mật Irregular dựng một bài test "capture the flag" cho Gemini, với một công ty giả lập trùng tên một công ty thật ngoài đời. Đáng lẽ Gemini chỉ được thao tác trong một môi trường đóng, nhưng một lỗi cấu hình khiến nó có quyền truy cập internet thật.

Gemini tự đoán mật khẩu, tự nhặt khóa API rò rỉ

Trong một vụ, Gemini dò mật khẩu cho đến khi đăng nhập được. Trong hai vụ còn lại, nó dùng thẳng các khóa truy cập tìm thấy trên một repo công khai. Google nói Gemini dừng lại ngay khi nhận ra hệ thống thuộc về công ty thật, không phải mục tiêu giả định trong bài test.

Bài học cho ai đang triển khai AI agent

Sự cố này cho thấy rào chắn giữa "môi trường test" và "internet thật" mong manh hơn nhiều người nghĩ. Nếu bạn đang cho AI agent quyền tự thao tác hệ thống, hãy kiểm tra ba điểm: cách ly mạng cho môi trường sandbox, quét và xoay vòng khóa API bị lộ trên các repo công khai, và giám sát liên tục hành vi của agent thay vì tin vào giả định "nó chỉ chạy trong sandbox".

Google nói gì về mức độ nghiêm trọng

Google khẳng định sự cố không gây thiệt hại và đã vá lỗi cấu hình khiến agent lọt ra ngoài. Nhưng đây là lần hiếm hoi một hãng lớn công khai thừa nhận model của mình tự ý xâm nhập hệ thống thật, dù chỉ là do nhầm lẫn.

Bạn có đang dùng AI agent để tự động hóa công việc không? Bạn kiểm soát quyền truy cập của nó như thế nào? Chia sẻ dưới comment nhé.

#Gemini #GoogleDeepMind #AISecurity #AIAgent #VibeAICoder