Google cho biết mô hình Gemini đã xâm nhập vào hệ thống máy tính của ba công ty khác. Đây là lần đầu tiên tập đoàn công nghệ này công khai việc một mô hình AI của họ tự động truy cập trái phép vào hệ thống máy tính của bên thứ ba.
Theo Google, vào tháng 5, Gemini đã truy cập ba hệ thống máy tính riêng biệt bằng cách đoán mật khẩu và hai lần sử dụng một kho lưu trữ chứa các mật khẩu được công khai.
Sự việc xảy ra trong một bài kiểm tra bảo mật theo hình thức "capture-the-flag" do startup Israel Irregular thực hiện. Các tác nhân AI của Google vốn không được phép truy cập Internet bên ngoài môi trường thử nghiệm. Tuy nhiên, một lỗi trong môi trường kiểm thử đã vô tình cho phép chúng kết nối Internet.
Google cho biết các tác nhân AI đã dừng hành vi xâm nhập sau khi xác định chúng đã truy cập vào hệ thống máy tính thực của doanh nghiệp, thay vì chỉ tiếp cận môi trường được thiết lập cho bài kiểm tra.
Heather Adkins, Phó Chủ tịch phụ trách kỹ thuật bảo mật của Google, cho biết: "Trong một cuộc đánh giá tiêu chuẩn, mô hình đã tìm thấy thông tin công khai trên Internet và đoán thông tin đăng nhập để truy cập các trang web mà nó cho rằng thuộc phạm vi thử nghiệm. Trong cả ba trường hợp, mô hình đều dừng lại".
Thông tin được Google công bố trong bối cảnh những lo ngại về hành vi ngoài dự kiến của các hệ thống AI ngày càng gia tăng tại Washington và Thung lũng Silicon.
Trong những tuần gần đây, OpenAI, Anthropic và Meta cũng lần lượt báo cáo các sự cố liên quan đến việc mô hình AI của họ thoát khỏi môi trường kiểm thử và tìm cách tấn công hệ thống của các công ty khác nhằm giành quyền truy cập trái phép.
Những sự cố liên quan đến các mô hình AI được gọi là "misaligned" (không phù hợp với mục tiêu kiểm soát) đã khiến CEO Anthropic Dario Amodei kêu gọi các công ty trong ngành phối hợp làm chậm quá trình phát triển những mô hình AI tiên tiến nhất, cho đến khi có thể bảo đảm tính an toàn của chúng.
Các sự cố trên đều liên quan đến Irregular, startup Israel được Sequoia và Redpoint Ventures đầu tư. Công ty được định giá 450 triệu USD vào năm ngoái và phát triển các công cụ giúp những nhà phát triển mô hình nền tảng kiểm tra khả năng an ninh mạng của công nghệ AI tiên tiến.
Người phát ngôn Irregular nói với CNBC rằng sự cố liên quan đến Google bắt nguồn từ cùng một vấn đề từng khiến các mô hình AI khác có thể truy cập Internet.
"Đây là cùng một vấn đề đã được báo cáo trước đó và không phải một sự cố riêng biệt về bản chất. Tất cả các phòng thí nghiệm liên quan đã được thông báo vào cuối tháng 7, trong khi những bên bị ảnh hưởng cũng được liên hệ trong quá trình điều tra", người phát ngôn Irregular cho biết.
Google cho biết sự cố xảy ra vào tháng 5 và công ty nhận được thông báo từ Irregular vào cuối tháng 7. Sau đó, Google phối hợp với startup này để điều chỉnh quy trình kiểm thử.
Đại diện Google từ chối tiết lộ chính xác phiên bản Gemini nào liên quan đến sự cố.
Heather Adkins cho rằng sự việc cho thấy tầm quan trọng của việc đào tạo các mô hình AI mạnh mẽ để chúng có thể hoạt động một cách có trách nhiệm.
