Theo Reuters, trong những ngày gần đây, Anthropic và OpenAI tiết lộ rằng các công cụ AI của họ đã xâm nhập vào hệ thống của các công ty khác, làm dấy lên lo ngại từ các nhà lập pháp Mỹ về việc những mô hình AI ngày càng mạnh có thể bị sử dụng để tiến hành hoặc hỗ trợ các cuộc tấn công mạng.
Một quan chức Nhà Trắng cho biết, chính quyền Tổng thống Donald Trump đã hoàn tất các chi tiết của chương trình thử nghiệm an ninh mạng tự nguyện nhằm đánh giá khả năng tấn công mạng của những mô hình AI tiên tiến nhất do Mỹ phát triển, đồng thời dự kiến sẽ thảo luận với ngành công nghiệp AI. Tuy nhiên, quan chức này không tiết lộ những ai sẽ tham dự cuộc họp.
Người phát ngôn Meta xác nhận công ty đã nhận được lời mời. Theo Reuters, Anthropic và OpenAI cũng nằm trong danh sách được mời.
Nhà Trắng chưa công bố chi tiết về các bài kiểm tra, bao gồm cách báo cáo kết quả, các tiêu chí đánh giá sẽ được sử dụng cũng như liệu kết quả có được công khai hay không.
Cũng trong ngày, nhóm gồm 15 tổng chưởng lý đảng Cộng hòa của các bang tại Mỹ đã yêu cầu OpenAI lưu giữ toàn bộ các tài liệu có liên quan đến việc công ty tiết lộ rằng hệ thống AI của mình đã thoát khỏi môi trường kiểm soát và tấn công công ty AI Hugging Face. Dẫn lại một báo cáo của Reuters cho biết tác nhân AI "ngoài tầm kiểm soát" trong một trường hợp còn để lại ghi chú hướng dẫn các phiên bản tương lai cách vượt qua các hàng rào bảo vệ nội bộ, nhóm này cho rằng OpenAI có thể đã vi phạm luật bảo vệ người tiêu dùng của các bang.
OpenAI cho biết trong một tuyên bố rằng họ xem xét nghiêm túc lá thư của các tổng chưởng lý và sẽ công bố báo cáo kỹ thuật về vụ tấn công nhằm vào Hugging Face sau khi hoàn tất quá trình rà soát.
Ủy ban An ninh mạng của Hạ viện Mỹ cũng đã yêu cầu Giám đốc điều hành OpenAI Sam Altman báo cáo trước ủy ban về vụ việc liên quan đến Hugging Face.
Theo OpenAI, Sam Altman đã đến Nhà Trắng vào tuần trước để thảo luận về các chi tiết của chương trình thử nghiệm tự nguyện cũng như những sản phẩm AI sắp ra mắt của công ty. Trong một tuyên bố riêng, OpenAI cho biết họ đã đề nghị chính quyền Trump đưa các chuyên gia an toàn AI thuộc Bộ Thương mại Mỹ vào vị trí trung tâm của mọi chương trình thử nghiệm an ninh mạng. Công ty cũng nhấn mạnh yếu tố cạnh tranh với Trung Quốc, quốc gia có chiến lược phát triển AI tập trung hơn so với Mỹ.
Trang công nghệ The Information đưa tin rằng chính quyền Trump cũng đã mời đại diện Google tham dự cuộc họp.
Hồi tháng 6, Tổng thống Mỹ Donald Trump đã chỉ đạo đội ngũ của mình xây dựng một loạt bài kiểm tra nhằm đánh giá khả năng tấn công mạng của các hệ thống AI tiên tiến nhất do Mỹ phát triển.
Chính quyền Trump được cho là có mối quan hệ nhiều sóng gió với Anthropic. Đầu năm nay, công ty này đã từ chối cho phép quân đội Mỹ sử dụng các mô hình AI của mình cho hoạt động giám sát trong nước và các hệ thống vũ khí hoàn toàn tự động. Sau đó, chính phủ đã đưa Anthropic vào danh sách đen về an ninh quốc gia.
Tuần trước, Anthropic cho biết một số mô hình AI của họ đã xâm nhập vào hệ thống của ba công ty trong quá trình thử nghiệm an ninh mạng. Tiết lộ này được đưa ra sau khi đối thủ OpenAI công bố rằng một tác nhân AI của họ đã thoát khỏi môi trường thử nghiệm và xâm nhập vào hệ thống của công ty AI Hugging Face.
