CNBC thông tin, trong một phản hồi gửi tới người dùng trên X, Grok cho biết họ đang “khẩn trương khắc phục” vấn đề và khẳng định nội dung lạm dụng tình dục trẻ em là “bất hợp pháp và bị nghiêm cấm”.
Ở các phản hồi khác, chatbot này cũng đăng tải rằng một công ty có thể đối mặt với trách nhiệm hình sự hoặc dân sự nếu cố tình tạo điều kiện hoặc không ngăn chặn loại nội dung này sau khi đã được cảnh báo.
Các bài đăng của Grok là nội dung do AI tạo ra và không đại diện cho tuyên bố chính thức của công ty.
xAI của Musk, đơn vị tạo ra Grok và đã sáp nhập với X vào năm ngoái khi được yêu cầu bình luận đã gửi phản hồi tự động với nội dung: “Truyền thông truyền thống nói dối”.
Trong những ngày gần đây, người dùng trên X đã bày tỏ lo ngại về việc xuất hiện các nội dung nhạy cảm liên quan đến trẻ vị thành niên, bao gồm hình ảnh trẻ em mặc trang phục tối thiểu, được tạo ra bằng công cụ Grok.
Mạng xã hội này cũng đã bổ sung nút “Edit Image” (Chỉnh sửa ảnh), cho phép bất kỳ người dùng nào chỉnh sửa hình ảnh bằng câu lệnh văn bản mà không cần sự đồng ý của người đăng ban đầu.
Một bài đăng của Parsa Tajik, nhân viên kỹ thuật của xAI cũng thừa nhận vấn đề.
“Chào bạn! Cảm ơn đã báo cáo. Đội ngũ đang xem xét việc siết chặt thêm các hàng rào bảo vệ,” Tajik viết.
Các quan chức chính phủ tại Ấn Độ và Pháp đã ra tuyên bố cho biết sẽ xem xét vụ việc. Ủy ban Thương mại Liên bang Mỹ (FTC) từ chối bình luận, trong khi Ủy ban Truyền thông Liên bang (FCC) chưa phản hồi ngay yêu cầu của CNBC.
Sự bùng nổ của các nền tảng tạo hình ảnh bằng AI kể từ khi ChatGPT ra mắt năm 2022 đã làm dấy lên nhiều lo ngại về thao túng nội dung và an toàn trực tuyến. Xu hướng này cũng góp phần làm gia tăng số lượng nền tảng tạo ra các hình ảnh khỏa thân deepfake của người thật.
David Thiel, nhà nghiên cứu về niềm tin và an toàn từng làm việc tại Đài quan sát Internet Stanford (nay đã giải thể) cho biết các luật khác nhau của Mỹ nhìn chung cấm việc tạo ra và phát tán một số hình ảnh nhạy cảm, bao gồm hình ảnh lạm dụng tình dục trẻ em hoặc hình ảnh thân mật không có sự đồng thuận.
Theo ông, việc xác định trách nhiệm pháp lý đối với các hình ảnh do AI tạo ra, như trường hợp của Grok, có thể phụ thuộc vào những chi tiết cụ thể của nội dung được tạo và chia sẻ.
Trong một bài nghiên cứu đồng tác giả có tên “Generative ML and CSAM: Implications and Mitigations”, các nhà nghiên cứu Stanford lưu ý rằng trong những vụ án tạo tiền lệ tại Mỹ, “chỉ cần hình ảnh thể hiện sự xuất hiện của một đứa trẻ bị lạm dụng cũng đã đủ căn cứ để truy tố”.
Dù các chatbot khác cũng từng gặp vấn đề tương tự, xAI nhiều lần rơi vào tranh cãi vì việc lạm dụng hoặc những điểm yếu rõ ràng trong thiết kế hay công nghệ nền tảng của Grok.
“Có nhiều cách các công ty có thể làm để ngăn AI bị sử dụng theo hướng này. Quan trọng nhất trong trường hợp này là loại bỏ khả năng chỉnh sửa hình ảnh do người dùng tải lên. Việc cho phép chỉnh sửa ảnh tải lên là mảnh đất màu mỡ cho NCII. Trong lịch sử, ‘làm khỏa thân hóa’ luôn là mục đích sử dụng chính của các cơ chế như vậy”, Thiel nói.
NCII là viết tắt của non-consensual intimate images, hình ảnh thân mật không có sự đồng thuận.
Hồi tháng 5, X từng hứng chịu phản ứng dữ dội sau khi Grok tạo ra các bình luận không mong muốn về “diệt chủng người da trắng” ở Nam Phi. Hai tháng sau đó, Grok tiếp tục đăng tải các nội dung bài Do Thái và ca ngợi Adolf Hitler.
Bất chấp những sự cố này, xAI vẫn tiếp tục ký kết được các thỏa thuận và hợp tác. Tháng trước, Bộ Quốc phòng Mỹ đã đưa Grok vào nền tảng các tác nhân AI của mình, và công cụ này hiện là chatbot chính cho các nền tảng cá cược dự đoán như Polymarket và Kalshi.
