Meta vừa công bố cơ chế mới dành cho Meta AI, cho phép gửi cảnh báo tới phụ huynh khi thanh thiếu niên trao đổi với chatbot về tự tử hoặc hành vi tự hại. Tính năng hiện áp dụng với phụ huynh sử dụng công cụ giám sát trên Instagram tại Mỹ, Anh, Australia và Canada, trước khi được mở rộng toàn cầu vào cuối năm.
Theo Meta, hệ thống sẽ dùng mô hình AI chuyên biệt để nhận diện các cuộc trò chuyện có dấu hiệu rủi ro. Những nội dung bị gắn cờ sẽ được con người rà soát trước khi cảnh báo được gửi đi, nhằm hạn chế báo động sai nhưng vẫn ưu tiên an toàn cho trẻ vị thành niên. Phụ huynh cũng sẽ nhận tài liệu hướng dẫn từ chuyên gia để biết cách tiếp cận con trong những cuộc trò chuyện nhạy cảm.
Đây là bước đi mới trong bối cảnh các công ty công nghệ chịu áp lực ngày càng lớn về cách AI tương tác với người dùng trẻ. Trước đó, Meta đã có cơ chế cảnh báo khi trẻ liên tục tìm kiếm nội dung liên quan tự tử hoặc tự hại trên Instagram. Việc mở rộng sang Meta AI cho thấy ranh giới giám sát an toàn đang chuyển từ mạng xã hội truyền thống sang các cuộc trò chuyện riêng với chatbot.
Meta cũng cho biết đang phát triển khả năng liên hệ dịch vụ khẩn cấp nếu cuộc trò chuyện với Meta AI cho thấy người dùng, dù là người lớn hay trẻ vị thành niên, có nguy cơ tự tử cận kề. Năm ngoái, công ty nói đã thực hiện hơn 19.000 lượt chuyển thông tin liên quan nguy cơ tự tử từ Facebook và Instagram tới lực lượng phản ứng khẩn cấp trên toàn cầu.
Song song với cảnh báo phụ huynh, Meta mở rộng thiết lập Limited Content sang Meta AI. Khi phụ huynh bật chế độ này, chatbot sẽ từ chối nhiều loại yêu cầu nhạy cảm hơn. Meta nói Teen Accounts mặc định được đặt ở mức nội dung 13+, trong đó AI được huấn luyện để tránh các cuộc trò chuyện tình dục, lãng mạn hoặc nội dung liên quan rượu bia với người dùng tuổi teen.
Động thái này được xem là nỗ lực cân bằng giữa quyền riêng tư của trẻ và trách nhiệm can thiệp khi có dấu hiệu nguy hiểm. Tuy nhiên, các tổ chức bảo vệ trẻ em vẫn tỏ ra thận trọng. Fairplay cho rằng cảnh báo là bước đi đúng hướng nhưng cần được nhìn nhận cùng lịch sử các công cụ an toàn từng bị nghi ngờ về hiệu quả của Meta.
Với Meta, bài toán lớn nằm ở độ chính xác của hệ thống và cách phụ huynh phản ứng sau khi nhận cảnh báo. Một thông báo sai có thể gây hoảng loạn, nhưng bỏ lỡ một tín hiệu nguy hiểm lại có thể dẫn đến hậu quả nghiêm trọng. Vì vậy, cơ chế rà soát thủ công trước khi gửi cảnh báo là điểm then chốt trong chính sách mới.
Trong kỷ nguyên AI đồng hành, trẻ em có thể tìm đến chatbot để chia sẻ những điều khó nói với người lớn. Chính vì thế, việc nền tảng chỉ trả lời bằng các nguồn hỗ trợ là chưa đủ. Meta đang chọn cách đưa phụ huynh trở lại vòng hỗ trợ, với kỳ vọng cảnh báo sớm có thể giúp gia đình can thiệp kịp thời trước khi khủng hoảng vượt khỏi tầm kiểm soát.
