“Những cảnh báo này nhằm đảm bảo phụ huynh nhận biết nếu con mình liên tục cố tìm kiếm loại nội dung này, đồng thời cung cấp cho họ các nguồn lực cần thiết để hỗ trợ con”, công ty cho biết trong thông cáo.
Tính năng giám sát của phụ huynh được triển khai khi nền tảng mạng xã hội này đối mặt với các cáo buộc cho rằng thiết kế và cách vận hành của những ứng dụng như Instagram gây ảnh hưởng tiêu cực đến sức khỏe tinh thần của người dùng trẻ.
Các chuyên gia mô tả những phiên tòa và vụ kiện liên quan đến các công ty như YouTube của Google, TikTok và Snap là “khoảnh khắc Big Tobacco” của ngành mạng xã hội, khi tòa án cân nhắc mức độ tổn hại bị cáo buộc từ sản phẩm của họ và những nỗ lực bị cho là nhằm đánh lạc hướng công chúng về các tác động bất lợi đó.
Các cảnh báo của Instagram sẽ bắt đầu được triển khai từ tuần tới tại Mỹ, Anh, Australia và Canada.
Phụ huynh sẽ nhận được thông báo nếu con họ liên tục tìm kiếm trong “một khoảng thời gian ngắn” các “cụm từ cổ xúy tự tử hoặc tự gây tổn hại, cụm từ cho thấy một thiếu niên muốn làm hại bản thân, và các thuật ngữ như ‘suicide’ hoặc ‘self-harm’”, theo bài đăng blog của công ty.
Meta gọi đây là “bước khởi đầu phù hợp” trong quá trình xác định ngưỡng thích hợp để gửi cảnh báo. Hãng cho biết có thể phụ huynh sẽ nhận được những cảnh báo không nhất thiết phản ánh nguy cơ thực sự, nhưng công ty sẽ tiếp tục lắng nghe phản hồi về tính năng này.
Cảnh báo sẽ được gửi tới phụ huynh qua email, tin nhắn văn bản, WhatsApp hoặc trực tiếp trong Instagram. Tính năng này yêu cầu cả phụ huynh và thanh thiếu niên phải đăng ký tham gia công cụ giám sát của Instagram. Khi nhận được cảnh báo, phụ huynh sẽ thấy thông điệp giải thích về thói quen tìm kiếm đáng lo ngại của con mình trên Instagram, đồng thời có tùy chọn truy cập thêm các nguồn hỗ trợ.
Meta cho biết trong tương lai họ dự định triển khai các cảnh báo tương tự “đối với một số trải nghiệm AI nhất định”, nhằm thông báo cho người giám hộ “nếu một thiếu niên cố gắng tham gia vào một số loại cuộc trò chuyện liên quan đến tự tử hoặc tự gây tổn hại với AI của chúng tôi.”
Những cảnh báo AI sắp tới xuất hiện trong bối cảnh gia tăng lo ngại rằng các chatbot AI từ nhiều công ty công nghệ như OpenAI và Meta có thể tham gia vào các cuộc trò chuyện về sức khỏe tinh thần gây tranh cãi hoặc tiềm ẩn rủi ro với người dùng.
Meta hiện cung cấp các chatbot AI riêng và đang phát triển một mô hình AI mới mạnh mẽ có mật danh Avocado, dự kiến ra mắt vào cuối năm nay, theo CNBC. CEO Meta, Mark Zuckerberg, đã làm chứng tuần trước tại Tòa Thượng thẩm Los Angeles trong một phiên tòa, nơi nguyên đơn cáo buộc rằng cô đã nghiện các ứng dụng mạng xã hội như Instagram khi còn vị thành niên.
Trong lời khai, Zuckerberg nhắc lại quan điểm của Meta rằng các nhà cung cấp hệ điều hành di động và cửa hàng ứng dụng như Apple và Google phù hợp hơn trong việc xác minh độ tuổi người dùng so với các nhà phát triển ứng dụng.
Về vấn đề xác minh độ tuổi, Ủy ban Thương mại Liên bang Mỹ (FTC) cho biết hôm thứ Tư rằng họ sẽ không thực thi các hành động liên quan đến Quy tắc Bảo vệ Quyền riêng tư Trẻ em Trực tuyến (COPPA) đối với “một số nhà điều hành website và dịch vụ trực tuyến” thu thập dữ liệu người dùng phục vụ công nghệ xác minh độ tuổi.
FTC cho biết tuyên bố chính sách này là một phần trong quá trình rà soát rộng hơn đối với quy định COPPA liên quan đến xác minh độ tuổi.
Các tài liệu pháp lý được công bố tuần trước trong một vụ kiện riêng tại New Mexico liên quan đến Meta cho thấy các tin nhắn nội bộ của nhân viên thảo luận về việc những nỗ lực mã hóa của công ty có thể khiến việc cung cấp báo cáo về tài liệu xâm hại tình dục trẻ em cho cơ quan chức năng trở nên khó khăn hơn.
Meta đã phủ nhận các cáo buộc trong cả hai vụ kiện tại California và New Mexico.
Tuần trước, CNBC đưa tin rằng Hiệp hội Phụ huynh và Giáo viên Quốc gia Mỹ (National Parent Teacher Association) sẽ không gia hạn quan hệ tài trợ với Meta do những thách thức pháp lý mà công ty đang đối mặt liên quan đến an toàn số cho trẻ em.
