ChatGPT for Teens được phát triển dựa trên nhiều tính năng OpenAI ra mắt trong năm qua, trong đó có Study Mode - chế độ hỗ trợ học sinh giải quyết bài tập và vấn đề theo từng bước. Bên cạnh đó, phiên bản mới còn tích hợp công nghệ dự đoán độ tuổi cùng nhiều công cụ kiểm soát dành cho phụ huynh.
Trải nghiệm dành cho thanh thiếu niên được bổ sung loạt tính năng phục vụ học tập như nhắc lịch làm bài, câu đố, công cụ trực quan hóa nội dung học tập và Study Hours. Với tính năng này, phụ huynh hoặc thanh thiếu niên có thể thiết lập thời điểm Study Mode tự động được kích hoạt.
Theo OpenAI, ChatGPT for Teens cũng áp dụng các biện pháp bảo vệ phù hợp với độ tuổi, nhằm hạn chế khả năng người dùng tiếp cận nội dung không phù hợp với sự phát triển hoặc có khả năng gây hại.
"Thanh thiếu niên nên có khả năng sử dụng AI để học tập, sáng tạo và khám phá. Nhưng quyền tiếp cận đó cần đi kèm những biện pháp bảo vệ phù hợp với giai đoạn phát triển, củng cố các mối quan hệ ngoài đời thực và hỗ trợ việc sử dụng công nghệ lành mạnh theo thời gian", OpenAI cho biết.
Động thái này được đưa ra trong bối cảnh các công ty công nghệ ngày càng chịu sức ép về tác động của AI và nền tảng số đối với trẻ em, thanh thiếu niên. Meta hiện đang đối mặt với một phiên tòa quan trọng xoay quanh cáo buộc công ty thúc đẩy hành vi gây nghiện ở trẻ em và thanh thiếu niên. Vụ việc được khởi xướng bởi liên minh gồm 29 tổng chưởng lý các bang của Mỹ vào năm 2023 và có thể khiến Meta phải đối mặt với khoản bồi thường lên tới hàng trăm tỷ USD.
OpenAI cũng chịu sự giám sát ngày càng lớn liên quan đến vấn đề an toàn. Tháng 6, Tổng chưởng lý bang Florida James Uthmeier đệ đơn kiện OpenAI và CEO Sam Altman, cáo buộc công ty cố tình phát hành một sản phẩm không an toàn có thể gây hại cho người dùng. Vài ngày sau, một liên minh các bang được cho là đã mở cuộc điều tra nhằm vào OpenAI. Công ty khi đó cho biết sẽ hợp tác một cách xây dựng với các quan chức.
Tháng 9, Ủy ban Thương mại Liên bang Mỹ (FTC) mở cuộc điều tra đối với 7 công ty, trong đó có OpenAI và Meta, nhằm đánh giá những tác động tiêu cực tiềm tàng của chatbot AI đối với trẻ em và thanh thiếu niên.
Bên cạnh đó, OpenAI đang phải đối mặt với nhiều vụ kiện liên quan đến cái chết của người dùng. Các đơn kiện cáo buộc ChatGPT khiến một số người dùng rơi vào trạng thái hoang tưởng nguy hiểm và trong một số trường hợp dẫn đến tự tử.
