Theo BBC, trước đó, vào tháng 11, Amazon cho biết đang thử nghiệm tại Mỹ một công cụ được mô tả là "lần đầu tiên xuất hiện", nhằm giúp khán giả nhanh chóng theo kịp nội dung một số chương trình trên nền tảng Prime Video, trong đó có Fallout tác phẩm chuyển thể từ loạt trò chơi điện tử nổi tiếng.
Tuy nhiên, video tóm tắt này hiện đã biến mất khỏi Prime Video sau khi người xem chỉ ra hàng loạt lỗi sai, bao gồm việc xác định nhầm mốc thời gian của một phân cảnh, cho rằng cảnh quay diễn ra sớm hơn thực tế hơn 100 năm.
Động thái tạm dừng các video recap ứng dụng AI của Amazon được trang công nghệ The Verge đưa tin đầu tiên.
Theo Amazon, tính năng video tóm tắt được triển khai dưới dạng thử nghiệm, chỉ áp dụng cho một số series Prime Original nói tiếng Anh tại thị trường Mỹ. Công ty mô tả các video này sử dụng AI để tổng hợp những điểm cốt lõi của cốt truyện, đi kèm hình ảnh chất lượng điện ảnh, lời dẫn, hội thoại và âm nhạc.
Tuy vậy, khi người hâm mộ đang háo hức chờ đợi mùa tiếp theo của Fallout, dự kiến ra mắt ngày 17/12, các lỗi trong video recap mùa đầu tiên nhanh chóng bị phát hiện. Trên Reddit, nhiều người cho rằng đoạn video đã miêu tả sai một cảnh có nhân vật The Ghoul do nam diễn viên Walton Goggins thủ vai khi gọi đây là "hồi tưởng thập niên 1950".
Trên thực tế, dù mang phong cách hoài cổ, cảnh phim này diễn ra vào năm 2077, chi tiết mà những khán giả quen thuộc với Fallout dễ dàng nhận ra. Ngoài ra, video tóm tắt cũng bị cho là diễn giải sai mối quan hệ giữa The Ghoul và nhân vật chính Lucy MacLean (do Ella Purnell thủ vai), khiến người xem mới có thể hiểu nhầm diễn biến câu chuyện.
Sự cố của Amazon tiếp tục làm dấy lên lo ngại về độ chính xác của các công cụ AI tạo sinh trong việc tóm tắt nội dung. Đầu năm 2025, Apple từng phải tạm dừng một tính năng AI dùng để tóm lược thông báo sau khi bị phản đối vì liên tục đưa ra các bản tin sai lệch.
BBC cũng nằm trong số những đơn vị lên tiếng, sau khi một thông báo do AI của Apple tạo ra đưa tin sai sự thật rằng Luigi Mangione, người bị buộc tội tại Mỹ trong vụ sát hại CEO UnitedHealthcare Brian Thompson đã tự bắn mình.
Không chỉ Apple, tính năng AI Overviews của Google, vốn nhằm cung cấp bản tóm tắt ngắn gọn cho kết quả tìm kiếm, cũng từng hứng chịu nhiều chỉ trích và trở thành đề tài chế giễu vì các lỗi thông tin.
