Theo South China Morning Post, Liu Hui, một nhà thầu xây dựng sống tại Thượng Hải, quen người phụ nữ tên Yu Xiuzhen trên mạng xã hội vào năm 2021.
Yu tự giới thiệu mình là một bác sĩ 29 tuổi đang làm việc tại một bệnh viện hạng 3A danh tiếng ở Thượng Hải. Người phụ nữ này còn nói rằng vị trí công việc giúp cô có ảnh hưởng tới các dự án xây dựng và sửa chữa của bệnh viện.
Tin vào những gì được chia sẻ, Liu cho rằng Yu có thể giúp mình tiếp cận các hợp đồng xây dựng. Vì thế, anh chủ động theo đuổi mối quan hệ tình cảm với người phụ nữ này.
Trong khoảng 5 năm, tài khoản của Yu thường xuyên đăng tải các video về cuộc sống hằng ngày. Trang cá nhân thu hút khoảng 10.000 người theo dõi và có gần 7.000 video, khiến hình ảnh về một nữ bác sĩ trẻ dần trở nên đáng tin trong mắt Liu.
Tuy nhiên, đằng sau danh tính tưởng như hoàn hảo đó lại là một sự thật hoàn toàn khác. Theo SCMP, Yu thực tế đã 65 tuổi và sử dụng công nghệ AI để tạo dựng hình ảnh một nữ bác sĩ trẻ.
Khi cảnh sát kiểm tra các video trên tài khoản, họ phát hiện một dòng cảnh báo rất nhỏ cho biết nội dung có sử dụng công nghệ AI. Liu thừa nhận trước đó anh không chú ý đến dòng thông tin này vì không quen với những công nghệ mới.
Vụ việc sau đó được hé lộ khi Liu nhận ra mình không nhận được những dự án xây dựng như kỳ vọng và tìm đến cảnh sát. Điều tra đã giúp cơ quan chức năng xác định người thực sự đứng sau tài khoản mạng xã hội.
Câu chuyện trở thành một cảnh báo đáng chú ý về những danh tính được tạo dựng bằng AI trên mạng xã hội, đặc biệt khi các hình ảnh và video được sử dụng liên tục trong thời gian dài có thể khiến người khác tin rằng đó là một con người hoàn toàn có thật.
