Thời gian gần đây, các nền tảng video ngắn tại Trung Quốc xuất hiện hàng loạt video về những cậu bé có hoàn cảnh đáng thương. Khi thì phải nhịn đói vì không có tiền ăn trưa, lúc lại bị bạn bè bắt nạt vì chưa đóng học phí. Những câu chuyện được kể bằng giọng nói nghẹn ngào, cùng gương mặt ngây thơ và đôi mắt ngấn lệ khiến không ít người xem xúc động.
Điểm chung của các nhân vật này là đều mang tên "Xiaohai" (Tiểu Hải). Tuy nhiên, đây không phải những đứa trẻ có thật mà là sản phẩm được tạo ra bằng công nghệ trí tuệ nhân tạo (AI).
Hình ảnh Tiểu Hải được AI tạo dựng. Ảnh: Weibo
Trong một video lan truyền trên mạng xã hội, Tiểu Hải xuất hiện với bộ đồng phục học sinh, tay cầm chiếc bánh bao hấp và buồn bã kể: "Các bạn cùng lớp đều đi ăn trưa hết rồi. Con phải trốn trong lớp để ăn chiếc bánh này".
Ở một video khác, cậu bé đứng dưới trời mưa, kể rằng mình bị bắt nạt vì chưa đóng học phí. Sau những lời tâm sự đầy tủi thân, Tiểu Hải cầu xin người xem mua ngũ cốc kiều mạch để giúp cậu hoàn thành chỉ tiêu bán hàng, tránh bị người khác chế giễu.
Đáng chú ý, các nhân vật này thường xưng hô với người xem là "các dì", "các mẹ", tạo cảm giác gần gũi như con cháu trong gia đình. Những câu chuyện về cuộc sống thiếu thốn, người cha đơn thân vất vả hay nỗi lo không có tiền đi học liên tục được sử dụng để khơi gợi lòng trắc ẩn.
Sau khi lấy được sự đồng cảm, các tài khoản bắt đầu giới thiệu thực phẩm chức năng, ngũ cốc, dầu ăn và nhiều mặt hàng gia dụng khác.
Những nhân vật thiếu niên AI được tạo ra để thể hiện những câu chuyện đầy kịch tính về cuộc sống khổ cực nhưng vẫn ngoan ngoãn, hiểu chuyện và rất quan tâm tới các bà, các mẹ, các dì.
Nghiên cứu cho biết hoa hồng đối với một số sản phẩm có thể lên tới 52%-55% so với giá bán. Ví dụ, giá xuất xưởng của hai chai dầu hạt tía tô chỉ khoảng 34 NDT, trên các nền tảng thương mại điện tử sẽ có giá từ 60-70 NDT, còn trên link liên kết của "Tiểu Hải" lại để mức 99 NDT.
Báo cáo của Sinchew cho biết chi phí để tạo ra những video như vậy rất thấp, các hướng dẫn để viết kịch bản, xây dựng nhân vật "Tiểu Hải" thậm chí còn được rao bán trực tuyến và chỉ mất khoảng 10 phút có thể tạo ra một "Tiểu Hải" mới trên hai nền tảng.
Một giờ sau, video này có thể thu hút khoảng 300-550 lượt xem, hầu hết là phụ nữ trung niên và cao tuổi. Có người khoe rằng ngày thấp nhất họ cũng kiếm được 3.000 NDT (hơn 11 triệu đồng) tiền hoa hồng từ các video lừa đảo.
Điều khiến dư luận lo ngại không chỉ là cách những nhân vật AI được sử dụng để bán hàng, mà còn là sự tin tưởng và gắn bó về mặt tình cảm của nhiều người cao tuổi dành cho chúng.
Phần lớn người theo dõi các tài khoản Tiểu Hải là người trung niên và người già. Dưới mỗi video, hàng nghìn bình luận thể hiện sự xót xa, yêu thương xuất hiện. "Sao con chỉ ăn bánh bao thế? Mẹ thương con đến đứt ruột", một phụ nữ để lại bình luận.
Một người khác sau khi đặt mua hàng đã nhắn nhủ: "Con trai yêu quý, mẹ đã đặt mua bốn món rồi. Mẹ mãi yêu con".
Những lời bình luận cho thấy không ít người xem thực sự coi nhân vật trên màn hình như con cháu của mình. Họ mua hàng không hẳn vì nhu cầu sử dụng mà bởi mong muốn giúp đỡ một đứa trẻ đang gặp khó khăn.
Đáng lo ngại, theo Xinwen, Tiểu Hải không phải hình tượng duy nhất. Các ứng dụng AI hỗ trợ bán hàng cho phép người dùng thay đổi phông nền, chỉnh sửa lời thoại và tạo ra nhiều phiên bản nhân vật tương tự.
Có tài khoản tạo hình bác sĩ mặc áo blouse, tự xưng là viện trưởng hoặc trưởng khoa, xuất hiện trong bối cảnh phòng bệnh, tư vấn sức khỏe và giới thiệu sản phẩm. Bên cạnh nhân vật AI, một số tài khoản còn đăng video dàn dựng cảnh cứu giúp phụ nữ lang thang trong núi sâu.
Các chuyên gia pháp lý tại Trung Quốc cảnh báo, hành vi cố tình dựng lên những câu chuyện sai sự thật để kích thích người xem mua hàng có thể cấu thành hành vi lừa đảo, tùy thuộc vào tính chất và mức độ vi phạm.
PGS. Triệu Tinh Võ, trường Đại học Luật thuộc Đại học hàng không vũ trụ Bắc Kinh chỉ ra rằng không có sự khác biệt giữa việc dùng nhân vật AI để bán hàng, với việc sử dụng người thật. Nếu các doanh nghiệp cố tình bịa đặt các câu chuyện và sử dụng lời kể sai sự thật để thu hút sự đồng cảm của công chúng, họ có thể phạm tội lừa đảo.
Ông cũng nhấn mạnh ngay cả khi video được dán nhãn "được tạo bởi AI", cũng không có nghĩa những người cao tuổi bị lừa đảo phải tự chịu trách nhiệm. Nếu những người điều hành cố tình nhắm vào nhu cầu tình cảm của người cao tuổi, bịa đặt câu chuyện để lấy nước mắt, thì có thể cấu thành hành vi lừa đảo ác ý.
Đối với toàn bộ chuỗi ngành, người điều hành các tài khoản hoặc phòng phát trực tiếp phải chịu trách nhiệm chính.
Ngày 23/10, tờ Thời báo Bắc Kinh cho biết nền tảng Douyin đã đăng tải Thông báo về chiến dịch đặc biệt Dọn dẹp và chấn chỉnh tình trạng giả mạo danh tính trên video ngắn.
Theo đó, từ ngày 1/10-22/10, Douyin đã xử lý 20.000 tài khoản vi phạm và xóa hơn 47.000 video có nội dung lừa đảo.
Điển hình như một tài khoản bịa đặt về việc "người bạn qua đời khi bị tai nạn xe máy điện", một tài khoản khác đóng "người ông đang chăm cháu ốm", hay "chăm lo cho người vô gia cư". Vô số "Tiểu Hải" đã bị xóa bỏ.
Douyin còn siết chặt việc quản lý nội dung, xóa bỏ các video có nội dung như: giả người yếu thế để lôi kéo lượt theo dõi, ngụy tạo bằng cấp, đăng nội dung mang tính chuyên môn, sử dụng AI mạo danh con người để tiếp thị, buôn bán sản phẩm, cổ xúy sự xa hoa, mê tín dị đoan nhằm trục lợi, dàn dựng những chuyện giật gân để lôi kéo tương tác.
Minh Hoa (t/h)
