Trong thời đại kỹ thuật số hiện nay, sự xuất hiện của các nhân vật hoạt hình biết nói, biết hát và những người nổi tiếng không tồn tại trong đời thực đang trở thành xu hướng trên mạng xã hội, nhờ vào công nghệ trí tuệ nhân tạo (AI). Những nhân vật ảo này không chỉ có khả năng tương tác với người dùng mà còn có thể kiếm tiền như người thật.

Công nghệ AI đã cho phép tạo ra các nhân vật ảo với hình ảnh và giọng nói giống như người thật. Một ví dụ nổi bật là Kizuna AI, một nhân vật hoạt hình Nhật Bản xuất hiện trên YouTube từ năm 2016. Kizuna AI có thể livestream, phản hồi bình luận, làm video chơi game và xây dựng một cộng đồng fan trung thành. Sự phát triển của AI đã mở ra một kỷ nguyên mới trong việc tạo ra các nhân vật ảo, giúp họ có thể thực hiện các nhiệm vụ tương tự như con người.

Tại Hàn Quốc, SM Entertainment đã phát triển nhân vật Naevis, một thành viên ảo trong nhóm nhạc aespa. Naevis đã ra mắt ca khúc riêng với giọng hát và ngoại hình do AI tạo ra. Các chuyển động biểu diễn của Naevis đều được dựng bằng công nghệ ảo hóa thời gian thực. Naevis là một ví dụ điển hình về việc các công ty giải trí đang tận dụng AI để tạo ra các nhân vật ảo và khai thác tiềm năng của thị trường này.

Công nghệ này không còn xa lạ với nhiều người. Các nền tảng như Synthesia, ElevenLabs và DeepBrain AI cho phép bất kỳ ai tạo ra một người dẫn chương trình ảo hay streamer ảo chỉ từ văn bản và một mẫu giọng. Những công cụ này đã giúp giảm thiểu rào cản trong việc tạo ra các nhân vật ảo, mở ra cơ hội cho nhiều người tham gia vào thị trường này.

Tuy nhiên, sự lan rộng của idol ảo cũng làm dấy lên câu hỏi về quyền sở hữu và mặt trái của công nghệ này. Ai đứng sau những nhân vật ảo này? Và người hâm mộ có biết họ đang tương tác với một AI? Những câu hỏi này đặt ra thách thức cho các nhà phát triển, các cơ quan quản lý và người dùng trong việc xác định ranh giới và trách nhiệm liên quan đến các nhân vật ảo.

Nhiều nền tảng đã bắt đầu siết kiểm duyệt để ngăn chặn việc lạm dụng hình ảnh và danh tính. YouTube yêu cầu người đăng video khai báo rõ nếu sử dụng giọng hoặc hình ảnh mô phỏng người thật bằng AI. Điều này nhằm đảm bảo tính minh bạch và bảo vệ quyền lợi của các bên liên quan.

Một vấn đề pháp lý khác là quyền sở hữu: ai thực sự sở hữu nhân vật ảo? Là người lập trình, studio sản xuất, nền tảng đăng tải hay AI tự tạo ra nội dung? Câu hỏi này đòi hỏi sự can thiệp của các cơ quan quản lý và chuyên gia pháp luật để thiết lập một khuôn khổ pháp lý rõ ràng và hợp lý.

Những video chó mèo được AI nhân hóa theo mô típ ngôn tình và kịch tính đang gây sốt trên mạng xã hội Trung Quốc, với hàng trăm triệu lượt xem. Sự phổ biến của các nội dung này cho thấy tiềm năng lớn của công nghệ AI trong việc tạo ra các nhân vật ảo và nội dung giải trí. Tuy nhiên, cũng cần phải chú ý đến các vấn đề liên quan đến quyền sở hữu, đạo đức và trách nhiệm trong việc phát triển và sử dụng công nghệ này.

Trung Quốc đang tăng cường kiểm duyệt nội dung phim chiếu mạng để nâng cao chất lượng nghệ thuật và định hướng giá trị cho thanh thiếu niên. Mới đây, cơ quan quản lý của nước này đã ban hành văn bản yêu cầu chấn chỉnh và cấm thực hiện các phim chiếu mạng có nội dung xây dựng nhân vật siêu nhân, rời xa thực tế. Văn bản này nhấn mạnh rằng những hình ảnh như vậy làm phai nhạt yếu tố chân thực trong lịch sử và không có lợi cho quá trình hình thành và phát triển tư duy của thanh thiếu niên.

Các bộ phim nằm trong diện kiểm soát phần lớn là các phim ngắn được phát trên các nền tảng mạng xã hội. Hiện tại, các bộ phim ngắn có nội dung độc hại hay định hướng sai lệch đều bị gỡ bỏ trên các nền tảng. Trong những năm gần đây, cơ quan quản lý văn hóa của Trung Quốc đã quan tâm đến dòng phim ngắn chiếu mạng, đặc biệt là sau sự bùng nổ của dòng phim này từ năm 2022 với doanh thu tăng trưởng lớn.

Theo thống kê, quy mô thị trường phim ngắn tại Trung Quốc đã đạt 6,9 tỷ USD vào năm ngoái và số lượng người xem dòng phim này tăng mạnh trong những năm gần đây, đạt hơn nửa tỷ lượt xem trong năm 2024. Để kiểm soát sự phát triển của dòng phim này, cơ quan quản lý của Trung Quốc đã tăng cường kiểm duyệt nội dung phim.

Năm 2024, Tổng cục Phát thanh Truyền hình Trung Quốc đã ban hành 2 thông báo điều chỉnh việc sản xuất các phim ngắn về đề tài trung niên và phim có yếu tố ‘tổng tài bá đạo’. Những bộ phim ngắn lấy doanh nhân làm nhân vật chính đại diện cho thành công, quyền lực và giàu có, và kết hợp với cốt truyện lãng mạn phi lý chứa đựng nhiều tình tiết xa rời thực tế, tuyên truyền lối sống sai lệch.

Cơ quan quản lý yêu cầu các bộ phim ngắn về doanh nhân cần được xây dựng đúng thực tế, tránh tạo nên những kịch bản vô lý, khiến giới trẻ bị ảnh hưởng về tư tưởng. Dòng phim này bị cấm với mục đích nâng cao chất lượng sáng tác, xây dựng hệ sinh thái sáng tạo nghệ thuật lành mạnh.

Không chỉ vậy, cơ quan quản lý của Trung Quốc cũng yêu cầu các nền tảng phát sóng phải kiểm duyệt kỹ, ngăn chặn các phim ngắn khai thác yếu tố sùng bái tiền bạc, phô trương quyền lực hay sự giàu sang. Trước đó, Tổng cục Phát thanh Truyền hình Trung Quốc cũng ra văn bản yêu cầu chấm dứt nạn ‘thẩm mỹ ẻo lả’, cấm các nam nghệ sĩ chuộng phong cách phi giới tính, trang điểm, ăn mặc lòe loẹt, sử dụng nhiều phụ kiện.

Các cơ quan quản lý nghệ thuật Trung Quốc cho rằng đây là xu hướng thiếu chuẩn mực, làm ảnh hưởng đến sự phát triển của thế hệ trẻ. Các blogger lớn tại Trung Quốc cũng được yêu cầu nam tính hơn trong tạo hình. Dòng phim đam mỹ (đồng tính nam), yêu sớm, tình một đêm cũng bị cấm tại thị trường Trung Quốc.

Việc ngăn chặn dòng phim đam mỹ hay sự nữ tính hóa trong cộng đồng nam nghệ sĩ tại Trung Quốc xuất phát từ nhiều nguyên nhân. Theo AFP, do tỷ lệ sinh tại Trung Quốc ngày càng giảm, các nhà chức trách Trung Quốc đang cố gắng khơi dậy giá trị nam tính truyền thống ở giới trẻ.