Cơn lốc nội dung bẩn do AI: Thách thức mới của mạng xã hội hiện đại

Bùng nổ công cụ AI, bùng nổ nội dung độc hại

Trong vài năm trở lại đây, các mô hình AI tổng hợp phát triển với tốc độ vượt bậc, cho phép bất kỳ ai cũng có thể tạo ra hình ảnh, hội thoại hay video chỉ bằng vài dòng mô tả. Sự tiện lợi này vô tình trở thành mảnh đất màu mỡ cho nội dung độc hại bùng phát, không chỉ đến từ những nhóm sản xuất chuyên nghiệp mà còn từ người dùng phổ thông – những người tò mò, muốn “câu view” hoặc trục lợi.

Theo báo cáo Digital 2025 do We Are Social và Meltwater mới công bố, lượng nội dung bị thao túng bằng AI đã tăng mạnh chỉ trong vòng một năm. Từ ảnh khiêu dâm giả của người nổi tiếng, video bịa đặt về bê bối chính trị, đến hình ảnh thảm hoạ được tạo dựng nhằm gây sốc, tất cả đều có khả năng lan truyền với tốc độ khó kiểm soát. Khi AI cho phép sản xuất nội dung hàng loạt trong thời gian ngắn, mạng xã hội trở thành điểm nóng cho sự sinh sôi của thông tin "bẩn".

Điều đáng lo hơn là mức độ tinh vi của các sản phẩm này. Deepfake hiện có thể mô phỏng khuôn mặt, giọng nói, thậm chí biểu cảm gần như hoàn hảo, khiến người xem thông thường khó lòng nhận biết nếu không có công cụ phân tích chuyên sâu. Nhiều vụ việc ghi nhận người bình thường bị gắn mặt vào video nhạy cảm, gây tổn hại nghiêm trọng đến danh dự, tâm lý và đời sống cá nhân. Trong lĩnh vực chính trị, tin giả do AI tạo ra có thể làm nhiễu loạn dư luận, ảnh hưởng đến bầu cử, chính sách và niềm tin vào thiết chế công. Các lĩnh vực như y tế, giáo dục, tài chính cũng chịu tác động khi nội dung mạo danh chuyên gia lan truyền, gây hiểu lầm hoặc thiệt hại thực tế.

Sự mờ nhòe giữa thật và giả khiến người dùng rơi vào trạng thái “mệt mỏi thông tin”, dần mất khả năng phân biệt đâu là nguồn tin đáng tin cậy. Điều này kéo theo nguy cơ mất phương hướng trong xã hội.

Một phần nguyên nhân nằm ở cơ chế hoạt động của chính mạng xã hội: thuật toán luôn ưu tiên nội dung gây chú ý và có tương tác cao. Tin giả và nội dung kích động – vốn dễ tạo cảm xúc mạnh – vì thế được đẩy lên nhiều hơn. Cùng lúc, ngày càng nhiều người dùng tận dụng AI để bắt trend, sản xuất nội dung giật gân với tốc độ nhanh chưa từng có. Nội dung càng lan rộng, nền tảng càng hưởng lợi từ tương tác, từ đó thiếu động lực xử lý nhanh. Vòng luẩn quẩn này khiến vấn nạn nội dung độc hại ngày càng khó kiểm soát.

Trong khi đó, khung pháp lý tại nhiều quốc gia, bao gồm Việt Nam, vẫn chưa theo kịp tốc độ phát triển của AI. Quy định về xử lý tin giả, bảo vệ danh dự hay trách nhiệm của nền tảng vẫn còn thiếu cụ thể với các trường hợp nội dung tổng hợp bằng AI. Deepfake khiêu dâm là ví dụ điển hình: nhiều nạn nhân không biết tố cáo theo hướng nào, trong khi hành vi tạo dựng bằng AI chưa được quy định rõ ràng.

Công tác kiểm duyệt của các nền tảng cũng chưa theo kịp. Dù áp dụng công nghệ phát hiện deepfake, độ chính xác còn hạn chế; khi nội dung được gỡ bỏ, bản sao đã kịp lan đi hàng nghìn nơi. Việc xử lý vì thế trở nên gần như bất khả thi.

Cần những lớp “lá chắn” mới

Để giảm thiểu rủi ro từ nội dung bẩn do AI tạo ra, nhiều chuyên gia cho rằng phải kết hợp đồng bộ các giải pháp ở ba cấp độ: cá nhân – nền tảng – nhà quản lý. Đây không chỉ là yêu cầu mang tính kỹ thuật, mà là một nhiệm vụ văn hoá – xã hội nhằm bảo vệ môi trường thông tin lành mạnh cho cộng đồng.

Đạo diễn Ngô Quang Hải, người đứng sau bộ phim “Nhà của Pao”, cho rằng sự bùng nổ công nghệ AI tổng hợp đang đặt ra thách thức lớn cho ngành sáng tạo hình ảnh. Ông nhận định: “Điện ảnh là nghệ thuật của sự thật cảm xúc. Nhưng khi AI có thể tạo ra gương mặt, giọng nói hay bối cảnh giống thật đến mức đánh lừa người xem, thì ranh giới giữa sáng tạo và xuyên tạc trở nên cực kỳ mong manh.”

Ông lo ngại hình ảnh nghệ sĩ có thể bị lợi dụng cho các nội dung nhạy cảm hoặc bị gán phát ngôn sai lệch, gây tổn hại danh dự và làm xói mòn niềm tin của khán giả. Tuy vậy, đạo diễn cũng nhìn nhận AI là công cụ hỗ trợ đắc lực nếu được sử dụng có trách nhiệm. “Điều quan trọng là phải có quy tắc rõ ràng để bảo vệ nghệ sĩ và khán giả, đồng thời giúp AI phục vụ sáng tạo chứ không làm méo mó sự thật”, ông nhấn mạnh.

Ở cấp độ nền tảng, trách nhiệm càng lớn hơn. Các mạng xã hội cần đầu tư mạnh tay vào hệ thống phát hiện nội dung AI độc hại, đặc biệt là deepfake và tin giả được tạo hàng loạt. 

Ở cấp độ quản lý nhà nước, khung pháp lý liên quan đến AI cần được hoàn thiện nhanh chóng. Các quy định về xử lý deepfake, bảo vệ danh tính cá nhân, trách nhiệm của tổ chức triển khai mô hình AI và của nền tảng khi để nội dung độc hại lan truyền phải rõ ràng, có chế tài đủ mạnh. Bên cạnh đó, cơ chế hợp tác quốc tế là cực kỳ quan trọng, bởi nội dung độc hại trên mạng vốn không biên giới và việc xác định nguồn tạo ra thường phức tạp, liên quan đến nhiều quốc gia.

PGS.TS Trần Hữu Sơn, nguyên Phó Chủ tịch Hội Văn nghệ dân gian Việt Nam, nhìn nhận vấn đề ở một chiều sâu văn hoá: “Nội dung bẩn do AI tạo ra không chỉ gây hại về mặt thông tin mà còn tác động trực tiếp đến các giá trị văn hoá, đạo đức và niềm tin xã hội. Khi những hình ảnh, lời nói bịa đặt được ‘lập trình’ tinh vi, người xem dễ bị cuốn vào cảm xúc tiêu cực, mất khả năng phân biệt thật – giả và dần đánh mất chuẩn mực tiếp nhận thông tin”. Ông cho rằng việc đối phó với nội dung độc hại không chỉ là câu chuyện kỹ thuật, mà cần bồi dưỡng “văn hoá thông tin” cho cộng đồng, giúp người dân có khả năng đọc – hiểu – phân tích trong môi trường số.

Ông Sơn nhấn mạnh thêm: “Công nghệ thay đổi rất nhanh, nhưng khả năng đề kháng văn hoá của con người mới là yếu tố bền vững. Khi người dùng có nền tảng văn hoá vững chắc, họ sẽ không dễ bị thao túng bởi nội dung bẩn, dù được tạo dựng tinh vi đến đâu”.

AI mang lại nhiều cơ hội đổi mới, nhưng cũng đặt ra những thách thức chưa từng có. Trong bối cảnh nội dung bẩn sinh sôi với tốc độ vượt ngoài sức tưởng tượng, sự tỉnh táo của người dùng, sự chủ động của nền tảng và tầm nhìn của nhà quản lý sẽ là những lớp “lá chắn” quan trọng. Đây không còn là cuộc chiến chống tin giả thông thường, mà là nỗ lực bảo vệ không gian thông tin lành mạnh – nơi công nghệ phục vụ con người, chứ không bị lợi dụng để gây nhiễu loạn xã hội.