Ủy ban tiêu chuẩn truyền thông Hàn Quốc (KCSC) ngày 27/8 đã tổ chức cuộc họp thảo luận về các biện pháp đối phó với tình trạng lan truyền nội dung khiêu dâm sử dụng công nghệ "Deepfake" trên nền tảng Telegram. Đây là hình thức sử dụng trí tuệ nhân tạo (AI) lồng ghép khuôn mặt và giọng nói của người này vào hình ảnh hoặc video của người khác tinh vi như thật.

KCSC quyết định sẽ đẩy mạnh việc tiếp nhận và theo dõi báo cáo từ nạn nhân, thiết lập một mục riêng trên trang web của Ủy ban để tiếp nhận các trường hợp bị hại do nội dung khiêu dâm sử dụng Deepfake. Ngoài ra, Ủy ban sẽ áp dụng các biện pháp quyết liệt như yêu cầu cảnh sát tiến hành điều tra.

Cơ quan này cũng đang thúc đẩy việc mở "đường dây nóng" để có thể nhanh chóng phối hợp với Telegram, nhằm ngăn chặn kịp thời sự phát tán của các nội dung gây hại, đồng thời xem xét việc yêu cầu xóa hoặc chặn các video vi phạm. 

Trong năm 2023, KCSC đã yêu cầu xóa hơn 7.100 video khiêu dâm giả mạo. Tính đến tháng 7/2024, số lượng yêu cầu xóa đã tăng lên khoảng 6.400 trường hợp, cho thấy mức độ gia tăng đáng kể của nội dung sử dụng công nghệ này trong năm nay. 

Trước đó, một video Deepfake ghép mặt nữ sinh với nội dung khiêu dâm đã bị phát tán tại một trường đại học tại Hàn Quốc, sau đó, các phòng chat trên Telegram với nội dung tương tự đã liên tiếp bị phát hiện. Đáng lo ngại là trong số các nạn nhân, có cả trẻ vị thành niên, giáo viên và nữ quân nhân, làm dấy lên bất an ngày càng lớn trong xã hội.

Dựa trên nội dung thảo luận cùng ngày, KCSC sẽ mở một cuộc họp toàn thể vào 28/8 để thông qua các biện pháp liên quan.