Trước những lo ngại về việc dịch vụ chatbot trí tuệ nhân tạo (AI) Grok đang tạo ra hàng loạt nội dung khiêu dâm lợi dụng công nghệ deepfake, Ủy ban Phát thanh, truyền hình và truyền thông Hàn Quốc (KCC) đã yêu cầu X, công ty tích hợp và cung cấp dịch vụ Grok trên nền tảng mạng xã hội X, thiết lập các cơ chế bảo vệ thanh thiếu niên.

Ủy ban này ngày 14/1 cho biết đã gửi thông báo tới công ty X, yêu cầu lập kế hoạch bảo vệ thanh thiếu niên trước các thông tin độc hại, trong đó có biện pháp quản lý và hạn chế thanh thiếu niên tiếp cận, đồng thời phản hồi về kết quả thực hiện.

Theo Luật về thúc đẩy sử dụng mạng thông tin truyền thông và bảo hộ thông tin của Hàn Quốc, công ty X có nghĩa vụ chỉ định nhân sự chịu trách nhiệm bảo vệ thanh thiếu niên và nộp báo cáo thực trạng vận hành hàng năm. Lần này, Ủy ban cũng yêu cầu hãng bổ sung tài liệu bảo vệ đối với riêng dịch vụ Grok vừa ra mắt. Ngoài ra, cơ quan này đã cảnh báo X rằng các hành vi sản xuất, phát tán, tàng trữ và xem nội dung bóc lột tình dục sử dụng công nghệ deepfake trái ý muốn của bên liên quan đều là đối tượng bị xử lý hình sự tại Hàn Quốc.

Phía công ty X cam kết sẽ đưa ra kế hoạch bảo vệ thanh thiếu niên trong vòng hai tuần tới. Ủy ban dự kiến sẽ xem xét kỹ lưỡng tính thỏa đáng của các biện pháp này và yêu cầu bổ sung nếu cần thiết. Được biết, xAI, công ty trí tuệ nhân tạo do Elon Musk điều hành, gần đây đã ra mắt dịch vụ tạo hình ảnh bằng Grok ngay trên nền tảng mạng xã hội X.

Tranh cãi đang nổ ra trên toàn cầu khi nhiều người dùng sử dụng hình ảnh phụ nữ và trẻ vị thành niên trên X để tạo ra các nội dung khiêu dâm giả mạo bằng công nghệ deepfake mà không có sự đồng ý. Chính phủ Indonesia đã trở thành quốc gia đầu tiên trên thế giới chặn quyền truy cập vào Grok, trong khi Chính phủ Anh cũng yêu cầu X khẩn trương giải quyết vấn đề tạo hình ảnh tình dục trái phép này.