Trung tâm an ninh thuộc công ty chuyên về bảo mật Genian Hàn Quốc ngày 15/9 đã công bố báo cáo cho biết tổ chức tin tặc "Kimsuky", bị nghi có liên quan tới Bắc Triều Tiên, vào tháng 7 vừa qua đã sử dụng hình ảnh do trí tuệ nhân tạo (AI) tạo ra để thực hiện tấn công mạng nhắm vào của các cơ quan, tổ chức liên quan đến quân đội thông qua email hoặc tin nhắn điện tử khác (Spear Phishing).
 
Cụ thể, chúng gửi email với nội dung xin xem xét mẫu thẻ công vụ cho nhân viên quân đội và gắn kèm tệp tin độc hại, trong đó hình ảnh đính kèm là sản phẩm của công nghệ lồng ghép khuôn mặt và giọng nói của người này vào người khác bằng AI "Deepfake". Báo cáo chỉ ra rằng việc làm giả hoặc sao chép thẻ công vụ, vốn là giấy tờ tùy thân chung, chính là hành vi phạm pháp.

Ngoài ra, nhóm tin tặc này được cho là đã sử dụng các câu lệnh vòng vo để tạo hình ảnh deepfake, tránh được các quy định về việc không tạo bản sao chứng minh thư của ChatGPT. Để có thể lừa được người nhận email, nhóm tin tặc này còn dùng địa chỉ "mli.kr", gần giống với tên miền chính thức của quan chức trong cơ quan quân đội Hàn Quốc là "mil.kr". 
 
Báo cáo còn cảnh báo rằng nhóm tin tặc Kimsuky đang ngày càng tích cực áp dụng AI để thực hiện các cuộc tấn công gần đây, bao gồm cả việc đặt tiêu đề theo cách khiến người nhận hiểu nhầm đó là chức năng AI hỗ trợ quản lý email.