Microsoft nêu đích danh tội phạm mạng đứng sau mạng lưới AI deepfake

Microsoft đã liệt kê nhiều tác nhân đe dọa thuộc các băng nhóm tội phạm mạng tham gia phát triển các công cụ độc hại. Điều đáng nói, các công cụ độc hại này có khả năng vượt qua các rào cản AI và tạo ra deepfake về người nổi tiếng cũng như các nội dung bất hợp pháp khác.

Deepfake là một loại kỹ thuật sử dụng trí tuệ nhân tạo (AI) để tạo ra những hình ảnh hoặc video giả mạo nhằm lừa đảo hoặc đánh lừa người xem. Điều đặc biệt của kỹ thuật này là nó cho phép tạo ra các nội dung giả mạo chân thực đến mức khó có thể phân biệt được với nội dung gốc.

Theo xác định của Microsoft, những tác nhân này là Arian Yadegarnia đến từ Iran (hay còn gọi là 'Fiz'), Alan Krysiak đến từ Vương quốc Anh (hay còn gọi là 'Drago'), Ricky Yuen đến từ Hồng Kông, Trung Quốc (hay còn gọi là 'cg-dot') và một nhân vật đến từ Việt Nam (hay còn gọi là 'Asakuri').

Như công ty đã giải thích ngày hôm nay, những tác nhân đe dọa này là thành viên chủ chốt của một băng nhóm tội phạm mạng toàn cầu mà công ty theo dõi là Storm-2139.

"Các thành viên của Storm-2139 đã khai thác thông tin đăng nhập của khách hàng bị lộ được thu thập từ các nguồn công khai để truy cập trái phép vào các tài khoản có một số dịch vụ AI tạo ra", Steven Masada, Tổng trợ lý kiêm cố vấn tại Bộ phận kiểm soát Tội phạm kỹ thuật số của Microsoft cho biết.

"Sau đó, họ thay đổi thông tin của các dịch vụ này và bán lại quyền truy cập cho những tác nhân độc hại khác, cung cấp hướng dẫn chi tiết về cách tạo nội dung có hại và bất hợp pháp, bao gồm hình ảnh thân mật không được sự đồng ý của người nổi tiếng và những nội dung khiêu dâm khác".

Trong quá trình điều tra, Microsoft phát hiện ra rằng mạng lưới tội phạm Storm-2139 được tổ chức thành ba loại: người sáng tạo, nhà cung cấp và người dùng.

Người sáng tạo đã phát triển các công cụ tạo điều kiện cho việc sử dụng sai các dịch vụ do AI tạo ra, trong khi nhà cung cấp đã điều chỉnh và phân phối các công cụ bất hợp pháp này cho người dùng cuối sử dụng chúng để tạo nội dung vi phạm Chính sách sử dụng và Quy tắc ứng xử của Microsoft, thường tập trung vào hình ảnh khiêu dâm và người nổi tiếng.

Bản cập nhật hôm nay theo sau vụ kiện của Microsoft được đệ trình lên Quận phía Đông của Virginia, Hoa Kỳ vào tháng 12/2024 để thu thập thêm thông tin về hoạt động của đường dây tội phạm mạng.

Một lệnh cấm tạm thời và lệnh cấm sơ bộ được ban hành cho phép Microsoft phá bỏ khả năng sử dụng dịch vụ bất hợp pháp của nhóm này bằng cách tịch thu một phần trang web quan trọng thuộc cơ sở hạ tầng của đường dây tội phạm.

Microsoft cho biết thêm rằng, vụ bắt giữ đã khiến các thành viên Storm-2139 quay sang nghi ngờ nhau và suy đoán về việc "John Does" trong hồ sơ là ai. Nhóm pháp lý của Microsoft cũng nhận được nhiều email, bao gồm từ một số thành viên bị tình nghi của Storm-2139 đổ lỗi cho những người khác trong hoạt động này về hoạt động độc hại.

"Chúng tôi đang áp dụng các biện pháp nhằm ngăn chặn hành vi của các bị cáo, tiếp tục phá bỏ hoạt động bất hợp pháp của họ và ngăn chặn những người khác có ý định sử dụng công nghệ AI của chúng tôi làm vũ khí để triển khai các hành động bất hợp pháp", Masada nói thêm hôm nay.

Cũng theo Tổng trợ lý kiêm cố vấn tại Bộ phận kiểm soát Tội phạm kỹ thuật số của Microsoft, mặc dù công ty đã xác định được hai tác nhân ở Hoa Kỳ, cụ thể là ở Illinois và Florida, nhưng danh tính của những người đó vẫn chưa được tiết lộ để tránh gây trở ngại cho các cuộc điều tra hình sự tiềm ẩn. Microsoft đang chuẩn bị chuyển hồ sơ hình sự cho các đại diện thực thi pháp luật của Hoa Kỳ và nước ngoài.