Chatbot của DeepSeek có thể được sử dụng để tạo ra ransomware và keylogger

Nghiên cứu cho thấy mô hình lý luận R1 của DeepSeek có thể dễ dàng bị lừa tạo ra mã độc, mặc dù vẫn cần sự tham gia của con người.

Mặc dù các công cụ AI tạo ra những hỗ trợ đáng kể cho công việc của các chuyên gia và công ty an ninh mạng, nhưng những kẻ xấu có thể dễ dàng khai thác chúng cho mục đích xấu.

Đã có một số trường hợp cố gắng sử dụng sai các chatbot (hộp trò chuyện) như ChatGPT, khiến các công ty như OpenAI phải đặt ra các rào cản để ngăn chặn việc sử dụng công cụ này vào những mục đích xấu.

Tuy nhiên, một số mô hình, như mô hình lý luận R1 mới nhất của DeepSeek, có thể dễ bị thao túng hơn để tạo ra mã độc. Mô hình R1 của DeepSeek là một mô hình ngôn ngữ lớn có khả năng suy luận mạnh mẽ, tương đương với OpenAI o1 nhưng được phát triển với chi phí thấp hơn đáng kể và có giấy phép mở, cho phép sử dụng miễn phí.

Các nhà nghiên cứu từ công ty an ninh mạng Tenable đã chứng minh cách R1 có thể tạo ra một keylogger (trình theo dõi thao tác bàn phím) và mã ransomware (phần mềm tống tiền) nửa vời bằng một số lời nhắc và giải pháp thay thế.

Vì mô hình R1 có thể lý luận và thể hiện chuỗi suy nghĩ của mình, trong quá trình tạo phần mềm độc hại, các nhà nghiên cứu đã có thể thấy được từng bước suy nghĩ của mô hình.

Tạo keylogger và ransomware

Không có gì ngạc nhiên khi chatbot của DeepSeek được nhắc viết keylogger bằng ngôn ngữ lập trình cao cấp C++-, nhưng công ty  đã từ chối làm như vậy và giải thích rằng keylogger có thể được sử dụng cho mục đích xấu.

Tuy nhiên, các rào cản kém của chatbot có thể bị bỏ qua bằng các lời nhắc bổ sung, chẳng hạn như nêu rằng kết quả sẽ được sử dụng cho mục đích giáo dục.

Sau một vài lời nhắc nữa, R1 đã gợi ý cách tạo keylogger và tạo ra một keylogger có lỗi. Dựa trên ước tính của nhóm, keylogger còn cách bốn bước nữa là có thể hoạt động hoàn toàn mà không cần bất kỳ thay đổi nào.

Ngoài ra, các nhà nghiên cứu đã cố gắng cải thiện keylogger và hỏi liệu nó có thể ẩn tệp ghi nhật ký khóa tốt hơn không. Sau khi các nhà nghiên cứu cố gắng triển khai các ý tưởng, họ vẫn phải điều chỉnh mã theo cách thủ công.

Tenable cũng áp dụng logic bẻ khóa tương tự để tạo ransomware và R1 đã cung cấp tổng quan từng bước về quy trình này.

“DeepSeek đã có thể xác định các vấn đề tiềm ẩn, chẳng hạn như quyền tệp, xử lý tệp lớn, hiệu suất và kỹ thuật chống gỡ lỗi. Ngoài ra, DeepSeek đã có thể xác định một số thách thức tiềm ẩn trong quá trình triển khai, bao gồm nhu cầu thử nghiệm và gỡ lỗi”, công ty tuyên bố trong báo cáo của mình.

Một số lời nhắc bổ sung đã dẫn đến việc tạo ra “một vài” mẫu phần mềm tống tiền đang hoạt động, mặc dù chúng cần được chỉnh sửa thủ công trước khi biên dịch.

“Về bản chất, DeepSeek có thể tạo cấu trúc cơ bản cho phần mềm độc hại. Tuy nhiên, nó không có khả năng thực hiện điều đó nếu không có kỹ thuật nhắc nhở bổ sung cũng như chỉnh sửa mã thủ công cho các tính năng nâng cao hơn”, các nhà nghiên cứu kết luận.