Các ông lớn ngân hàng cảnh báo AI có thể làm gia tăng tội phạm mạng

Các ngân hàng lớn ở Phố Wall bắt đầu lên tiếng cảnh báo các nhà đầu tư về những rủi ro liên quan đến việc sử dụng trí tuệ nhân tạo (AI).

Theo Bloomberg News đưa tin hôm 12/3, những rủi ro này bao gồm “ảo giác” AI (AI hallucinations), tình trạng tội phạm mạng lợi dụng công nghệ này và ảnh hưởng của nó đối với tinh thần nhân viên.

Ví dụ, báo cáo cho biết JPMorgan đã đề cập trong một hồ sơ pháp lý gần đây rằng AI có thể dẫn đến "thay thế lực lượng lao động", ảnh hưởng đến tinh thần và khả năng giữ chân nhân viên, đồng thời làm gia tăng sự cạnh tranh trong việc thu hút nhân sự có nền tảng công nghệ phù hợp.

Bloomberg lưu ý rằng mặc dù các ngân hàng đã cảnh báo về rủi ro AI trong các báo cáo thường niên trong những năm gần đây, nhưng những mối lo mới đang xuất hiện khi thế giới tài chính ngày càng ứng dụng công nghệ này nhiều hơn. Đây là một bài toán cân bằng: các ngân hàng phải theo kịp những tiến bộ AI mới nhất để giữ chân khách hàng, đồng thời đối phó với nguy cơ tội phạm mạng.

"Việc thiết lập các cơ chế quản trị phù hợp để đảm bảo AI được triển khai một cách an toàn, công bằng và bảo mật là điều không thể bỏ qua," ông Ben Shorten, chuyên gia về tài chính, rủi ro và tuân thủ trong lĩnh vực ngân hàng và thị trường vốn tại Bắc Mỹ của Accenture, cho biết trong một cuộc trả lời phỏng vấn. "Đây không phải là một công nghệ có thể chỉ cần cắm vào và sử dụng ngay."

Báo cáo của Bloomberg cũng cho biết các ngân hàng có nguy cơ sử dụng những công nghệ dựa trên các tập dữ liệu tài chính lỗi thời, thiên lệch hoặc không chính xác.

Citigroup cho biết rằng khi họ triển khai AI tổng quát trong công ty, họ phải đối mặt với nguy cơ các nhà phân tích làm việc với kết quả “không hiệu quả, không đầy đủ hoặc sai sót” mà AI tạo ra.

Ngân hàng này cũng cảnh báo trong báo cáo thường niên năm 2024 của họ rằng dữ liệu AI sử dụng có thể không đầy đủ, mang tính thiên lệch hoặc không chính xác, điều này "có thể tác động tiêu cực đến danh tiếng, khách hàng, đối tác, hoạt động kinh doanh cũng như tình hình tài chính của công ty."

PYMNTS gần đây đã viết về việc AI được sử dụng trong tội phạm mạng, cho rằng nó đang góp phần vào sự gia tăng của các cuộc tấn công mạng vào năm 2024, bao gồm ransomware, khai thác lỗ hổng zero-day và tấn công chuỗi cung ứng.

"Đây thực chất là một cuộc đối đầu: tội phạm mạng tìm cách kiếm tiền, trong khi cộng đồng doanh nghiệp cần hạn chế hoạt động này. Điểm khác biệt bây giờ là cả hai bên đều được trang bị những công nghệ thực sự ấn tượng," ông Michael Shearer, Giám đốc Giải pháp tại Hawk, nói trong một cuộc trả lời phỏng vấn với PYMNTS.

Tháng trước, PYMNTS cũng đã phân tích nỗ lực của Amazon Web Services (AWS) trong việc chống lại "ảo giác AI" bằng phương pháp lý luận tự động (automated reasoning) – một kỹ thuật dựa trên các nguyên tắc logic có từ nhiều thế kỷ trước.

Theo ông Mike Miller, Giám đốc Quản lý Sản phẩm tại AWS, đây là một bước tiến lớn giúp cải thiện độ tin cậy của đầu ra AI, điều đặc biệt quan trọng đối với các ngành được quản lý chặt chẽ như tài chính và y tế.

Theo pymnts