Google: Gemini đang bị lợi dụng để tạo ra nội dung khủng bố deepfake

Google đã thông báo cho chính quyền Úc rằng họ đã nhận được hơn 250 khiếu nại trên toàn cầu trong gần một năm qua về việc phần mềm trí tuệ nhân tạo (AI) của họ bị sử dụng để tạo ra nội dung khủng bố deepfake.

Gã khổng lồ công nghệ thuộc sở hữu của Alphabet cũng cho biết họ đã nhận được hàng chục báo cáo từ người dùng cảnh báo rằng chương trình AI của họ - Gemini, đang bị lợi dụng để tạo ra nội dung lạm dụng trẻ em, theo Ủy ban An toàn Kỹ thuật số Úc (eSafety Commission).

Theo luật của Úc, các công ty công nghệ phải định kỳ cung cấp thông tin cho Ủy ban An toàn Kỹ thuật số về các nỗ lực giảm thiểu ảnh hưởng tiêu cực nếu không sẽ phải đối mặt với nguy cơ bị phạt. Giai đoạn báo cáo lần này bao gồm từ tháng 4 năm 2023 đến tháng 2 năm 2024.

Kể từ khi ChatGPT của OpenAI trở nên phổ biến vào cuối năm 2022, các cơ quan quản lý trên toàn thế giới đã kêu gọi tăng cường biện pháp bảo vệ để ngăn AI bị lạm dụng vào các mục đích như khủng bố, lừa đảo, nội dung khiêu dâm deepfake và các hành vi sai trái khác.

Ủy ban An toàn Kỹ thuật số Úc miêu tả thông tin do Google cung cấp là một “cái nhìn toàn cầu đầu tiên” về cách người dùng có thể đang khai thác công nghệ này để tạo ra nội dung độc hại và bất hợp pháp.

"Điều này nhấn mạnh tầm quan trọng của việc các công ty phát triển sản phẩm AI phải tích hợp và kiểm tra tính hiệu quả của các biện pháp bảo vệ nhằm ngăn chặn loại nội dung này được tạo ra," Ủy viên An toàn Kỹ thuật số Julie Inman Grant cho biết trong một tuyên bố.

Trong báo cáo của mình, Google cho biết họ đã nhận được 258 báo cáo của người dùng về nội dung khủng bố deepfake hoặc nội dung cực đoan bạo lực được tạo bằng Gemini, cùng với 86 báo cáo khác cáo buộc Gemini bị sử dụng để tạo nội dung lạm dụng trẻ em.

Theo cơ quan quản lý, Google không cho biết họ đã xác minh bao nhiêu trong số các khiếu nại nói trên.

Người phát ngôn của Google khẳng định công ty không cho phép tạo ra hoặc phát tán các nội dung liên quan đến cực đoan bạo lực, khủng bố, lạm dụng trẻ em hoặc các hoạt động bất hợp pháp khác.

"Chúng tôi cam kết mở rộng các nỗ lực để giúp bảo vệ người dân Úc an toàn trực tuyến," người phát ngôn cho biết qua email. "Số lượng báo cáo từ người dùng Gemini mà chúng tôi cung cấp cho eSafety phản ánh tổng số báo cáo trên toàn cầu, không phải các trường hợp vi phạm chính sách đã được xác nhận."

(theo Reuters)