Indonesia và Malaysia vừa tạm ngừng quyền truy cập người dùng vào Grok, chatbot do xAI của Elon Musk phát triển, sau khi phát hiện Grok có thể tạo và chia sẻ nội dung khiêu dâm, thậm chí tài liệu lạm dụng tình dục trẻ em (CSAM).
Nguyên nhân chính là tính năng Grok Imagine, cho phép tạo hình ảnh từ lời nhắc văn bản, tích hợp trực tiếp với mạng xã hội X, khiến nội dung nhạy cảm lan truyền nhanh chóng với phạm vi rộng .
Phản ứng mạnh tay từ các nước:
Malaysia & Indonesia: hạn chế quyền truy cập, triệu tập quan chức X làm rõ trách nhiệm, yêu cầu triển khai biện pháp bảo vệ người dùng.
Ấn Độ: ra lệnh X chặn Grok tạo nội dung khiêu dâm.
EU: yêu cầu xAI lưu giữ toàn bộ tài liệu liên quan Grok, chuẩn bị điều tra.
Mỹ: Thượng nghị sĩ kêu gọi Apple & Google gỡ X khỏi kho ứng dụng; Bộ Tư pháp cảnh báo xử lý nghiêm các trường hợp CSAM do AI tạo ra.
⚠️ xAI mới đây thông báo sẽ giới hạn tính năng tạo và chỉnh sửa hình ảnh chỉ cho người dùng trả phí, nhằm vá lỗ hổng và ngăn đầu ra nội dung khiêu dâm.
Bộ trưởng Truyền thông Indonesia nhấn mạnh: “Việc tạo và lan truyền deepfake tình dục không có sự đồng thuận là hành vi nghiêm trọng xâm phạm quyền con người và nhân phẩm”.
=> Tình hình cho thấy, các quốc gia ngày càng siết chặt quản lý AI, đặc biệt với các công cụ có thể gây hại cho phụ nữ và trẻ em. Grok hiện đang trong tầm ngắm toàn cầu và quyền truy cập sẽ bị hạn chế cho đến khi biện pháp bảo vệ hiệu quả được triển khai.
