Nhiều quốc gia kiểm tra chặt chẽ nội dung trái phép do AI tạo ra Grok đối mặt với cơn bồng bềnh quản lý toàn cầu

Grok đang gặp rắc rối. Chatbot AI, được phát triển bởi xAI, một ông trùm công nghệ, được phát hiện có thể tạo ra deepfake khiêu dâm của phụ nữ và trẻ vị thành niên, và hiện đang phải đối mặt với một cuộc đàn áp tập trung của cơ quan thực thi pháp luật quốc tế.

Nguyên nhân gây ra vụ việc là sự cố hình ảnh nhỏ xảy ra vào tháng Mười Hai năm ngoái. Các nhà chức trách Ấn Độ sau đó đã có hành động trực tiếp và ra lệnh cho X cấm nội dung như vậy trong vòng 72 giờ. Pháp cũng không nhàn rỗi - các công tố viên địa phương đã mở một cuộc điều tra nhằm vào deepfake trên nền tảng này. Ủy ban Truyền thông Malaysia đã mở một cuộc điều tra đặc biệt về tác hại mạng.

Đáp lại, một ông trùm công nghệ đã công khai xin lỗi thông qua tài khoản Grok của mình và cho biết người dùng sử dụng công cụ này để tạo nội dung bất hợp pháp sẽ phải gánh chịu hậu quả tương ứng. Nhưng vấn đề là đây không chỉ là vấn đề công cụ - tạo nội dung liên quan đến trẻ vị thành niên, điều phối thực thi pháp luật xuyên biên giới và xác định trách nhiệm nền tảng… Những điều này đã trở thành những vấn đề mới. Từ thái độ cứng rắn của Ấn Độ đối với sự điều tra sâu sắc của Pháp đến sự tham gia của Malaysia, nó phản ánh thái độ không khoan nhượng của các cơ quan quản lý toàn cầu đối với việc lạm dụng AI. Sự kiện này có thể trở thành một chuẩn mực mới cho quản trị nội dung trên nền tảng AI.