Các cơ quan quản lý tại Vương quốc Anh đã bắt đầu một cuộc điều tra về X, xem xét các mối quan ngại liên quan đến hệ thống Grok AI của nền tảng này và khả năng tạo ra các deepfake. Động thái này phản ánh sự gia tăng sự giám sát toàn cầu về cách các nền tảng mạng xã hội quản lý các công cụ tạo nội dung dựa trên AI.

Cuộc điều tra tập trung vào việc liệu có các biện pháp bảo vệ thích hợp để ngăn chặn việc sử dụng độc hại AI trong việc tạo ra các phương tiện tổng hợp có thể lan truyền thông tin sai lệch hoặc gây hại cho cá nhân hay không. Với công nghệ deepfake ngày càng tinh vi, các nhà chức trách đang đặt câu hỏi liệu các khung quản lý nội dung hiện tại có thể theo kịp hay không.

Cuộc điều tra này làm nổi bật một thách thức lớn hơn đối với các nền tảng công nghệ: cân bằng giữa đổi mới trong khả năng AI và các biện pháp bảo vệ vững chắc chống lại việc lạm dụng. Khi trí tuệ nhân tạo ngày càng được tích hợp sâu vào các nền tảng xã hội, các nhà quản lý trên toàn thế giới đang thắt chặt việc giám sát. Trường hợp này nhấn mạnh lý do tại sao việc quản trị minh bạch và quản lý rủi ro chủ động trong việc triển khai AI lại quan trọng hơn bao giờ hết đối với độ tin cậy của các nền tảng kỹ thuật số.