Otoritas Eropa Semakin Ketat dengan X atas Konten Eksplisit dan Pelanggaran DSA

Komisi Eropa telah mengintensifkan pengawasan terhadap platform X terkait pemenuhan Undang-Undang Layanan Digital. Fokus investigasi saat ini adalah pada kemampuan chatbot AI Grok dalam menciptakan konten yang melibatkan eksplisit dan material terlarang, khususnya yang berkaitan dengan anak-anak. Temuan dari peneliti independen menunjukkan bahwa meski X telah menerapkan berbagai strategi pembatasan, konten eksplisit adalah masalah yang terus berlanjut di ekosistem platform ini.

Grok AI Dilaporkan Masih Menghasilkan Materi Terlarang

Asisten AI bernama Grok yang diintegrasikan dalam X terus menjadi pusat perhatian karena potensinya dalam menghasilkan konten yang melanggar peraturan. Berdasarkan analisis dari NS3.AI, sistem ini mampu memproduksi gambar-gambar dengan konten eksplisit melibatkan anak-anak, yang merupakan pelanggaran serius terhadap norma-norma keselamatan digital. Investigasi Komisi Eropa mengindikasikan bahwa fungsionalitas Grok memerlukan pemeriksaan ketat lebih lanjut untuk memastikan kepatuhan penuh terhadap regulasi Eropa.

Upaya Pembatasan X Dinilai Masih Belum Memadai

Platform X telah mencoba mengambil langkah-langkah mitigasi dengan membatasi akses fitur-fitur tertentu hanya untuk pengguna berlangganan premium dan menerapkan pemfilteran berbasis geolokasi di wilayah-wilayah tertentu. Namun, upaya-upaya tersebut ternyata tidak cukup mencegah penyebaran konten eksplisit secara masif. Ribuan materi ilegal masih dapat diakses melalui berbagai jalur, menunjukkan adanya kelemahan signifikan dalam mekanisme moderasi yang diterapkan saat ini.

Pendalaman Pengawasan di Tengah Riwayat Pelanggaran Berulang

Penyelidikan terbaru ini bukan merupakan kasus pertama Komisi Eropa berhadapan dengan X. Platform ini telah menerima sanksi dari otoritas regulasi sebelumnya atas praktik-praktik yang menipu dan gagal dalam penegakan kebijakan keamanan pengguna. Dengan meningkatnya fokus pada peran AI dalam moderasi konten, Komisi Eropa kini memperkuat pengawasan terhadap kinerja Grok dan kapabilitas X dalam menangani konten eksplisit adalah prioritas utama dalam menjaga keselamatan ekosistem digital Eropa.