Kekacauan dalam mengubah gambar Grok milik Musk sering terjadi! Coser, wanita di bawah umur yang dipermalukan oleh AI, banyak negara turun tangan melakukan penyelidikan

X 平台 dari Elon Musk, baru-baru ini mengintegrasikan fitur pengeditan gambar Grok AI, memicu berbagai kekacauan seperti eksploitasi seksual tanpa izin dan gambar vulgar anak di bawah umur. Banyak pemerintah negara telah turun tangan melakukan penyelidikan dan menuntut platform untuk menerapkan langkah-langkah keamanan.

X Luncurkan Pengeditan Gambar Grok AI, Coser Mengalami Eksploitasi Seksual

Dengan semakin populernya alat AI generatif, pengeditan gambar satu klik menjadi semakin mudah. Baru-baru ini, platform komunitas X milik Elon Musk mengintegrasikan fitur gambar yang dihasilkan oleh chatbot Grok ke dalam fungsi posting di X. Pengguna cukup klik “Edit Gambar” di kanan bawah gambar posting mana pun, lalu panggil Grok untuk mengedit gambar dan mengunggahnya kembali sebagai komentar atau posting.

Fitur ini menuai banyak reaksi negatif saat pertama kali diluncurkan, termasuk kekhawatiran bahwa fungsi memanggil Grok untuk mengedit gambar di komentar akan disalahgunakan untuk eksploitasi seksual atau pornografi anak, dan memang kenyataannya terjadi hal yang tidak diinginkan.

Pada 2 Januari, cosplayer terkenal dari Austria, Keekihime, mengungkapkan bahwa seorang pengguna mengomentari posting foto dirinya yang memerankan karakter dari game “Arknights”, secara sepihak memanggil Grok untuk mengedit gambar dengan kata kunci seperti “ganti dengan bra” dan “pakaian transparan”. Karena setelah diedit, gambar langsung muncul di komentar asli, Keekihime sangat tidak senang dan mengkritik:

“Grok tampaknya berubah menjadi semacam generator konten pornografi yang memuaskan nafsu pria yang cabul, dan X malah mendukung tren ini. Ini benar-benar melanggar tubuh perempuan, ke neraka dengan AI X!”

Sumber gambar: X

Grok Disalahgunakan untuk Menghasilkan Bikini, Bahkan Ada Korban Anak di Bawah Umur

Meskipun Elon Musk sendiri tidak keberatan jika fotonya diedit menjadi gambar orang memakai bikini, bahkan saat ada meme yang menyindir bahwa ruang komunitas X berubah menjadi tempat wanita berbikini masuk ke bar, dia hanya membalas dengan emoji menangis dan tertawa, tetapi jelas sebagian besar orang tidak menerima perilaku semacam ini.

Musisi wanita dari Brasil, Julie Yukari, mengungkapkan kepada Reuters bahwa dia mengunggah foto dirinya mengenakan gaun merah, tetapi diubah oleh pengguna menjadi versi bikini, dan gambar tersebut dengan cepat menyebar di platform X.

Korban tidak hanya dia, pada siang hari 2 Januari, Grok menerima 102 laporan dalam waktu kurang dari sepuluh menit, sebagian besar berupa gambar yang diedit oleh Grok menampilkan perempuan yang dipaksa melepas pakaian dan mengenakan bikini, bahkan ada juga pria dan seekor monyet yang menjadi korban.

Lebih mengerikan lagi, seorang wanita yang kemungkinan masih pelajar di bawah umur membagikan foto dirinya mengenakan kemeja dan rok kotak-kotak di platform X, hasilnya ada pengguna yang memanggil Grok dan meminta “lepas seragam sekolahnya” lalu diganti dengan T-Shirt dan celana pendek, kemudian meminta diganti lagi dengan bikini, tetapi Grok tidak menanggapi kata kunci tersebut.

Sumber gambar: Getty Images

Grok kemudian mengonfirmasi bahwa, setelah memeriksa catatan interaksi pengguna, mereka menemukan bahwa ada pengguna tertentu yang meminta dan menerima gambar AI yang menampilkan anak di bawah umur dengan pakaian terbuka, dan mereka berjanji akan meningkatkan langkah-langkah keamanan.

Para ahli yang terus memantau perkembangan kebijakan AI di platform X mengungkapkan bahwa platform ini mengabaikan peringatan dari masyarakat sipil dan organisasi perlindungan anak. Tahun lalu, organisasi tersebut mengirim surat peringatan bahwa xAI hanya selangkah lagi dari penyebaran konten deepfake yang tidak disetujui secara luas.

Banyak negara mulai melaporkan dan menyelidiki X dan Grok

Menghadapi penyalahgunaan Grok dan sikap pasif platform X, banyak pemerintah negara telah mulai bertindak.

Pemerintah Prancis melaporkan platform X ke otoritas pengawas, menuduh bahwa gambar yang dihasilkan Grok mengandung sugesti seksual dan diskriminasi, yang jelas melanggar hukum; Ofcom, badan pengatur komunikasi Inggris, juga menyatakan bahwa membuat atau membagikan gambar pribadi atau pornografi anak tanpa izin adalah tindakan ilegal, termasuk konten yang dihasilkan AI, dan mereka menyerukan langkah pencegahan yang tepat.

Di Asia, pemerintah Malaysia telah memulai penyelidikan setelah menerima keluhan bahwa Grok disalahgunakan untuk menghasilkan foto tidak senonoh wanita; Kementerian Teknologi Informasi India juga mengirim surat ke platform X, menuduh bahwa mereka tidak mencegah penyalahgunaan Grok dan malah membuat serta menyebarkan konten pornografi yang tidak pantas.

Dalam menanggapi tekanan pengawasan yang ketat, platform X segera merespons, akan mengambil tindakan terhadap konten ilegal seperti CSAM (Child Sexual Abuse Material), termasuk menghapus konten ilegal, memblokir akun secara permanen, dan bekerja sama dengan pemerintah serta aparat penegak hukum jika diperlukan. Elon Musk juga memperingatkan pengguna bahwa siapa pun yang menggunakan Grok atau menghasut Grok untuk membuat konten ilegal akan menghadapi konsekuensi yang sama seperti mengunggah konten ilegal.

Sumber gambar: X