X AI Grok diblokir di Indonesia dan Malaysia karena menghasilkan gambar-gambar eksplisit, sementara Inggris meluncurkan penyelidikan
Slot online terpercaya – Malaysia dan Indonesia menjadi negara pertama yang memblokir Grok, chatbot kecerdasan buatan yang dikembangkan oleh xAI milik Elon Musk, setelah pihak berwenang menyatakan bahwa platform tersebut disalahgunakan untuk menghasilkan gambar-gambar bermuatan seksual eksplisit dan tanpa persetujuan.
Hal ini terjadi bersamaan dengan konfirmasi dari regulator media Inggris bahwa mereka telah meluncurkan penyelidikan terhadap platform tersebut untuk melihat apakah platform tersebut telah melanggar undang-undang Inggris, sementara pemerintah Inggris juga mengumumkan rencananya untuk merancang undang-undang yang akan melarang perusahaan menyediakan alat yang dirancang untuk membuat deepfake.
Langkah-langkah tersebut mencerminkan meningkatnya kekhawatiran global terhadap alat-alat kecerdasan buatan generatif yang mampu menghasilkan gambar, suara, dan teks yang realistis, sementara langkah-langkah pengamanan yang ada gagal mencegah penyalahgunaannya.
Uni Eropa, India, dan Prancis juga telah menyampaikan kekhawatiran mereka terhadap platform tersebut.
Chatbot Grok, yang dapat diakses melalui platform media sosial milik Musk, X, telah dikritik karena menghasilkan gambar yang dimanipulasi, termasuk penggambaran wanita berbikini atau dalam pose seksual eksplisit, serta gambar-gambar yang melibatkan anak-anak.
Regulator Malaysia dan Indonesia menyatakan bahwa pengendalian yang ada saat ini tidak mampu mencegah pembuatan dan penyebaran konten pornografi palsu, terutama yang melibatkan perempuan dan anak di bawah umur.
Elon Musk sebelumnya menggambarkan Grok sebagai AI “anti-woke”. (AP: Leon Neal/Arsip)
Pemerintah Indonesia untuk sementara memblokir akses ke Grok pada hari Sabtu, diikuti oleh Malaysia pada hari Minggu.
AI milik Musk membatasi pembuatan gambar Selama lebih dari seminggu, bot AI X bernama Grok telah menghasilkan gambar-gambar seksual yang menampilkan perempuan dan anak-anak atas permintaan pengguna lain
“Pemerintah memandang deepfake seksual tanpa persetujuan sebagai pelanggaran serius terhadap hak asasi manusia, martabat, dan keselamatan warga di ruang digital,” kata Menteri Komunikasi dan Informatika Indonesia, Meutya Hafid, dalam sebuah pernyataan pada hari Sabtu.
Kementerian tersebut menyatakan bahwa langkah tersebut bertujuan untuk melindungi perempuan, anak-anak, dan masyarakat luas dari konten pornografi palsu yang dihasilkan menggunakan AI.
Temuan awal menunjukkan bahwa Grok tidak memiliki sistem pengamanan yang efektif untuk menghentikan pengguna agar tidak membuat dan menyebarkan konten pornografi yang menggunakan foto asli warga Indonesia, kata Alexander Sabar, Direktur Jenderal Pengawasan Ruang Digital, dalam pernyataan terpisah.
Ia mengatakan praktik semacam itu berisiko melanggar privasi dan hak atas citra ketika foto dimanipulasi atau dibagikan tanpa izin, sehingga menimbulkan kerugian psikologis, sosial, dan reputasi.
Ofcom Inggris Meluncurkan Penyelidikan terhadap Grok
Di Kuala Lumpur, Komisi Komunikasi dan Multimedia Malaysia memerintahkan pembatasan sementara terhadap Grok pada hari Minggu setelah apa yang disebutnya sebagai “penyalahgunaan berulang” alat tersebut untuk menghasilkan gambar-gambar cabul, eksplisit secara seksual, dan hasil manipulasi tanpa persetujuan, termasuk konten yang melibatkan perempuan dan anak di bawah umur.
Regulator tersebut mengatakan bahwa pemberitahuan yang dikeluarkan bulan ini kepada X Corp. dan xAI yang menuntut langkah-langkah perlindungan yang lebih ketat hanya mendapat tanggapan yang sebagian besar mengandalkan mekanisme pelaporan pengguna.
“Pembatasan ini diberlakukan sebagai langkah pencegahan dan proporsional sementara proses hukum dan regulasi sedang berlangsung,” katanya, sambil menambahkan bahwa Akses akan tetap diblokir hingga langkah-langkah pengamanan yang efektif diterapkan.
Di Inggris, undang-undang yang lebih ketat yang akan melarang pembuatan deepfake bermuatan seksual dijadwalkan mulai berlaku.
Dalam pidatonya di hadapan Parlemen Inggris, Menteri Sains dan Teknologi Liz Kendall mengatakan bahwa pemerintah juga sedang merencanakan undang-undang baru untuk melarang perusahaan teknologi menyediakan alat untuk membuat gambar-gambar seksual menggunakan kecerdasan buatan (AI).
Uni Eropa dan Inggris mengecam penyebaran gambar-gambar seksual di X Gelombang penyebaran gambar-gambar yang memperlihatkan orang telanjang secara digital di platform media sosial milik Elon Musk telah memicu penyelidikan dari berbagai negara, termasuk Prancis, India, dan Malaysia.
Menolak tuduhan dari Elon Musk bahwa pemerintah Inggris berusaha membatasi kebebasan berekspresi, Ms Kendall mengatakan undang-undang baru tersebut bertujuan untuk “menangani kekerasan terhadap perempuan dan anak perempuan”.
“Ini tentang menegakkan nilai-nilai dasar Inggris mengenai kesopanan dan rasa hormat, serta memastikan bahwa standar yang kita harapkan di dunia nyata juga ditegakkan di dunia maya, dan ini tentang menjalankan kedaulatan kita.
”
Ia mengatakan para korban dan masyarakat mengharapkan sw tindakan tegas dan cepat dari Ofcom, sambil menambahkan bahwa X dapat bertindak sekarang untuk memastikan materi ilegal tidak dapat dibagikan di platformnya.
Regulator media Inggris, Ofcom, mengonfirmasi pada Senin, waktu setempat, bahwa penyelidikannya akan meneliti apakah platform tersebut telah melanggar kewajiban kehati-hatiannya untuk melindungi masyarakat di Inggris dari konten yang berpotensi ilegal.
“Telah ada laporan yang sangat memprihatinkan mengenai akun chatbot Grok AI di X yang digunakan untuk membuat dan membagikan gambar orang tanpa busana — yang mungkin termasuk dalam kategori penyalahgunaan gambar intim atau pornografi — serta gambar anak-anak yang diseksualisasi yang mungkin termasuk dalam kategori materi pelecehan seksual terhadap anak,” kata Ofcom dalam sebuah pernyataan.
Jika ditemukan bahwa X telah melanggar hukum, Ofcom dapat memaksanya untuk mengambil langkah-langkah agar mematuhi peraturan, dan jika tidak, Ofcom dapat menjatuhkan denda hingga 10 persen dari pendapatan globalnya yang memenuhi syarat.
Ketika dimintai komentar pada hari Senin mengenai dimulainya penyelidikan resmi tersebut, X merujuk pada pernyataan sebelumnya di mana mereka menyatakan bahwa mereka mengambil tindakan terhadap konten ilegal di platform tersebut, termasuk materi pelecehan seksual terhadap anak, dengan menghapusnya, menangguhkan akun secara permanen, serta bekerja sama dengan pemerintah daerah dan penegak hukum jika diperlukan.
“Siapa pun yang menggunakan atau memerintahkan Grok untuk membuat konten ilegal akan menghadapi konsekuensi yang sama seperti jika mereka mengunggah konten ilegal,” kata perusahaan tersebut.
Diluncurkan pada tahun 2023, Grok dapat digunakan secara gratis di X. Pengguna dapat mengajukan pertanyaan kepadanya di platform media sosial tersebut dan menandai postingan yang mereka buat langsung atau balasan terhadap postingan dari pengguna lain.
Musim panas lalu, perusahaan tersebut menambahkan fitur pembuat gambar, Grok Imagine, yang mencakup apa yang disebut “spicy mode” yang dapat menghasilkan konten dewasa.
Pekan lalu, Grok membatasi pembuatan dan pengeditan gambar hanya untuk pengguna berbayar menyusul reaksi keras global atas deepfake yang mengkontekstualisasikan orang secara seksual, namun para kritikus mengatakan langkah tersebut tidak sepenuhnya mengatasi masalah tersebut.
