Grok AI: Malaysia dan Indonesia memblokir chatbot X karena konten deepfake yang bersifat seksual.
Taruhan bola – Pengguna X Indonesia yang menemukan foto-foto mereka yang dimanipulasi di platform tersebut mengatakan mereka merasa marah karena hal ini diizinkan terjadi. Kirana Ayuningtyas, seorang pengguna kursi roda yang membagikan pengalaman hariannya secara online, menemukan bahwa seorang orang asing telah mengomentari fotonya dengan permintaan agar Grok menggambarkannya mengenakan bikini. Ayuningtyas mengatakan dia menyesuaikan pengaturan privasinya dan menghubungi platform tersebut untuk menghapus gambar tersebut agar pengguna lain tidak dapat mengedit fotonya.
“Sayangnya, tidak ada yang benar-benar berhasil,” katanya, menambahkan bahwa sulit untuk mengetahui apakah ada orang di luar sana yang masih menyimpan gambar-gambar tersebut. Dia meminta teman-temannya untuk melaporkan akun yang mempublikasikan gambar palsunya, tetapi hal itu berarti lebih banyak orang melihat gambar yang diedit, yang sangat memalukan baginya. Platform Grok telah dihubungi untuk memberikan komentar.
Penggunaan Grok untuk menghasilkan gambar-gambar bermuatan seksual telah dikecam oleh pemimpin-pemimpin di seluruh dunia, termasuk Perdana Menteri Inggris Keir Starmer, yang menyebutnya “memalukan” dan “jijik”. Menteri Teknologi Inggris Liz Kendall juga menyatakan bahwa ia akan mendukung regulator Ofcom jika Ofcom memblokir akses ke situs media sosial Elon Musk, X, di Inggris karena tidak mematuhi undang-undang keamanan daring. Ia mengatakan bahwa Undang-Undang Keamanan Daring Inggris “memiliki kewenangan untuk memblokir layanan agar tidak dapat diakses di Inggris jika mereka menolak mematuhi undang-undang Inggris” dan “jika Ofcom memutuskan untuk menggunakan kewenangan tersebut, mereka akan mendapatkan dukungan penuh kami”.
