Di era AI yang semakin canggih, platform X milik Elon Musk kembali menjadi sorotan karena fitur image generation Grok-nya. Setelah menuai kritik keras atas ribuan gambar 'undressing' wanita dan konten seksualisasi yang tampak seperti anak di bawah umur, X mengambil langkah pembatasan. Namun, bukannya menyelesaikan akar masalah, kebijakan baru justru membuatnya 'berbayar'. Bagi gamer Indonesia yang sering memanfaatkan AI untuk kreasi karakter game atau modding, kisah ini jadi pengingat penting soal etika dan risiko teknologi.
1 Apa yang Terjadi dengan Fitur Image Generation Grok?
Grok, chatbot AI buatan xAI milik Elon Musk, dilengkapi kemampuan menghasilkan gambar menggunakan model Flux. Awalnya, fitur ini bebas digunakan siapa saja di platform X, tapi setelah menciptakan ribuan gambar kontroversial seperti 'undressing' wanita (membuat pakaian hilang secara digital) dan imagery seksual yang menyerupai anak di bawah umur, X memberlakukan pembatasan. Kini, hanya pengguna 'verified'—yaitu yang berlangganan X Premium (berbayar mulai Rp150.000/bulan di Indonesia)—yang bisa membuat gambar baru via Grok di X.
Namun, pembatasan ini tak sepenuhnya efektif. Siapa pun masih bisa mengakses fitur serupa melalui aplikasi Grok atau situs web resminya tanpa verifikasi. Ini berarti masalah deepfake dan konten tidak senonoh tetap ada, hanya saja X kini 'memonetisasinya' dengan memaksa pengguna bayar untuk akses premium di platform utama.
Perlu Diketahui
Di Indonesia, Kominfo telah blokir ribuan situs deepfake sejak 2023. Grok bukan pengecualian jika kontennya melanggar UU ITE Pasal 27 tentang pornografi anak.
2 Mengapa Disebut 'Monetisasi Penyalahgunaan' oleh Para Ahli?
Para pakar keamanan siber dan etika AI, seperti dari Electronic Frontier Foundation (EFF), menyebut langkah X ini sebagai 'monetization of abuse'. Alih-alih menambahkan filter ketat atau melarang prompt berbahaya, X justru mengubah fitur bermasalah menjadi sumber pendapatan. Pengguna yang bayar X Premium (sekitar $8/bulan atau Rp120.000) kini punya akses tak terbatas, sementara yang gratis terblokir di X—tapi bebas di app Grok.
Bagi komunitas gamer Indonesia, ini relevan karena banyak yang pakai AI seperti Grok untuk generate artwork karakter Mobile Legends, Free Fire, atau desain skin custom di Roblox. Bayangkan jika prompt sederhana seperti 'karakter wanita MLBB tanpa baju' menghasilkan konten NSFW—risiko hukum dan reputasi tinggi di forum seperti Kaskus atau Reddit Indo.
- 1 Ribuan Kasus Terekam: Sejak peluncuran Flux di Agustus 2024, Grok telah hasilkan puluhan ribu gambar undress, termasuk selebriti dan tokoh fiktif, yang viral di media sosial.
- 2 Tidak Ada Filter Canggih: Berbeda dengan Midjourney atau DALL-E yang punya safeguard kuat, Grok minim pembatasan prompt, memungkinkan eksploitasi mudah.
- 3 Implikasi Global: Uni Eropa selidiki xAI, sementara di AS tuntutan hukum dari korban deepfake meningkat.
3 Dampak bagi Gamer Indonesia dan Alternatif Aman
Gamer Tanah Air sering bergantung AI untuk konten kreatif, seperti generate skin FF Max atau avatar Genshin Impact. Namun, insiden Grok ingatkan kita akan bahaya: konten ilegal bisa kena sanksi Kominfo, plus trauma korban deepfake. Di Indonesia, kasus serupa pernah viral seperti deepfake artis lokal yang sebarkan di TikTok.
Untungnya, ada alternatif. Gunakan tools seperti Stable Diffusion dengan model aman (via Automatic1111 webUI) atau Bing Image Creator yang punya filter ketat. Hindari prompt ambigu untuk cegah output tak diinginkan.
Pro Tip!
Untuk gamer: Saat generate karakter game, tambahkan kata kunci seperti 'SFW only', 'clothed', atau 'family-friendly'. Gunakan extension Safety Checker di Stable Diffusion untuk blokir NSFW otomatis. Selalu cek lisensi gambar sebelum upload ke Discord komunitas Indo.
- ⭐ Alternatif Terbaik: Leonardo.AI atau Ideogram—gratis tier cukup untuk desain game, dengan filter etis kuat dan komunitas besar di Indo.
- ⭐ Tips Hukum: Di Indonesia, bagikan deepfake bisa kena denda Rp1 miliar via UU Pornografi. Prioritaskan tools open-source yang bisa dikustom safeguard-nya.
4 Masa Depan AI Image Gen: Pelajaran untuk Industri Game
Kontroversi Grok dorong perusahaan seperti Epic Games (Fortnite) dan Riot (Valorant) perketat AI tools mereka. Di Indonesia, developer lokal seperti Agate atau Toge Productions mulai integrasikan AI etis untuk asset game. Namun, tantangan tetap: bagaimana seimbangkan inovasi dengan perlindungan?
Kesimpulannya, pembatasan X pada Grok bukan solusi, melainkan gejala masalah lebih besar di ekosistem AI. Bagi gamer Indonesia, ini panggilan untuk bijak: pilih tools bertanggung jawab, dukung regulasi lokal, dan ciptakan konten positif. Dengan kesadaran ini, kita bisa nikmati AI tanpa mengorbankan etika atau keamanan komunitas.
