Kincai Media – Kementerian Komunikasi dan Digital (Komdigi) akhirnya mengambil langkah taktis dengan memanggil perwakilan platform X (sebelumnya Twitter) untuk meminta penjelasan mengenai kontroversi fitur kepintaran artifisial mereka, Grok. Langkah ini diambil sebagai respons pemerintah dalam memastikan ruang digital di Indonesia tetap kondusif dari konten ilegal, khususnya pornografi.
Dalam pertemuan tersebut, pihak X menyatakan komitmennya untuk mematuhi seluruh ketentuan norma yang bertindak di Tanah Air. Fokus utama pembahasan adalah memastikan teknologi AI milik mereka tidak menjadi perangkat untuk memproduksi maupun menyebarkan konten asusila.
Dirjen Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, mengungkapkan hasil pertemuan tersebut kepada publik. Menurutnya, platform milik Elon Musk itu telah berjanji untuk meningkatkan perlindungan terhadap pengguna, khususnya golongan rentan seperti wanita dan anak-anak.
“X menegaskan bakal memastikan fitur AI Grok tidak dapat digunakan untuk menghasilkan konten bermuatan pornografi, serta bakal melakukan penindakan terhadap akun-akun yang terbukti melanggar kebijakan dan peraturan perundang-undangan,” tegas Alexander di Jakarta.
Langkah pemanggilan ini bukanlah tindakan yang tiba-tiba. Sebelumnya, pemerintah Indonesia sempat mengambil langkah tegas dengan melakukan blokir sementara terhadap akses Grok. Hal ini dipicu oleh kekhawatiran mendalam mengenai keahlian chatbot tersebut dalam menjenerasi gambar-gambar tak senonoh yang melanggar etika dan hukum.
Ancaman Sanksi Pemutusan Akses
Komdigi menegaskan bahwa janji manis dari platform X tidak bakal diterima begitu saja. Alexander menekankan bahwa pihaknya bakal terus melakukan pengawasan ketat dan pertimbangan berkepanjangan untuk membuktikan apakah komitmen tersebut betul-betul dijalankan di lapangan alias hanya sekadar lip service.
Pemerintah mengingatkan bahwa setiap Penyelenggara Sistem Elektronik (PSE) yang beraksi di Indonesia wajib tunduk pada patokan main yang ada. Kewajiban ini mencakup pendaftaran resmi, kepatuhan terhadap moderasi konten, hingga respons sigap (takedown) ketika diperintahkan untuk memutus akses terhadap konten terlarang.
Jika di kemudian hari ditemukan bahwa fitur AI Grok kembali disalahgunakan untuk membikin konten pornografi, Komdigi tidak bakal segan-segan menjatuhkan hukuman berat.
“Apabila ditemukan pelanggaran alias ketidakpatuhan, Komdigi mempunyai kewenangan untuk menjatuhkan hukuman administratif hingga pemutusan akses layanan,” ujar Alexander memperingatkan.
Selain hukuman administratif berupa pemblokiran, ada pula akibat norma pidana bagi pihak-pihak yang terlibat. Alexander menyebut bahwa Komdigi secara aktif berkoordinasi dengan abdi negara penegak hukum. Jika penyedia jasa maupun pengguna terbukti memproduksi alias menyebarkan konten pornografi, mereka dapat dijerat hukuman pidana sesuai norma yang bertindak di Indonesia.
Bahaya Deepfake dan Perlindungan Privasi
Isu utama yang menjadi sorotan Komdigi adalah maraknya kejadian deepfake bermuatan seksual yang dibuat tanpa persetujuan subjeknya (non-consensual deepfake pornography). Praktik ini dinilai sebagai pelanggaran serius terhadap kewenangan asasi manusia dan martabat penduduk negara.
Menteri Komunikasi dan Digital (Menkomdigi), Meutya Hafid, sebelumnya telah menyuarakan argumen keras pemerintah untuk lindungi privasi penduduk negara dari ancaman teknologi ini. “Demi melindungi perempuan, anak, dan seluruh masyarakat dari akibat konten pornografi tiruan yang dihasilkan menggunakan teknologi kepintaran artifisial, Pemerintah melakukan pemutusan akses sementara terhadap aplikasi Grok,” ujar Meutya.
Grok sendiri memang sempat menuai kritik keras secara global. Berbeda dengan kompetitornya yang menerapkan filter ketat sejak awal, Grok dinilai terlalu lenggang sehingga memungkinkan pengguna membikin gambar tidak senonoh dengan mudah. Langkah Indonesia untuk menekan X agar membenahi sistem moderasi AI mereka merupakan bagian dari upaya menjaga ruang digital yang beretika.
Kini, bola panas ada di tangan X. Apakah mereka bisa membuktikan sistem AI Grok betul-betul aman, alias justru bakal kembali berhadapan dengan tembok izin Indonesia? Komdigi memastikan pengawasan bakal melangkah tanpa henti.
English (US) · 
Indonesian (ID) ·