Kincai Media – Kementerian Komunikasi dan Informatika (Kemkominfo) sedang menyelidiki dugaan penyalahgunaan Grok AI, sebuah fitur kepintaran buatan (AI) di platform X. Fitur ini diduga digunakan untuk memproduksi dan menyebarkan konten asusila, termasuk memanipulasi foto pribadi tanpa izin.
Direktur Jenderal Pengawasan Ruang Digital Kemkominfo, Alexander Sabar, mengungkapkan bahwa penelusuran awal menunjukkan Grok AI belum mempunyai pengaturan yang memadai untuk mencegah produksi dan pengedaran konten pornografi berbasis foto nyata penduduk Indonesia. Hal ini berpotensi melanggar kewenangan privasi dan kewenangan atas gambaran diri seseorang.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan kewenangan gambaran diri warga,” ujar Alexander di Jakarta, Rabu (15/05/2024).
Kemkominfo menilai bahwa manipulasi digital terhadap foto pribadi bukan hanya masalah kesusilaan, tetapi juga perampasan kendali perseorangan atas identitas visualnya, yang dapat menyebabkan kerugian psikologis, sosial, dan reputasi. Kasus deepfake dan pelanggaran kewenangan cipta semakin marak seiring perkembangan AI.
Alexander menegaskan bahwa Kemkominfo sedang berkoordinasi dengan para Penyelenggara Sistem Elektronik (PSE) untuk memastikan tersedianya sistem perlindungan yang efektif. Langkah ini mencakup penguatan sistem moderasi konten, pencegahan pembuatan deepfake asusila, serta prosedur penanganan sigap atas laporan pelanggaran privasi dan kewenangan gambaran diri.
“Setiap PSE wajib memastikan bahwa teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, pemanfaatan seksual, maupun perusakan martabat seseorang,” tegasnya.
Ia juga mengingatkan bahwa tanggungjawab kepatuhan terhadap peraturan perundang-undangan Indonesia melekat pada seluruh PSE yang beraksi di daerah Indonesia. Jika ditemukan ketidakpatuhan alias sikap tidak kooperatif, Kemkominfo dapat menjatuhkan hukuman administratif hingga pemutusan akses jasa Grok AI dan platform X.
Kemkominfo menegaskan bahwa penyedia jasa kepintaran buatan maupun pengguna yang terbukti memproduksi dan/atau menyebarkan konten pornografi alias manipulasi gambaran pribadi tanpa kewenangan dapat dikenakan hukuman administratif dan/atau pidana sesuai ketentuan norma yang berlaku. Belum lama ini, Kemkominfo selidiki penyalahgunaan Grok AI untuk konten cabul dan deepfake.
Alexander menjelaskan, sejak berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) pada 2 Januari 2026, konten pornografi diatur antara lain dalam Pasal 172 dan Pasal 407. Pasal 172 mendefinisikan pornografi sebagai media yang memuat kecabulan alias pemanfaatan seksual yang melanggar norma kesusilaan, sementara Pasal 407 mengatur ancaman pidana penjara paling singkat 6 (enam) bulan dan paling lama 10 (sepuluh) tahun alias pidana denda sesuai ketentuan.
Dia menambahkan bahwa masyarakat yang menjadi korban manipulasi foto, deepfake asusila, alias pelanggaran kewenangan gambaran diri dapat menempuh upaya norma melalui sistem yang tersedia dalam peraturan perundang-undangan, termasuk pelaporan kepada abdi negara penegak norma dan pengaduan kepada Kemkominfo.
“Kami mengimbau seluruh pihak untuk menggunakan teknologi logika imitasi secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum, ada privasi dan kewenangan atas gambaran diri setiap penduduk yang kudu dihormati dan dilindungi,” ujar Alexander.
Ancaman Hukuman Bagi Pelanggar
Kemkominfo tidak main-main dalam menindak pelaku penyalahgunaan AI untuk konten negatif. Sanksi administratif hingga pidana menanti bagi mereka yang terbukti melanggar. Hal ini sejalan dengan komitmen pemerintah dalam menciptakan ruang digital yang kondusif dan bertanggung jawab.
Pasal 172 dan 407 KUHP menjadi landasan norma bagi penindakan terhadap pelaku. Pasal 172 secara jelas mendefinisikan pornografi sebagai media yang mengandung unsur kecabulan alias pemanfaatan seksual yang melanggar norma kesusilaan. Sementara itu, Pasal 407 memberikan ancaman pidana penjara minimal 6 bulan dan maksimal 10 tahun, alias denda sesuai ketentuan yang berlaku.
Masyarakat yang merasa menjadi korban manipulasi foto, deepfake asusila, alias pelanggaran kewenangan gambaran diri, mempunyai kewenangan untuk menempuh jalur hukum. Pelaporan kepada abdi negara penegak norma dan pengaduan kepada Kemkominfo adalah langkah yang dapat diambil untuk mencari keadilan.
Pentingnya kesadaran dan tanggung jawab dalam menggunakan teknologi AI menjadi sorotan utama. Ruang digital bukanlah daerah tanpa aturan. Privasi dan kewenangan atas gambaran diri setiap perseorangan kudu dihormati dan dilindungi. Alexander Sabar kembali mengingatkan bakal perihal ini, membujuk seluruh pihak untuk bijak dalam memanfaatkan kemajuan teknologi.
Kasus Grok AI bikin ulah, dipakai untuk deepfake cabul dan pemanfaatan anak di X menjadi preseden buruk. Pemerintah tidak bakal tinggal tak bersuara dan bakal menindak tegas segala corak penyalahgunaan teknologi yang merugikan masyarakat.
Perkembangan AI yang pesat menuntut adanya izin yang ketat dan pengawasan yang cermat. Kemkominfo terus berupaya untuk memperkuat sistem moderasi konten dan meningkatkan kesadaran masyarakat bakal pentingnya menjaga privasi dan kewenangan gambaran diri di era digital. Selain itu, perkembangan DeepSeek V3.2 guncang bumi AI, klaim kalahkan GPT-5 dan Gemini 3 Pro, juga menjadi perhatian mengenai potensi penyalahgunaan.
Penting untuk diingat bahwa teknologi hanyalah alat. Bagaimana perangkat tersebut digunakan, sepenuhnya tergantung pada manusia. Mari bersama-sama menciptakan ruang digital yang positif, aman, dan bertanggung jawab.
Kemkominfo mengimbau masyarakat untuk lebih berhati-hati dalam mengunggah foto alias info pribadi ke internet. Selain itu, masyarakat juga diimbau untuk tidak mudah percaya dengan konten yang beredar di media sosial, terutama konten yang berkarakter provokatif alias mengandung unsur pornografi.
Pemerintah bakal terus berupaya untuk melindungi masyarakat dari akibat negatif penyalahgunaan teknologi. Namun, peran serta aktif dari masyarakat juga sangat krusial dalam menciptakan ruang digital yang sehat dan produktif. Diharapkan, kasus ini menjadi pelajaran berbobot bagi semua pihak untuk lebih bijak dalam menggunakan teknologi dan menghormati hak-hak orang lain.
Kasus ini juga menjadi momentum bagi para developer AI untuk lebih bertanggung jawab dalam menciptakan teknologi yang kondusif dan tidak disalahgunakan. Algoritma dan sistem keamanan kudu terus ditingkatkan untuk mencegah penyebaran konten negatif dan melindungi privasi pengguna.
Masyarakat juga perlu meningkatkan literasi digital agar dapat membedakan antara konten yang betul dan salah, serta memahami akibat dan potensi ancaman yang ada di bumi maya. Dengan literasi digital yang baik, masyarakat dapat lebih bijak dalam menggunakan teknologi dan terhindar dari menjadi korban penyalahgunaan teknologi.
Upaya pencegahan dan penindakan terhadap penyalahgunaan AI memerlukan kerjasama dari semua pihak, termasuk pemerintah, developer teknologi, masyarakat, dan media. Dengan kerjasama yang baik, diharapkan ruang digital dapat menjadi tempat yang aman, nyaman, dan produktif bagi semua orang.
Ke depan, Kemkominfo bakal terus melakukan sosialisasi dan edukasi kepada masyarakat mengenai pentingnya menjaga privasi dan kewenangan gambaran diri di era digital. Selain itu, Kemkominfo juga bakal terus berkoordinasi dengan para pemangku kepentingan untuk menciptakan izin yang adaptif dan bisa menjawab tantangan perkembangan teknologi.
Penting untuk diingat bahwa teknologi AI mempunyai potensi yang besar untuk memberikan faedah bagi kehidupan manusia. Namun, potensi tersebut hanya dapat terwujud jika teknologi digunakan secara bertanggung jawab dan etis. Mari bersama-sama mewujudkan visi Indonesia sebagai negara digital yang maju, inklusif, dan berkelanjutan.
Kemkominfo membujuk seluruh masyarakat untuk melaporkan jika menemukan konten yang melanggar norma alias norma kesusilaan di internet. Laporan dapat disampaikan melalui beragam kanal yang telah disediakan oleh Kemkominfo, seperti website, media sosial, alias hotline pengaduan.
Dengan partisipasi aktif dari masyarakat, diharapkan ruang digital dapat menjadi tempat yang lebih baik bagi semua orang. Mari bersama-sama membangun ekosistem digital yang sehat, produktif, dan bertanggung jawab.
English (US) · 
Indonesian (ID) ·