Pernahkah Anda membayangkan dengan siapa anak remaja Anda berbincang berjam-jam di ponsel mereka? Di era digital ini, kawan bicara tersebut tidak selalu manusia, melainkan kepintaran buatan alias AI yang dirancang menyerupai karakter tertentu. Fenomena ini membawa kekhawatiran baru bagi para orang tua, terutama ketika percakapan tersebut melampaui pemisah kewajaran. Menanggapi keresahan yang memuncak, raksasa teknologi Meta akhirnya mengambil langkah tegas yang mungkin bakal mengubah langkah remaja berinteraksi dengan teknologi di masa depan.
Meta secara resmi mengumumkan bahwa mereka menangguhkan akses remaja terhadap karakter chatbot AI mereka untuk sementara waktu. Keputusan ini bukan tanpa alasan, melainkan respons langsung terhadap serangkaian laporan yang menyoroti hubungan yang tidak layak antara chatbot dengan pengguna di bawah umur. Perusahaan yang dipimpin Mark Zuckerberg ini menyatakan bakal “menjeda sementara akses remaja ke karakter AI yang ada secara global” hingga perbaikan sistem keamanan selesai dilakukan.
Langkah ini diambil beberapa bulan setelah Meta berjanji untuk meningkatkan fitur keselamatan. Sebelumnya, muncul laporan yang cukup meresahkan di mana beberapa karakter chatbot Meta terlibat dalam percakapan seksual dan hubungan yang mengkhawatirkan dengan remaja. Kini, Meta memilih untuk menarik rem darurat, memastikan bahwa tidak ada lagi akibat yang mengintai pengguna muda mereka sampai sistem yang lebih aman, termasuk kontrol orang tua yang lebih ketat, betul-betul siap diluncurkan.
Alasan Utama Penangguhan Akses
Keputusan Meta untuk memblokir akses ini dipicu oleh temuan internal dan laporan media yang mengejutkan. Reuters melaporkan adanya arsip kebijakan internal Meta yang sempat mengizinkan chatbot untuk melakukan percakapan “sensual” dengan pengguna di bawah umur. Meskipun Meta kemudian menjelaskan bahwa bahasa dalam arsip tersebut “keliru dan tidak konsisten dengan kebijakan kami,” kerusakan reputasi dan kekhawatiran publik sudah terlanjur menyebar.
Isu ini menjadi sorotan tajam lantaran melibatkan keselamatan mental dan emosional remaja. Meta sebelumnya telah meluncurkan beragam persona AI, termasuk Chatbot Selebritas yang meniru style bicara tokoh terkenal. Namun, tanpa pagar pengaman yang kuat, teknologi ini justru menjadi pedang bermata dua. Pada bulan Agustus lalu, perusahaan sebenarnya telah mengumumkan upaya training ulang chatbot mereka untuk menambahkan “pagar pembatas sebagai tindakan pencegahan ekstra”.
Tujuan utama dari training ulang tersebut adalah mencegah remaja mendiskusikan topik-topik sensitif dan berbahaya, seperti menyakiti diri sendiri, gangguan makan, hingga bunuh diri. Namun, tampaknya langkah tersebut belum cukup memadai sehingga penangguhan total menjadi opsi terbaik saat ini. Meta menegaskan bahwa akses tidak bakal dibuka kembali sampai “pengalaman yang diperbarui siap.”
Pemberlakuan Kontrol Orang Tua yang Lebih Ketat
Pembaruan yang sedang digodok oleh Meta nantinya bakal menyertakan kontrol orang tua yang lebih komprehensif. Menurut ahli bicara Meta, pembatasan baru ini bakal mulai bertindak “dalam beberapa minggu mendatang.” Aturan ini tidak hanya bertindak bagi akun yang terdaftar sebagai remaja, tetapi juga bagi pengguna yang mengaku dewasa namun dicurigai sebagai remaja berasas teknologi prediksi usia yang dimiliki Meta.
Langkah ini sejalan dengan upaya Meta sebelumnya untuk memberikan kendali lebih kepada wali. Anda mungkin ingat ketika Meta mulai mengembangkan fitur untuk Blokir Chatbot bagi orang tua, sebuah fitur yang sangat dinantikan demi ketenangan pikiran keluarga. Meskipun karakter chatbot ditangguhkan, remaja tetap tetap dapat mengakses chatbot Meta AI resmi yang standar. Perusahaan menyatakan bahwa jenis standar ini sudah mempunyai “perlindungan yang sesuai dengan usia.”
Tekanan Hukum dan Investigasi Regulator
Keputusan Meta ini tidak lepas dari tekanan eksternal yang semakin kuat. Meta dan perusahaan AI lain yang membikin karakter “pendamping” sekarang menghadapi pengawasan ketat mengenai akibat keselamatan yang ditimbulkan chatbot ini terhadap kaum muda. Komisi Perdagangan Federal (FTC) dan Jaksa Agung Texas baru-baru ini telah memulai penyelidikan terhadap Meta dan perusahaan sejenis dalam beberapa bulan terakhir.
Isu mengenai keamanan chatbot ini juga muncul dalam konteks gugatan norma yang diajukan oleh Jaksa Agung New Mexico. Persidangan dijadwalkan bakal dimulai awal bulan depan. Menariknya, pengacara Meta telah berupaya untuk mengecualikan kesaksian yang berangkaian dengan chatbot AI perusahaan, sebagaimana dilaporkan oleh Wired minggu ini. Hal ini menunjukkan sungguh sensitifnya rumor AI dalam ranah norma saat ini, apalagi ketika Meta terus berinovasi mengembangkan Chatbot Multibahasa untuk menjangkau pasar global.
Pada akhirnya, langkah Meta untuk menekan tombol “pause” adalah peringatan bagi kita semua bahwa teknologi, secanggih apa pun, kudu selalu menempatkan keselamatan manusia—terutama anak-anak—di atas segalanya. Sambil menunggu fitur keamanan baru diluncurkan, peran Anda sebagai orang tua tetaplah yang utama dalam mengawasi kegiatan digital buah hati.
English (US) · 
Indonesian (ID) ·