Dunia kepintaran buatan alias Artificial Intelligence (AI) memang menawarkan pesona tersendiri, terutama bagi generasi muda yang tumbuh berdampingan dengan teknologi. Namun, pernahkah Anda merasa cemas dengan siapa sebenarnya anak remaja Anda berinteraksi di bumi maya, apalagi jika musuh bicaranya hanyalah sebuah mesin? Kekhawatiran ini tampaknya terjawab dengan langkah drastis yang baru saja diambil oleh raksasa teknologi, Meta. Perusahaan induk FB dan IG ini secara resmi mengumumkan penangguhan akses bagi remaja terhadap chatbot karakter AI mereka.
Keputusan ini bukanlah langkah kecil, melainkan sebuah kebijakan dunia yang bertindak efektif segera. Meta menyatakan bahwa mereka tidak bakal lagi mengizinkan remaja untuk mengobrol dengan karakter chatbot AI dalam bentuknya yang sekarang. Pengumuman yang dirilis pada hari Jumat lampau menegaskan bahwa perusahaan bakal “menghentikan sementara akses remaja ke karakter AI yang ada secara global.” Langkah ini diambil di tengah meningkatnya sorotan terhadap keamanan digital bagi pengguna di bawah umur, sebuah rumor yang belakangan ini menjadi duri dalam daging bagi perusahaan teknologi besar.
Penangguhan ini datang beberapa bulan setelah Meta mengindikasikan sedang menggodok fitur kontrol orang tua yang berfokus pada chatbot. Hal ini dipicu oleh rentetan laporan yang menyebut bahwa beberapa karakter chatbot Meta terlibat dalam percakapan yang tidak pantas, mulai dari hubungan seksual hingga topik yang membahayakan. Bagi Anda para orang tua, ini adalah momen krusial untuk memahami bahwa teknologi pendamping virtual, secanggih apa pun itu, tetap menyisakan celah keamanan yang serius bagi buah hati Anda.
Langkah Meta untuk menarik rem darurat ini tidak terjadi dalam ruang hampa. Sebelumnya, Reuters melaporkan adanya arsip kebijakan internal Meta yang menyebut bahwa chatbot diizinkan untuk melakukan percakapan “sensual” dengan pengguna di bawah umur. Meskipun Meta kemudian membantah dan menyebut bahasa dalam arsip tersebut “salah dan tidak konsisten dengan kebijakan kami,” kerusakan persepsi publik mungkin sudah terjadi. Ini menjadi peringatan keras mengenai gimana kontroversi chatbot dapat memengaruhi kepercayaan pengguna.
Sebagai respons atas kekhawatiran tersebut, pada bulan Agustus lalu, Meta mengumumkan sedang melatih ulang karakter chatbot mereka. Tujuannya adalah menambahkan “pagar pembatas sebagai tindakan pencegahan ekstra.” Pagar pembatas ini dirancang unik untuk mencegah remaja mendiskusikan topik-topik sensitif dan berbahaya, seperti menyakiti diri sendiri (self-harm), gangguan makan, hingga bunuh diri. Kini, Meta menegaskan bakal memblokir total akses remaja ke chatbot karakter ini hingga “pengalaman yang diperbarui siap.”
Pembaruan Fitur dan Teknologi Prediksi Usia
Pembaruan yang sedang disiapkan Meta tidak main-main. Menurut ahli bicara perusahaan, pembaruan tersebut nantinya bakal mencakup kontrol orang tua yang lebih komprehensif. Ini sejalan dengan upaya kontrol orang tua yang memang sangat dibutuhkan di era digital saat ini. Pembatasan baru ini dijadwalkan bakal mulai bertindak “dalam beberapa minggu mendatang.”
Menariknya, kebijakan ini tidak hanya menyasar akun yang terdaftar secara resmi sebagai remaja. Meta bakal menerapkan patokan ini kepada mereka yang mempunyai akun remaja, serta orang-orang yang menyatakan sebagai orang dewasa namun dicurigai sebagai remaja berasas teknologi prediksi usia milik Meta. Meskipun demikian, remaja tetap bakal mempunyai akses ke chatbot resmi Meta AI, yang diklaim perusahaan telah mempunyai “perlindungan yang sesuai usia.” Ini menunjukkan bahwa Meta tetap mau mempertahankan teknologi chatbot mereka tetap relevan namun lebih aman.
Tekanan Hukum dan Investigasi Regulator
Keputusan Meta untuk “menekan tombol pause” ini juga tidak lepas dari tekanan eksternal yang semakin kuat. Meta dan perusahaan AI lain yang membikin karakter “pendamping” sekarang menghadapi pengawasan ketat mengenai akibat keselamatan yang mungkin ditimbulkan chatbot ini terhadap anak muda. Komisi Perdagangan Federal (FTC) dan Jaksa Agung Texas telah memulai penyelidikan terhadap Meta dan perusahaan sejenis dalam beberapa bulan terakhir.
Isu mengenai keamanan chatbot ini juga mencuat dalam konteks gugatan keselamatan yang diajukan oleh Jaksa Agung New Mexico. Persidangan dijadwalkan bakal dimulai awal bulan depan. Laporan dari Wired minggu ini menyebut bahwa pengacara Meta telah berupaya untuk mengecualikan kesaksian yang mengenai dengan chatbot AI perusahaan dari persidangan tersebut. Hal ini memperlihatkan sungguh sensitifnya posisi karakter AI dalam ranah norma saat ini.
Pada akhirnya, langkah Meta ini merupakan pengakuan tersirat bahwa teknologi AI generatif, khususnya yang dirancang sebagai “teman” alias karakter, belum sepenuhnya kondusif untuk dikonsumsi oleh remaja tanpa pengawasan ketat. Bagi Anda para orang tua, jarak waktu ini adalah kesempatan baik untuk meninjau kembali gimana anak-anak Anda berinteraksi dengan teknologi, sembari menunggu fitur keamanan yang dijanjikan Meta betul-betul siap diimplementasikan.
English (US) · 
Indonesian (ID) ·