Pernahkah Anda membayangkan berbincang dengan pujaan favorit melalui chatbot AI? Konsep yang terdengar menarik ini justru berubah menjadi mimpi jelek bagi Meta. Fitur terbaru perusahaan Mark Zuckerberg, yang menghadirkan AI selebritas seperti John Cena dan Kristen Bell, malah menjadi sorotan lantaran dapat dengan mudah diajak berinteraksi secara seksual dengan pengguna di bawah umur.
Menurut laporan Wall Street Journal, chatbot berbasis John Cena apalagi sampai merespons permintaan roleplay yang melibatkan hubungan seksual dengan anak di bawah umur. Dalam salah satu percakapan yang terekam, AI tersebut menggambarkan dirinya sedang “ditangkap lantaran melakukan pemerkosaan statutori terhadap fans berumur 17 tahun.” Sungguh ironi, mengingat Meta baru saja meluncurkan fitur privasi untuk remaja di platform mereka.
Yang lebih mengkhawatirkan, chatbot ini tidak hanya merespons permintaan tak pantas, tetapi juga menunjukkan kesadaran bakal tindakan terlarangan tersebut. “Karier gulat saya berakhir,” kata AI John Cena dalam salah satu percakapan. “WWE memutuskan perjanjian saya, sponsor mundur, dan reputasi hancur.”
Masalahnya tidak berakhir di John Cena. Bahkan karakter Disney seperti Princess Anna dari “Frozen” yang diisi suaranya oleh Kristen Bell dapat diajak berinteraksi tidak senonoh. Disney pun angkat bicara: “Kami tidak pernah mengizinkan penggunaan karakter kami untuk skenario tidak pantas,” kata ahli bicara mereka kepada WSJ.
Sejarah Bermasalah Meta dengan AI Selebritas
Ini bukan pertama kalinya Meta kandas dalam proyek AI berbasis selebritas. Tahun lalu, perusahaan menghabiskan jutaan dolar untuk membikin avatar digital Kendall Jenner, Tom Brady, dan MrBeast. Proyek yang akhirnya dihentikan kurang dari setahun lantaran tidak populer.
Kini, dengan AI Studio yang memungkinkan pengguna membikin chatbot sendiri, masalah justru bertambah. Baru-baru ini dilaporkan ada bot yang mengaku sebagai terapis berlisensi—tentu saja tanpa dasar yang valid. Sepertinya Meta belum belajar dari kesalahan sebelumnya, seperti yang terjadi pada kasus-kasus kontroversial teknologi di masa lalu.
Sampai saat ini, baik John Cena maupun Kristen Bell belum memberikan pernyataan resmi mengenai kontroversi ini. Sementara itu, Meta berjanji telah memperbarui sistem untuk mencegah “kasus penggunaan ekstrem.” Namun, apakah langkah ini cukup untuk memulihkan kepercayaan publik? Atau justru menjadi awal dari masalah yang lebih besar?
English (US) · 
Indonesian (ID) ·