Kincai Media – Bayangkan wajah Anda tiba-tiba muncul dalam video yang tidak pernah Anda buat, mengatakan hal-hal yang tidak pernah Anda ucapkan. Itulah kengerian yang dihadapi banyak orang di era deepfake AI yang semakin canggih. Kini, YouTube mengambil langkah berani dengan meluncurkan fitur penemuan wajah untuk melindungi perseorangan dari penyalahgunaan teknologi ini.
Ketika alat-alat AI mulai merajalela di internet, kekhawatiran tentang deepfake tumbuh bersamanya. Kini, dengan teknologi seperti Sora 2 dari OpenAI yang baru saja dirilis menjadi lebih bisa dan lebih mudah diakses – dan digunakan secara tidak bertanggung jawab seperti yang bisa Anda tebak – baik orang terkenal maupun biasa mungkin menginginkan lebih banyak kendali untuk melindungi gambaran mereka. Setelah mengumumkan fitur ini tahun lalu, YouTube mulai meluncurkan perangkat penemuan wajah untuk memerangi deepfake yang tidak diinginkan dan menghapusnya dari platform video.
Fitur penemuan wajah ini sedang diluncurkan untuk personil YouTube Partner Program. Namun, ada batas penting: fitur ini hanya bisa mencakup kasus di mana wajah seseorang telah dimodifikasi dengan AI. Kasus di mana bunyi seseorang diubah oleh AI tanpa persetujuan mereka mungkin tidak terdeteksi oleh fitur ini. Ini menjadi celah yang perlu diwaspadai, mengingat YouTube sebelumnya telah meluncurkan beragam fitur AI untuk melindungi kreator.
Proses partisipasinya cukup ketat. Untuk berpartisipasi, orang perlu mengirimkan KTP dan video selfie singkat ke YouTube. Tujuannya ganda: memastikan mereka adalah orang yang mereka klaim, dan memberikan materi sumber bagi fitur ini untuk digunakan dalam tinjauannya. Dari sana, langkah kerjanya mirip dengan fitur Content ID YouTube untuk menemukan audio yang dilindungi kewenangan cipta – memindai video yang diunggah untuk kemungkinan kecocokan yang kemudian dapat ditinjau orang tersebut dan menandai video yang melanggar untuk dihapus.
Langkah YouTube ini datang di saat yang tepat. Teknologi deepfake semakin susah dibedakan dari konten asli, dan dampaknya bisa menghancurkan. Bayangkan reputasi ahli yang hancur lantaran video palsu, alias hubungan pribadi yang rusak lantaran rekaman yang dimanipulasi. Tidak heran jika selebritas seperti Scarlett Johansson mendesak regulasi yang lebih ketat setelah menjadi korban deepfake AI.
Batasan dan Tantangan yang Masih Dihadapi
Meski langkah YouTube patut diapresiasi, ada beberapa keterbatasan yang perlu diperhatikan. Pertama, fitur ini hanya tersedia untuk personil YouTube Partner Program – artinya pengguna biasa belum bisa mengaksesnya. Kedua, seperti yang disebutkan sebelumnya, modifikasi bunyi tidak tercakup dalam sistem penemuan ini. Ketiga, proses verifikasi yang memerlukan KTP dan video selfie mungkin menjadi penghalang bagi beberapa orang yang cemas tentang privasi informasi mereka.
Lalu ada pertanyaan tentang efektivitas. Seberapa jeli sistem ini dalam membedakan antara deepfake yang rawan dan konten parodi alias imajinatif yang sah? Bagaimana dengan video yang menggunakan teknik campuran, di mana hanya sebagian wajah yang dimodifikasi? Pertanyaan-pertanyaan ini menunjukkan bahwa pertempuran melawan deepfake tetap panjang.
Industri teknologi sendiri menyadari kompleksitas masalah ini. Kompetisi penemuan deepfake yang digelar FB dan Microsoft menunjukkan sungguh seriusnya perusahaan teknologi menganggap ancaman ini. Sementara upaya Google memperkuat AI di Android 16 untuk melawan penipuan online menunjukkan pendekatan multi-segi dalam memerangi penyalahgunaan AI.
Masa Depan Perlindungan Digital
Peluncuran fitur penemuan wajah oleh YouTube bisa menjadi titik kembali dalam perlindungan identitas digital. Ini mengirim pesan jelas bahwa platform besar mulai mengambil tanggung jawab serius dalam melindungi pengguna dari penyalahgunaan AI. Namun, ini baru permulaan.
Ke depan, kita mungkin memandang integrasi teknologi serupa di beragam platform. Bayangkan jika Facebook, Instagram, TikTok, dan platform lainnya mengangkat sistem serupa. Atau mungkin pengembangan perangkat penemuan yang lebih canggih yang bisa mengenali tidak hanya modifikasi wajah tetapi juga bunyi dan aktivitas tubuh.
Tantangan terbesar mungkin justru berada di luar teknologi – ialah edukasi pengguna. Berapa banyak dari Anda yang betul-betul memahami akibat deepfake? Atau tahu langkah melaporkan konten semacam itu? Alat-alat identifikasi wajah seperti TwinsOrNot mungkin terlihat seperti mainan, tetapi mereka mengajarkan konsep dasar tentang gimana teknologi pengenalan wajah bekerja – pengetahuan yang semakin krusial di era AI ini.
Yang jelas, perlombaan senjata antara kreator deepfake dan pendeteksinya bakal terus berlanjut. Setiap kali teknologi penemuan menjadi lebih baik, teknologi kreator deepfake juga berevolusi. Tapi dengan langkah proaktif seperti yang diambil YouTube, setidaknya kita tidak lengah sepenuhnya. Mungkin yang kita butuhkan bukan hanya teknologi yang lebih cerdas, tetapi juga kesadaran kolektif bahwa di bumi digital saat ini, wajah dan bunyi kita adalah aset yang perlu dilindungi seperti halnya informasi finansial kita.
English (US) · 
Indonesian (ID) ·