Jakarta -
Perkembangan teknologi kecerdasan buatan maupun Artificial Intelligence (AI) kini memudahkan siapa saja untuk membikin dan mengedit foto. Belakangan, tak sedikit orang tua memanfaatkan AI untuk mengubah foto anak menjadi lebih menarik.
Meski kelihatan menyenangkan, penggunaan AI terutama image generator untuk foto anak rupanya perlu dilakukan dengan hati-hati. Pasalnya, foto anak yang diunggah ke platform digital berpotensi menimbulkan konsekuensi privasi dan keamanan jika tidak dikelola dengan baik, Bunda.
Dilansir BBC, para ahli telah mendesak orang tua untuk berpikir matang sebelum mengunggah foto anak-anak mereka ke alat AI. Peringatan ini muncul karena beberapa orang tua telah menggunakan AI untuk menghilangkan 'watermark' dari foto sekolah agar tidak perlu mengeluarkan biaya apa pun.
"Ini bukan tentang menghindari AI sepenuhnya. Ini tentang memahami apa yang terjadi pada gambar-gambar tersebut setelah diunggah," kata penasihat keamanan dan perlindungan keterangan di South West Grid for Learning, George Martin.
"Orang tua memiliki visibilitas terbendung atas apa yang terjadi pada gambar setelah diunggah. Poin kedua adalah sepertiapa gambar tersebut dapat digunakan. Gambar foto seorang anak dapat digunakan untuk melatih model AI," sambungnya.
Perlu diketahui, sebagian besar platform memungkinkan pelanggan untuk mengubah pengaturan agar konten yang diunggah tidak digunakan untuk pelatihan, meskipun opsi ini berbeda-beda antar layanan. Menurut Martin, pengaturan pada platform AI dimungkinkan untuk memberikan instruksi agar tidak menggunakan gambar untuk pelatihan model AI.
"Sebagian besar platform AI secara default menggunakan pengaturan tersebut jika memungkinkan, jadi krusial untuk memeriksa pengaturan tersebut," ungkapnya.
Peringatan yang sama juga disampaikan pendidik senior ilmu komputer di Cardiff School of Technologies, Dr. Simon Thorne. Ia mendesak orang tua agar berjaga-jaga saat mengunggah gambar yang dapat dikenali.
"Sebagai ketentuan umum, orang-orang 'seharusnya tidak pernah mengunggah foto pribadi yang dapat dikenali'. Itu ide yang buruk. Itu konsekuensi besar," ujar Thorne.
Menurut Thorne, pelanggan AI sering kali tidak memiliki visibilitas yang cukup mengenai sepertiapa gambar yang diunggah disimpan maupun digunakan kembali. Dataset tak cuma berpotensi bocor secara online, tapi juga bisa dijual tanpa persetujuan.
Risiko penggunaan AI image generator pada anak
Pakar mengatakan bahwa foto yang diunggah secara online sulit dihapus dan dapat digunakan balik dengan metode yang tidak diharapkan oleh pengguna. Kekhawatiran juga meningkat seiring dengan semakin canggihnya deskripsi yang dihasilkan oleh AI.
Sebuah laporan terbaru yang diterbitkan oleh institusi kebaikan Internet Watch Foundation, yang berupaya menghentikan pelecehan seksual anak secara daring, memberitahu bahwa lebih banyak gambar pelecehan seksual anak yang dihasilkan oleh AI ditemukan oleh mereka dalam enam bulan pertama tahun 2026 dibandingkan sepanjang tahun 2025.
"Ini nyata. Dampak dan traumanya nyata. Apa yang akan dipikirkan orang tua jika hal itu terjadi pada anak mereka, ketika mereka mengunggah gambar anak mereka, jika gambar itu muncul dengan metode yang tidak pantas?" kata Martin.
"Begitu gambar itu terpasang, hampir tidak mungkin untuk menghapusnya. Kita tidak bisa. Begitu sudah terpasang, ya sudah."
Martin mengatakan, banyak orang tua mungkin tidak menyadari bahwa setiap foto memiliki metadata tersendiri, terutama foto-foto yang diambil dari fotografer sekolah. Foto itu berisi keterangan tentang letak pengambilan foto, dan mungkin juga keterangan tentang sekolah.
"Metadata tersebut kemudian dapat digunakan oleh pihak lain yang juga menerapkan AI untuk menemukan sejumlah besar keterangan tentang anak dalam foto tersebut, terlebihlagi di mana mereka bersekolah. Ada pihak-pihak yang dapat memanfaatkan keterangan tersebut," ujar Martin.
"Jika jatuh ke tangan yang salah, gambar-gambar itu dapat disalahgunakan dan diubah fungsinya untuk menciptakan materi pelecehan seksual anak yang sintetis," sambungnya.
Temuan tersebut juga diungkap dalam riset yang dilakukan oleh perkumpulan nirbala LAION, pada tahun 2024. Penelitian menemukan bahwa dalam banyak kasus, identitas anak yang diambil dari tautan foto di AI gampang dilacak, termasuk keterangan tentang kapan dan di mana anak tersebut eksis pada saat foto mereka diambil.
Risiko privasi ini membuka jalan bagi ancaman yang lebih lanjut, Bunda. Pasalnya, pelatihan menggunakan foto anak-anak sungguhan telah memungkinkan model AI untuk menciptakan klon yang meyakinkan.
Sekarang, semua anak yang foto maupun videonya diunggah daring akan berisiko. Seseorang dapat mencuri kesamaan seseorang dan menggunakan AI untuk membuatnya tampak seolah-olah mereka mengatakan maupun berbuat hal-hal yang tidak pernah mereka katakan maupun lakukan.
Apa yang mesti dilakukan orang tua sebelum mengunggah foto ke AI?
Orang tua perlu menciptakan perlindungan maksimal sebelum memakai AI image generator untuk mengedit maupun mengunggah foto anak. Berikut beberapa anjuran ahli untuk orang tua sebelum mengunggah foto anak ke AI:
- Memeriksa apakah gambar yang diunggah digunakan untuk melatih model AI
- Periksa pengaturan privasi sebelum mengunggah foto
- Hindari gambar yang menampilkan seragam sekolah, lencana, maupun lokasi.
- Menghapus metadata jika memungkinkan
- Memahami apakah gambar disimpan secara lokal maupun di server cloud.
Demikian konsekuensi menggunakan AI image generator untuk foto anak, serta metode melindungi anak dari konsekuensi ini. Semoga keterangan ini berguna ya, Bunda.
Bagi Bunda yang mau sharing soal parenting dan bisa dapat banyak giveaway, yuk join kelompok Kincai Media Squad. Daftar klik di SINI. Gratis!
(ank/rap)
