Aisvara.id – Maraknya tren mengedit wajah anak menggunakan teknologi kecerdasan buatan (artificial intelligence/AI) untuk konten dance di media sosial belakangan ini menuai perhatian serius.
Di balik tampilan visual yang menggemaskan dan menghibur, tersimpan potensi risiko yang tidak bisa dianggap sepele, terutama terkait keamanan data dan privasi anak.
Ketua Program Studi Kecerdasan Buatan IPB University, Prof Yeni Herdiyani, mengingatkan bahwa teknologi AI yang banyak digunakan dalam tren tersebut umumnya berbasis generative AI (Gen-AI).
Jenis AI ini mampu menciptakan gambar, video, suara, hingga teks secara otomatis berdasarkan data dan pola yang telah dipelajari sebelumnya.
Menurut Prof Yeni, wajah bayi atau anak yang dipadukan dengan gerakan dance sejatinya merupakan model yang sudah bisa dihasilkan oleh algoritma.
Namun, ketika pengguna memasukkan foto asli anak sebagai referensi, AI dapat memprosesnya menjadi visual baru yang terlihat sangat nyata.
“Begitu foto riil diunggah, sistem akan bekerja secara otomatis untuk menghasilkan konten yang tampak hidup. Inilah cara kerja teknologi generative AI,” jela Prof Yeni dalam keterangannya.
Masalah muncul ketika data wajah anak tersebut masuk ke ruang publik digital.
Prof Yeni menekankan bahwa setiap foto yang diunggah berpotensi diakses, disimpan, bahkan disalahgunakan oleh pihak yang tidak bertanggung jawab.
Kondisi ini membuat anak menjadi kelompok yang sangat rentan terhadap berbagai bentuk kejahatan digital.
“Anak-anak berada pada posisi paling rawan dalam ekosistem digital saat ini,” tegasnya.
Ia pun mengingatkan para orang tua agar tidak sekadar mengikuti tren tanpa memahami konsekuensi jangka panjangnya.
Penggunaan AI untuk mengedit wajah anak tidak hanya menyangkut soal estetika, tetapi juga menyentuh isu serius seperti perlindungan privasi, keamanan data, dan potensi penyalahgunaan identitas digital.
Lebih jauh, Prof Yeni menjelaskan bahwa data yang diberikan ke sistem AI bisa digunakan sebagai dataset pelatihan model, sehingga memungkinkan muncul kembali dalam bentuk konten lain tanpa sepengetahuan pemilik data.
Sebagai respons atas fenomena ini, Prof Yeni menekankan pentingnya literasi digital di tengah masyarakat.
Ia menyebutkan bahwa IPB University secara konsisten menanamkan pemahaman etika dan tanggung jawab penggunaan teknologi melalui mata kuliah berpikir komputasional sejak mahasiswa berada di tahun pertama.
Langkah tersebut diharapkan mampu membentuk generasi dan masyarakat yang lebih kritis, sadar risiko, serta bertanggung jawab dalam memanfaatkan teknologi AI yang kian berkembang pesat.
