Aisvara.id – Perkembangan teknologi kecerdasan buatan atau Artificial Intelligence (AI) membawa banyak manfaat dalam berbagai bidang.
Namun di sisi lain, teknologi ini juga berpotensi disalahgunakan oleh pihak tidak bertanggung jawab untuk membuat konten yang merugikan orang lain.
Salah satu bentuk penyalahgunaan AI yang semakin mendapat perhatian adalah pembuatan deepfake, yaitu manipulasi foto atau video seseorang menggunakan teknologi AI sehingga tampak seolah-olah asli.
Dalam beberapa kasus, teknologi ini digunakan untuk menciptakan konten intim tanpa persetujuan individu yang bersangkutan.
Praktik tersebut masuk dalam kategori penyebaran konten intim non-konsensual, yang termasuk bentuk kekerasan berbasis gender di ruang digital.
Di Indonesia, perlindungan terhadap korban diatur dalam Undang-Undang Nomor 12 Tahun 2022 tentang Tindak Pidana Kekerasan Seksual.
“Konten intim non-konsensual merupakan penyebaran foto atau video pribadi tanpa persetujuan individu yang ada di dalamnya,” demikian dijelaskan Berita Edukasi Siber Sosial Terkini dari Badan Siber dan Sandi Negara (BSSN).
Bagaimana Deepfake Dibuat
Teknologi deepfake memungkinkan seseorang memodifikasi foto atau video asli menjadi konten yang berbeda, bahkan bersifat eksplisit.
Proses pembuatannya umumnya melibatkan beberapa tahapan.
Pertama, pelaku mengumpulkan foto atau video asli target dari media sosial atau sumber lain. Selanjutnya, materi tersebut diproses menggunakan aplikasi, situs web, atau bot berbasis AI.
Dalam tahap berikutnya, sistem kecerdasan buatan memanipulasi gambar atau video sehingga menghasilkan konten baru yang tampak realistis.
Hasil akhir dari proses tersebut adalah foto atau video deepfake yang dapat disebarkan secara daring.
“Pelaku dapat menggunakan layanan editor digital atau melakukannya sendiri dengan bantuan aplikasi berbasis AI,” jelas sumber edukasi tersebut.
Dampak Bagi Korban
Penyebaran konten intim tanpa persetujuan memiliki dampak serius bagi korban, baik dari sisi psikologis maupun sosial.
Korban sering mengalami tekanan mental seperti kecemasan, depresi, hingga gangguan tidur akibat stres dan trauma.
Selain itu, reaksi emosional yang kuat seperti rasa terkejut, kebingungan, hingga ketakutan berkepanjangan juga kerap muncul.
Rasa malu dan stigma sosial dapat membuat korban merasa bersalah atau menarik diri dari lingkungan sekitar.
Dalam beberapa kasus, reputasi korban turut terdampak, bahkan dapat memengaruhi kehidupan sosial dan pekerjaan.
“Tekanan psikologis dan kerusakan reputasi menjadi dampak yang paling sering dialami korban penyebaran konten intim tanpa izin,” ungkap materi edukasi tersebut.
Langkah Mitigasi yang Bisa Dilakukan
Untuk mengurangi risiko menjadi korban penyalahgunaan teknologi digital, masyarakat diimbau lebih berhati-hati dalam beraktivitas di internet.
Beberapa langkah pencegahan yang dapat dilakukan antara lain lebih selektif dalam mempercayai orang yang dikenal melalui media sosial atau aplikasi kencan.
Pengguna juga disarankan untuk membatasi unggahan foto atau video pribadi di ruang publik internet.
Selain itu, penting untuk mengaktifkan fitur keamanan pada akun media sosial, terutama bagi anak-anak dan remaja.
Jika mengalami ancaman atau menjadi korban, simpan bukti berupa tangkapan layar percakapan, foto, atau video sebagai bahan pelaporan.
“Simpan bukti digital seperti tangkapan layar jika menerima ancaman atau menemukan penyalahgunaan konten pribadi,” demikian imbauan dalam materi edukasi keamanan siber.
Meningkatkan literasi digital dan kesadaran akan risiko penyalahgunaan teknologi menjadi langkah penting untuk melindungi diri di era perkembangan AI yang semakin pesat.
