Kasus Deepfake Naik 550 Persen, Anak dan Wanita Rentan Jadi Sasaran

REPUBLIKA.CO.ID, JAKARTA -- Teknologi deepfake membawa tantangan baru di ruang siber. Salah satu ancaman terbesar adalah penyalahgunaan teknologi ini untuk tujuan berbahaya, terutama yang menyasar kelompok rentan seperti anak-anak.

Menyadari urgensi ini, Kementerian Komunikasi dan Digital (Kemkomdigi) memperkuat upaya perlindungan anak di ruang digital melalui tiga strategi utama yakni peningkatan literasi digital, penindakan konten berbahaya, dan regulasi perlindungan anak. Wakil Menteri Komunikasi dan Digital, Nezar Patria, menegaskan komitmen pemerintah. "Komdigi berkomitmen menciptakan ruang digital yang aman bagi semua. Kami gencar melakukan edukasi literasi digital, melakukan takedown terhadap konten negatif, dan bekerja sama dengan aparat hukum untuk menindak kejahatan digital," kata Nezar dalam keterangannya di Jakarta, Jumat (25/7/2025).

Menurutnya, tantangan terbesar saat ini memang datang dari penyalahgunaan teknologi seperti deepfake dan AI yang semakin canggih. Konten manipulatif visual dan audio yang dihasilkan oleh teknologi ini tidak hanya menyesatkan, tetapi secara spesifik juga menyasar kelompok rentan seperti perempuan dan anak-anak.

"Gelombang perkembangan teknologi membuka peluang luar biasa, tapi juga membuka celah ancaman yang bisa melemahkan kepercayaan antar masyarakat," ujarnya, menyoroti dampak yang lebih luas dari penyalahgunaan teknologi ini.

Ancaman deepfake bukanlah isapan jempol belaka. Nezar mengutip laporan Sensity AI yang menunjukkan lonjakan kasus deepfake sebesar 550 persen sejak tahun 2019, dengan 90 persen di antaranya digunakan untuk tujuan berbahaya. Data ini sangat mengkhawatirkan karena memperlihatkan betapa cepatnya penyebaran dan penyalahgunaan teknologi tersebut. "Yang paling terdampak adalah perempuan dan anak. Setidaknya 11 persen perempuan usia 15 sampai 29 tahun pernah mengalami kekerasan berbasis gender online sejak usia belia," ujarnya.

Angka ini menjadi indikator serius bahwa anak-anak, bahkan sejak usia muda, telah menjadi korban dari kekerasan di dunia maya, termasuk yang dimungkinkan oleh teknologi deepfake. Merespons kondisi tersebut, Kemkomdigi telah mengambil langkah konkret dengan menerbitkan Peraturan Pemerintah Nomor 17 Tahun 2025 atau PP Tunas.

Peraturan ini secara khusus mengatur penyelenggaraan sistem elektronik untuk perlindungan anak. Implementasi PP Tunas diharapkan dapat memberikan landasan hukum yang kuat untuk menindak pihak-pihak yang menyalahgunakan ruang digital untuk merugikan anak-anak.

"Dalam hal ini, kami berharap di tingkat daerah sosialisasinya bisa lebih intensif untuk semua pemangku kepentingan, terutama di sekolah dan komunitas," ujar Nezar.

Selain penindakan hukum dan regulasi, literasi digital ditekankan sebagai keterampilan dasar yang krusial. Nezar menyoroti pentingnya kemampuan kritis dalam memilah informasi dan menjaga privasi data di era digital.

Di tengah kemudahan akses informasi, kemampuan untuk membedakan antara fakta dan manipulasi menjadi sangat vital. "AI seharusnya menjadi teman untuk berimajinasi dan berinovasi, bukan untuk membahayakan atau merugikan orang lain," tegasnya. 

Kemkomdigi tidak bekerja sendiri dalam upaya ini. Mereka mengajak seluruh elemen, mulai dari pemerintah daerah, komunitas, hingga keluarga, untuk ikut serta memperkuat ekosistem digital yang sehat dan aman, demi mewujudkan transformasi digital nasional yang inklusif.

Kolaborasi lintas sektor ini diharapkan dapat menciptakan lingkungan digital yang lebih kondusif bagi pertumbuhan dan perkembangan anak-anak. "Dengan memaksimalkan manfaat dan meminimalkan risikonya, kita bisa bersama-sama mewujudkan generasi emas yang cerdas dan berdaya saing menuju Indonesia Emas 2045," kata Nezar.