Deepfake AI Makin Canggih, Wamen Nezar: Penipuan Digital Kini Sulit Dibedakan dari Aslinya

AKURAT BANTEN - Perkembangan teknologi kecerdasan artifisial atau Artificial Intelligence (AI) dinilai turut meningkatkan kerumitan ancaman penipuan digital.

Pasalnya, teknologi ini mampu menciptakan berbagai konten palsu yang semakin sulit dibedakan dengan konten asli.

Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria menegaskan bahwa penyalahgunaan AI, khususnya melalui teknologi deepfake, kini menjadi tantangan besar dalam aspek etika dan keamanan digital yang harus diwaspadai secara serius.

“Sekarang suara kita bisa ditiru, gambar wajah kita bisa ditiru, dan tampil dalam bentuk deepfake video yang dihasilkan oleh AI dengan sangat mulus,” ujarnya dalam acara Indonesia Ethical AI Summit di Jakarta Selatan, Rabu (17/06/2026).

Baca Juga: Banggakan Indonesia! Tiga Perwira TNI AU Sukses Menyelesaikan Pendidikan Elite ACSC AS

Menurut Nezar, laju perkembangan AI berlangsung sangat pesat.

Bahkan, teknologi ini telah bergerak melampaui era generative AI dan memasuki tahap pengembangan agentic AI beserta berbagai inovasi baru lainnya.

Di satu sisi, kemajuan tersebut memberikan manfaat besar bagi berbagai bidang.

Namun di sisi lain, muncul pula berbagai risiko baru yang memerlukan perhatian dan pengawasan lebih ketat.

Baca Juga: Indonesia Punya Superkomputer Kelas Dunia, BRIN Gandeng Korea Selatan Perkuat Riset AI ASEAN

Dalam konteks keamanan siber, Nezar menyoroti penggunaan AI oleh pelaku kejahatan digital untuk menjalankan aksi penipuan atau scam melalui teknologi deepfake yang semakin canggih.

Ia menjelaskan bahwa manipulasi berbasis AI kini berkembang menjadi fenomena yang dikenal sebagai synthetic reality atau realitas sintetik.

Kondisi ini membuat masyarakat semakin kesulitan membedakan mana informasi yang autentik dan mana yang merupakan hasil rekayasa teknologi.

"Awamnya masyarakat kita tentang perkembangan AI ini membuat banyak yang terkecoh. Itu sebabnya scam saat ini luar biasa," tegasnya.

Selain itu, Nezar juga menekankan pentingnya penerapan prinsip human in the loop dalam pengembangan agentic AI, yakni sistem AI yang mampu melakukan penalaran serta mengambil keputusan secara mandiri.

Menurutnya, banyak ahli telah mengusulkan penerapan protokol yang lebih ketat agar keputusan-keputusan penting tetap berada di bawah kendali dan pengawasan manusia.

“Banyak pakar mengusulkan agar dilakukan satu protokol yang cukup ketat, termasuk menerapkan prinsip human in the loop dalam decision making,” jelasnya.

Lebih lanjut, Nezar menilai bahwa pendekatan etika dalam pengembangan AI tidak lagi cukup jika hanya bersifat sukarela seperti pada masa awal kemunculan teknologi tersebut.

Ia menegaskan bahwa prinsip-prinsip utama seperti transparansi, akuntabilitas, dan keamanan harus diterapkan secara nyata dalam setiap proses pengembangan produk AI melalui pendekatan ethics by design.

“Transparency, accountability, safety, itu harus hadir di dalam implementasi, di dalam pengembangan satu produk AI,” tandasnya.

Karena itu, Nezar mengajak para pengembang teknologi, pelaku industri, akademisi, hingga komunitas pengguna AI untuk memperkuat tata kelola dan mitigasi risiko sejak tahap perencanaan dan pengembangan.

Menurutnya, Indonesia Ethical AI Summit menjadi momentum strategis untuk merumuskan langkah bersama dalam membangun ekosistem AI yang tidak hanya inovatif, tetapi juga bertanggung jawab dan berlandaskan etika.

“Semoga kita bisa merumuskan langkah-langkah yang tepat dan pemikiran dari forum ini mungkin bisa menjadi pertimbangan-pertimbangan dalam membuat satu kebijakan AI yang etis di Indonesia,” pungkasnya.

***