Sisi Gelap Kecerdasan Buatan, Wamenkomdigi Sebut Teknologi Deepfake Picu Lonjakan Kasus Penipuan Siber
JATENGPEDIA.ID - Perkembangan kecerdasan buatan (AI) yang kian masif kini membawa tantangan baru yang cukup mengkhawatirkan bagi keamanan siber di tanah air. Wakil Menteri Komunikasi dan Digital (Wamenkomdigi), Nezar Patria, mengingatkan bahwa manipulasi digital lewat teknologi deepfake berpotensi besar memicu lonjakan kasus penipuan daring.
Tepat pada Rabu, 17 Juni 2026, dalam pergelaran Indonesia Ethical AI Summit di Jakarta, ia menyoroti bagaimana teknologi ini mampu merekayasa visual hingga audio dengan tingkat akurasi yang luar biasa mirip dengan aslinya. Fenomena ini memicu kemunculan apa yang disebut realitas sintetik, di mana batas antara konten tulen dan hasil rekayasa komputer menjadi kian kabur bagi masyarakat luas.
Dilansir dari Antara, pesatnya lompatan teknologi ini dinilai sudah melampaui fase AI generatif biasa dan kini mulai memasuki era AI otonom (agentic AI). Meski mendatangkan efisiensi di berbagai lini, celah penyalahgunaan oleh para pelaku kriminal siber justru makin terbuka lebar untuk mengelabui korban. Situasi ini diperparah oleh masih rendahnya tingkat pemahaman atau literasi digital masyarakat awam mengenai dinamika kecerdasan buatan yang ada saat ini.
"Sekarang suara kita bisa ditiru, gambar wajah kita bisa ditiru, dan tampil dalam bentuk 'deepfake' video yang dihasilkan oleh AI dengan sangat mulus," ujar Nezar.
Minimnya edukasi inilah yang dituding menjadi faktor utama mengapa skema kejahatan siber berbasis kecerdasan buatan dapat memakan banyak korban dalam waktu singkat. Orang-orang cenderung mudah memercayai video atau rekaman suara palsu karena tampilannya yang tampak begitu meyakinkan tanpa cacat. Hal ini menjadi alarm keras bagi ekosistem digital di Indonesia agar segera berbenah dan meningkatkan kewaspadaan bersama.
"Awamnya masyarakat kita tentang perkembangan AI ini membuat banyak yang terkecoh. Itu sebabnya 'scam' saat ini luar biasa." Tambahnya.
Menyikapi kemunculan AI otonom yang kelak bisa bernalar dan mengambil keputusan mandiri, aspek pengawasan ketat dari manusia dianggap menjadi benteng pertahanan yang mutlak diperlukan. Sejumlah pengamat teknologi dunia telah menyarankan sebuah standardisasi operasi yang mewajibkan adanya kendali manusia dalam setiap perumusan kebijakan krusial demi menghindari malafungsi sistem. Pola keterlibatan aktif ini dirasa penting agar kendali penuh atas teknologi tidak lepas dari tangan manusia itu sendiri.
"Banyak pakar mengusulkan agar dilakukan satu protokol yang cukup ketat, termasuk menerapkan prinsip 'human in the loop' dalam 'decision making'." Imbuhnya.
Oleh karena itu, pendekatan moral dalam pemanfaatan teknologi saat ini tidak bisa lagi sekadar mengandalkan kesadaran sukarela dari pihak korporasi atau pengembang semata. Diperlukan sebuah regulasi yang mengikat dan diintegrasikan langsung sejak awal proses perancangan sebuah sistem atau aplikasi berbasis kecerdasan buatan. Sinergi antara akademisi, pelaku industri, dan komunitas sangat dinantikan untuk memitigasi risiko keamanan serta menegakkan transparansi sejak dini.
"Transparansi, akuntabilitas, keamanan, itu harus hadir di dalam implementasi, di dalam pengembangan satu produk AI." Pungkasnya.
