Bolehkah bezakan antara realiti dan deepfake?

Inilah antara ancaman teknologi deepfake atau palsu asli yang semakin berleluasa di Malaysia, kata Ketua Pegawai Eksekutif CyberSecurity Malaysia (CSM) Datuk Dr Amirudin Abdul Wahab.

Beliau berkata peningkatan kes penipuan melibatkan pemalsuan suara, wajah, dan identiti digital semakin membimbangkan dengan taktik jenayah siber yang semakin canggih. Modus operandi digunakan penjenayah siber antaranya ialah 'voice cloning' iaitu meniru suara individu menggunakan AI untuk memperdaya mangsa melalui mesej suara.

Selain itu, terdapat juga 'facial re-enactment', yang membolehkan wajah seseorang digunakan dalam video bagi tujuan penipuan pelaburan atau penyebaran maklumat palsu.

"Terdapat juga kes penipuan cinta dalam talian atau romance scam serta akaun media sosial palsu yang dicipta menggunakan wajah yang dihasilkan AI.

"Akaun ini sering digunakan untuk jenayah seperti pengintipan korporat, pelaburan palsu dan serangan pancingan data (phishing)," katanya kepada Bernama baru-baru ini.

Pada tahun lepas, Pengarah Jabatan Siasatan Jenayah Komersial Bukit Aman Datuk Seri Ramli Mohamed Yoosuf mendedahkan sebanyak 454 kes penipuan melibatkan teknologi deepfake dilaporkan dengan jumlah kerugian mencecah RM2.272 juta.

Deepfake berfungsi dengan menganalisis dan meniru ciri wajah, ekspresi serta suara seseorang menggunakan rangkaian neural tiruan, terutama menerusi Generative Adversarial Network (GAN).

Dengan teknologi itu, AI dapat menggantikan wajah atau suara dalam sesuatu video dengan ketepatan tinggi, menjadikannya hampir mustahil untuk dibezakan daripada rakaman sebenar.

"Penjenayah siber telah menyalahgunakan teknologi ini untuk meniru wajah dan suara tokoh terkenal seperti Tan Sri Dr Noor Hisham Abdullah, Datuk Seri Siti Nurhaliza, dan Datuk Lee Chong Wei bagi memperdaya mangsa," katanya.

Dalam menangani ancaman itu, Amirudin berkata CSM mengambil langkah proaktif dengan menyemak dan menilai kandungan digital bagi mengenal pasti penyebaran deepfake menggunakan teknologi terkini.

Beliau berkata Jabatan Forensik Digital CSM sentiasa memanfaatkan teknologi AI dan pembelajaran mesin (ML) bagi mengesan manipulasi dalam kandungan digital.

"Kami menggunakan perisian khusus untuk menganalisis imej dan video, selain teknologi verifikasi sumber dan analisis metadata bagi memastikan kesahihan sesuatu kandungan yang tersebar.

"Melalui gabungan teknologi ini, CSM dapat menangani ancaman deepfake dengan lebih efisien," katanya.

Bagaimanapun, Malaysia masih belum mempunyai undang-undang khusus untuk mengawal selia penggunaan teknologi deepfake.

Amirudin berkata pada saat ini, kandungan deepfake boleh didakwa di bawah Akta Komunikasi dan Multimedia 1998, khususnya Seksyen 211, yang melarang penyebaran kandungan tidak senonoh, palsu, atau mengancam dengan niat untuk mengganggu orang lain.

"Kerajaan sedang mempertimbang untuk menggubal undang-undang khusus bagi mengawal selia teknologi AI dan deepfake," katanya.

Sementara itu, Amirudin berkata CSM telah melaksanakan pelbagai program kesedaran termasuk Jelajah Anti-Scam Kebangsaan dan National ICT Security Discourse (NICTSeD) bagi mendidik masyarakat berkaitan ancaman siber termasuk deepfake.

"Cabaran utama dalam membanteras deepfake ialah kemajuan teknologi yang semakin canggih, ketiadaan undang-undang khusus, serta kesedaran awam yang masih rendah.

"Oleh itu, orang ramai perlu lebih berwaspada dan mengambil langkah berjaga-jaga bagi melindungi diri daripada menjadi mangsa," katanya.