Platform media sosial gagal patuhi arahan penurunan kandungan manipulasi - Fahmi

KUALA LUMPUR: Beberapa penyedia platform media sosial didapati gagal mematuhi sepenuhnya arahan penurunan kandungan bersifat manipulasi dan penipuan yang dijana menggunakan kecerdasan buatan (AI), kata Menteri Komunikasi Datuk Fahmi Fadzil di Dewan Negara hari ini.

Ringkasan AI

MCMC menerima 1,602 permohonan penurunan kandungan penipuan berasaskan AI, namun hanya 84% dipatuhi oleh platform media sosial.
Akta Keselamatan Dalam Talian 2025 akan dilaksanakan, mewajibkan label seperti "AI Generated" pada kandungan serta pelan keselamatan oleh penyedia perkhidmatan.
Kerajaan menubuhkan NSRC sebagai pusat tindakan segera terhadap penipuan digital, disertai kempen kesedaran melibatkan lebih 286,000 peserta setakat Ogos.

Beliau berkata bagi tempoh 1 Jan 2024 hingga 31 Ogos lepas, sebanyak 1,602 permohonan untuk menurunkan kandungan penipuan berasaskan AI telah dikemukakan Suruhanjaya Komunikasi dan Multimedia Malaysia (MCMC), namun hanya 1,346 kandungan diturunkan, iaitu kadar pematuhan sekitar 84 peratus.

"Daripada pengamatan MCMC dan saya sendiri, platform-platform media sosial tidak mengambil serius isu keselamatan dalam talian melibatkan kandungan AI.

"Hal ini terbukti apabila Seri Paduka Baginda Yang di-Pertuan Agong dan Perdana Menteri sendiri menjadi mangsa penipuan deepfake yang kononnya mempromosikan skim pelaburan," katanya pada sesi soal jawab lisan di Dewan Negara hari ini.

Beliau menjawab pertanyaan Senator Rita Sarimah Patrick Insol mengenai jumlah kes penipuan yang dikesan menggunakan AI dalam tempoh dua tahun kebelakangan ini serta langkah meningkatkan kesedaran masyarakat berkaitan jenayah digital itu.

Fahmi berkata, memandangkan keperluan mendesak penguatkuasaan undang-undang itu, kerajaan akan melaksanakan Akta Keselamatan Dalam Talian 2025 (Akta 866) pada hujung tahun ini atau awal 2026, yang antara lain mewajibkan semua platform media sosial dan aplikasi pemesejan dalam talian menggunakan label pada kandungan berasaskan AI.

"Platform diwajibkan menggunakan label seperti 'AI Generated' atau 'AI Enhanced' pada gambar atau kandungan AI. Kita akui AI boleh menambah baik sesuatu visual, namun ia tidak boleh disalahgunakan untuk tujuan penipuan yang akhirnya merugikan orang ramai," katanya.

Selain itu, Akta 866 turut mewajibkan penyedia perkhidmatan menyediakan pelan keselamatan dalam talian sebagai bukti pematuhan terhadap peraturan, manakala MCMC kini meneliti kemungkinan mengenakan syarat pelesenan kepada aplikasi yang menggunakan AI.

Sebagai usaha membenteras jenayah digital secara menyeluruh, Fahmi berkata kerajaan telah menubuhkan Pusat Respons Scam Kebangsaan (NSRC) yang diterajui Polis Diraja Malaysia dengan kerjasama Kementerian Komunikasi, Kementerian Dalam Negeri (KDN), Bank Negara Malaysia dan MCMC.

Menurutnya, NSRC berperanan sebagai pusat tindakan segera terhadap kes penipuan digital, di samping melaksanakan program kesedaran awam dan kempen nasional berkaitan jenayah digital.

Fahmi turut memaklumkan bahawa Kempen Internet Selamat MCMC yang dilancarkan pada Januari lalu telah dilaksanakan di 1,958 institusi pendidikan melibatkan lebih 145,000 peserta, manakala 236 program masyarakat umum dengan penyertaan lebih 141,000 peserta telah dijalankan sehingga 31 Ogos.

-- BERNAMA