Lambakan video AI generatif mampu gugat keselamatan maklumat negara, risiko panik - Pakar

"Kita sekarang berdepan era baharu, sesiapa sahaja boleh menghasilkan video atau visual berkaitan banjir, ribut atau apa jua bencana dengan sangat meyakinkan. Sekiranya tidak disaring, ia boleh membawa kepada kekacauan maklumat," katanya kepada Bernama hari ini.

Beliau berkata walaupun inovasi AI membawa banyak manfaat, masyarakat perlu mempunyai kawalan kendiri sebelum berkongsi sebarang maklumat yang belum disahkan. "Oleh itu, amalan tabayun, berhenti sejenak dan menyemak maklumat perlu dijadikan budaya. Masyarakat perlu memanfaatkan platform seperti sebenarnya.my, MyCheck, dan CheckFacts bagi memastikan maklumat yang diterima adalah benar," katanya.

Noor Nirwandy turut mengingatkan bahawa ancaman manipulasi maklumat berasaskan AI boleh memberikan kesan kepada emosi masyarakat, mempengaruhi tindak balas mereka dan menjejaskan ketenteraman awam serta keselamatan negara.

"Apabila panik berlaku akibat maklumat tidak sahih, koordinasi penyelamatan juga boleh terjejas. Sebab itu kita perlukan mekanisme psikologi perang saraf, iaitu kemampuan masyarakat menilai maklumat secara rasional dan tidak hanyut dalam kandungan yang dimanipulasi," katanya.

Beliau berkata negara perlu mempertimbangkan pembentukan Pusat Maklumat Bencana Nasional serta segmen fact-checking khusus untuk bencana bagi memastikan aliran maklumat lebih teratur, cepat dan tepat.

"Kalender bencana negara juga boleh dibangunkan sebagai rujukan berkala bagi membantu masyarakat siap siaga manakala agensi keselamatan terus memperkemas koordinasi penyelamatan," katanya.

Setiap lapisan masyarakat kini perlu menjadi "benteng pertahanan maklumat" supaya tidak mudah dimanipulasi oleh kandungan AI ekstrem atau palsu, terutama ketika bencana.

Senada dengan perkara itu, penganalisis jenayah Shahul Hamid Abdul Rahim berkata penyebaran video AI palsu ketika bencana kini dikenal pasti sebagai ancaman baharu dalam pengurusan bencana negara berikutan kemampuan teknologi generatif menghasilkan visual banjir realistik dalam hanya beberapa minit.

Beliau berkata fenomena itu membuka ruang kepada apa yang dianggap sebagai maklumat bencana tidak lagi terhad kepada kerosakan fizikal tetapi turut melibatkan gangguan maklumat sekali gus berpotensi mencetuskan panik awam dan mengganggu komunikasi rasmi kerajaan.

Shahul Hamid berkata keadaan itu dijangka meningkat setiap tahun selagi tahap literasi media digital dalam kalangan masyarakat kekal rendah.

"Antara risiko utama ialah kekeliruan awam apabila video yang kelihatan seperti kejadian sebenar menyebabkan orang ramai menyangka kawasan tertentu telah tenggelam, sedangkan tiada insiden berlaku. Situasi ini mendorong panik dan tindakan reaktif yang tidak diperlukan.

"Penyebaran visual palsu juga boleh mengganggu operasi pasukan penyelamat seperti bomba, APM dan polis apabila operasi dialihkan ke lokasi yang kelihatan terjejas melalui video, sedangkan kawasan sebenar yang kritikal terlepas perhatian. Ia meningkatkan risiko pembaziran sumber, kelewatan tindak balas serta kesilapan koordinasi," katanya.

AI-BENCANA 4 KOTA BHARU

Beliau berkata talian kecemasan turut berisiko mengalami overloading (beban lebih) apabila orang ramai membuat panggilan berulang untuk mengesahkan kesahihan video, menyebabkan panggilan penting mungkin tidak dapat dijawab.

"Penyebaran maklumat bercanggah dengan kenyataan rasmi pula melemahkan kepercayaan terhadap agensi seperti NADMA, bomba, APM, polis serta pasukan sukarelawan," katanya.

Visual AI palsu juga boleh dieksploitasi untuk penipuan termasuk permintaan derma palsu, eksploitasi simpati dan manipulasi emosi masyarakat sekali gus menambah dimensi baharu kepada ancaman keselamatan digital negara.

"Daripada aspek teknikal, masyarakat semakin sukar membezakan kandungan sebenar dan video AI berikutan kualiti visual yang semakin realistik lengkap dengan efek cuaca, air, lumpur dan bunyi.

"Kekurangan latihan literasi digital, psikologi bencana yang mendorong orang ramai mempercayai kandungan dramatik, serta algoritma media sosial yang mengutamakan kandungan sensasi, turut menyumbang kepada penyebaran video palsu dengan lebih pantas berbanding maklumat rasmi," katanya.

AI-BENCANA 5 (AKHIR) KOTA BHARU

Shahul Hamid berkata ketiadaan pusat rujukan pantas untuk verifikasi kandungan bencana juga menyebabkan masyarakat mudah terperangkap.

"Mencipta dan menyebarkan video AI palsu ketika bencana dianggap sebagai penyalahgunaan teknologi dan pelanggaran etika komunikasi awam kerana ia boleh mengganggu kestabilan sosial, melemahkan integriti maklumat kerajaan, mewujudkan pencemaran maklumat dan memberikan kesan jangka panjang kepada keselamatan awam.

"Kandungan sedemikian juga boleh dieksploitasi pihak tertentu bagi mencipta naratif ketidakpercayaan terhadap kerajaan dan agensi penyelamat," katanya.

Sementara itu, tinjauan Bernama di platform media sosial seperti TikTok dan Instagram mendapati semakin banyak video berasaskan AI muncul di laman berkenaan susulan musim MTL yang melanda beberapa negeri ketika ini.

Kandungan yang dikesan termasuk visual kemunculan buaya, harimau masuk kampung, haiwan berbisa dan pelbagai situasi luar biasa yang dipaparkan seolah-olah berlaku ketika banjir, sedangkan kejadian tersebut tidak wujud di lokasi sebenar.

Turut tular ialah video banjir besar yang kelihatan sangat realistik sehingga sebahagian pengguna beranggapan ia rakaman di lapangan, walaupun sebenarnya dihasilkan sepenuhnya menerusi teknologi AI generatif.

Jika video-video sebegini dikongsi tanpa semakan, ia bukan sahaja menimbulkan keresahan, malah berpotensi mencetuskan salah faham sekali gus mempengaruhi persepsi awam terhadap keadaan sebenar di lapangan.

-- BERNAMA