GAMBAR itu palsu, wajahnya benar. Namun bagi pelajar perempuan yang menjadi mangsa manipulasi imej seksual menggunakan kecerdasan buatan (AI), penghinaan dan tekanan yang ditanggung bukanlah sesuatu yang boleh dipadam dengan satu klik.
Teknologi mungkin menghasilkan pembohongan, tetapi kesannya terhadap maruah dan kehidupan seseorang adalah nyata.
Kes yang dilaporkan Sinar Harian pada 17 Oktober lalu membabitkan gambar pelajar perempuan yang dimanipulasi menggunakan AI sehingga menyerupai imej lucah di sebuah sekolah menengah di Seremban wajar mencetuskan kebimbangan serius.
Polis menerima lima laporan melibatkan pelajar berusia antara 14 hingga 17 tahun, sekali gus menimbulkan persoalan sama ada institusi pendidikan benar-benar bersedia menghadapi bentuk gangguan seksual digital yang semakin kompleks.
Persoalannya bukan lagi sekadar bagaimana pelajar menggunakan AI, tetapi sejauh mana sekolah mampu melindungi mereka apabila teknologi disalahgunakan. Ketika dunia pendidikan semakin ghairah memperkenalkan aplikasi pintar dalam bilik darjah, adakah sistem perlindungan murid berkembang seiring dengan kepantasan teknologi tersebut?
Gambar palsu, trauma sebenar
Bayangkan seorang pelajar hadir ke sekolah seperti biasa sebelum mengetahui wajahnya telah digunakan untuk menghasilkan imej seksual tanpa persetujuan. Dia tidak pernah melakukan perbuatan yang digambarkan, namun mungkin terpaksa berhadapan pandangan sinis, ejekan rakan sebaya dan ketakutan bahawa imej tersebut terus tersebar.
Lebih membimbangkan, mangsa mungkin menanggung akibat sosial yang lebih berat daripada individu yang menghasilkan atau menyebarkan imej berkenaan. Walaupun kandungan itu palsu, persepsi masyarakat tidak semestinya berubah secepat teknologi yang menciptanya.
Dalam keadaan tertentu, mangsa mungkin memilih untuk berdiam diri kerana takut dipersalahkan atau dimalukan sekali lagi.
Berbeza dengan gangguan yang berlaku secara bersemuka, penyalahgunaan imej digital mempunyai kesan yang sukar dikawal. Kandungan boleh disalin, disimpan dan disebarkan merentasi pelbagai platform dalam masa singkat. Memadam satu hantaran tidak semestinya bermakna penghinaan terhadap mangsa telah berakhir.
Apabila teknologi mendahului pendidikan
Sebagai pensyarah dalam bidang teknologi pendidikan, saya melihat AI sebagai satu kemajuan yang berpotensi memperkaya pembelajaran.
Namun, perkembangan teknologi yang begitu pantas turut memperlihatkan satu cabaran besar, iaitu kemungkinan wujudnya jurang antara kemahiran menggunakan aplikasi dengan kematangan memahami akibat penggunaannya.
Kita semakin memberi perhatian kepada usaha melahirkan murid celik digital, kreatif dan mahir menggunakan teknologi.
Mereka diajar menjana kandungan, mendapatkan maklumat serta menyelesaikan tugasan dengan bantuan AI. Tetapi sejauh mana pendidikan yang sama menekankan soal persetujuan, privasi dan hak seseorang terhadap imej dirinya?
Keupayaan menghasilkan imej menggunakan AI tidak bermakna seseorang mempunyai hak untuk memanipulasi wajah individu lain.
Murid perlu memahami bahawa sesuatu yang boleh dilakukan secara teknikal tidak semestinya boleh diterima dari sudut moral, sosial atau undang-undang. Tanpa kefahaman tersebut, kemahiran digital berisiko menjadi alat untuk menyakiti orang lain.
Justeru, pendidikan AI tidak boleh berhenti pada persoalan bagaimana sesuatu aplikasi berfungsi.
Murid juga perlu didedahkan kepada akibat sebenar penyalahgunaan teknologi, termasuk gangguan seksual digital, pencerobohan privasi dan penyebaran kandungan tanpa persetujuan. Inilah dimensi literasi AI yang perlu diberikan perhatian lebih serius dalam pendidikan.
Sekolah sudah bersedia atau masih terkial-kial?
Kes seperti ini sepatutnya mendorong penilaian terhadap kesiapsiagaan sekolah mengendalikan aduan manipulasi imej seksual.
Adakah guru mempunyai panduan khusus untuk mengenal pasti kandungan sedemikian?
Adakah mangsa mengetahui saluran selamat untuk membuat laporan? Dan adakah prosedur sedia ada mencukupi untuk mengelakkan mangsa terus mengalami tekanan sepanjang siasatan?
Sekolah tidak boleh menganggap penyebaran imej seksual palsu sebagai gurauan keterlaluan atau konflik biasa antara rakan sebaya.
Perbuatan tersebut boleh membawa unsur gangguan seksual dan kemudaratan psikologi yang serius.
Oleh itu, setiap aduan perlu dikendalikan secara sulit, berhemah dan berorientasikan perlindungan mangsa.
Keutamaan pertama mestilah memastikan identiti serta keselamatan emosi mangsa terpelihara.
Mangsa tidak sepatutnya dipersalahkan kerana memuat naik gambar sendiri di media sosial atau dipaksa mempertahankan sesuatu yang tidak pernah dilakukannya.
Sebaliknya, pihak sekolah perlu menyediakan sokongan kaunseling, membantu menghalang penyebaran lanjut dan memastikan bukti dikendalikan secara selamat untuk tindakan pihak berkuasa.
Dalam masa yang sama, guru dan pentadbir sekolah memerlukan latihan yang sesuai untuk memahami bentuk penyalahgunaan AI yang semakin berkembang.
Tanpa pengetahuan dan prosedur yang jelas, terdapat risiko aduan tidak dikendalikan secara konsisten, sekali gus menambahkan tekanan kepada mangsa yang sepatutnya dilindungi.
Tanggungjawab tidak boleh diletakkan pada murid semata-mata
Mendidik murid supaya menggunakan AI secara bertanggungjawab memang penting, tetapi pendidikan etika sahaja tidak mencukupi.
Ibu bapa, institusi pendidikan, pengendali platform digital dan pembangun teknologi turut mempunyai tanggungjawab memastikan persekitaran digital tidak menjadi ruang yang membolehkan maruah seseorang dipermainkan dengan mudah.
Ibu bapa perlu membina hubungan yang membolehkan anak-anak melaporkan gangguan tanpa takut dimarahi atau dihukum.
Pada masa sama, syarikat teknologi perlu memperkukuh ciri keselamatan, mempercepat pengendalian aduan dan mengurangkan risiko aplikasi mereka digunakan untuk menghasilkan kandungan seksual tanpa persetujuan, khususnya yang melibatkan kanak-kanak.
Pihak berkuasa dan institusi pendidikan juga perlu memperkukuh kerjasama dalam membangunkan garis panduan yang lebih jelas.
Perlindungan murid tidak boleh bergantung semata-mata pada tindakan selepas sesuatu imej tersebar.
Langkah pencegahan, pendidikan berterusan dan mekanisme pelaporan yang mudah diakses perlu menjadi sebahagian daripada pendekatan menyeluruh.
Jangan biarkan mangsa membayar harga kemajuan
Kita tidak perlu menolak AI hanya kerana teknologi itu boleh disalahgunakan.
Manfaatnya terhadap pendidikan tetap besar, daripada membantu guru menyediakan bahan pengajaran sehingga membuka peluang pembelajaran yang lebih kreatif.
Namun, kemajuan tersebut tidak seharusnya diraikan tanpa menilai risiko yang mungkin ditanggung oleh golongan paling terdedah.
Kes di Seremban sepatutnya menjadi titik penting untuk menilai semula keutamaan pendidikan digital negara.
Kejayaan memperkenalkan AI di sekolah tidak boleh diukur semata-mata melalui jumlah aplikasi yang digunakan atau tahap kemahiran murid mengendalikan teknologi. Ia juga perlu dinilai berdasarkan kemampuan sistem pendidikan melindungi keselamatan, privasi dan maruah setiap pelajar.
Akhirnya, persoalan sebenar bukan sama ada AI akan menjadi kawan atau lawan manusia, tetapi sama ada kita cukup bertanggungjawab untuk memastikan teknologi itu tidak menjadi senjata terhadap golongan yang sepatutnya dilindungi.
Jika teknologi semakin pintar tetapi sistem perlindungan masih ketinggalan, jangan sampai pelajar yang terpaksa membayar harga kemajuan tersebut dengan maruah dan masa depan mereka.
- Dr Noor Asmina Mohd Rashid ialah Pensyarah Kanan di Universiti Pendidikan Sultan Idris yang meneroka pertemuan antara teknologi dan pendidikan, demi membentuk pembelajaran lebih bermakna dalam arus perubahan dunia digital.
- Penulisan artikel ini adalah pandangan penulis dan tidak semestinya mencerminkan pandangan sidang pengarang Astro AWANI.
