Sistem AI berisiko tinggi bakal dikawal lebih ketat - Gobind

KUALA LUMPUR: Sistem kecerdasan buatan (AI) yang berpotensi lebih mudarat bakal berdepan kawal selia lebih ketat, khususnya jika memberi kesan kepada keselamatan, hak asasi dan kesejahteraan individu.

Menteri Digital, Gobind Singh Deo berkata tahap kawalan dan kewajipan terhadap sesuatu sistem AI akan dinilai berdasarkan risiko yang dibawanya.

Menurutnya, pendekatan itu tidak hanya bergantung kepada klasifikasi risiko mengikut industri yang menggunakan teknologi berkenaan.

“Kerajaan sedar potensi teknologi baharu yang boleh membawa pelbagai impak besar kepada ekonomi, masyarakat dan pentadbiran negara.

“Keutamaan akan diberikan kepada aspek keselamatan untuk memastikan bahawa risiko-risiko yang berkaitan dalam aspek penggunaan teknologi ini sentiasa terkawal,” katanya.

Beliau berkata demikian ketika menjawab soalan Datuk Dr Ku Abd Rahman Ku Ismail (PN-Kubang Pasu) pada sesi Waktu Pertanyaan-Pertanyaan Menteri di Dewan Rakyat, hari ini.

Gobind berkata bagi sistem AI yang semakin berkuasa dan berautonomi, kawalan keselamatan perlu diperkukuhkan sebelum penggunaannya diperluaskan.

Langkah itu merangkumi aspek pengujian, pemantauan, pengawasan manusia (human in the loop) serta mekanisme tindak balas.

Pada masa sama, kerajaan sedang merangka Rang Undang-Undang Tadbir Urus AI yang dijangka dibentangkan di Dewan Rakyat pada awal 2027.

RUU berkenaan akan menggunakan pendekatan berasaskan risiko dan menjadi kerangka merentas sektor bagi melengkapi undang-undang sektoral sedia ada.

Kerajaan menerusi Kementerian Digital dan AI Malaysia Berhad juga telah menubuhkan Malaysia AI Safety Institute bagi mengkaji mekanisme mengawal selia penerapan model AI dalam operasi organisasi merentas sektor.

Institut itu memberi tumpuan antaranya kepada penanda aras keselamatan, penilaian risiko dan pelaporan insiden bagi membolehkan tindakan pembetulan diambil.

Gobind menegaskan pembangunan AI perlu bergerak seiring dengan peningkatan keupayaan negara dalam mengawal risiko teknologi berkenaan.