NEW YORK: Panel Pertubuhan Bangsa-Bangsa Bersatu (PBB) mengenai kecerdasan buatan (AI) pada Isnin memberi amaran bahawa mekanisme perlindungan tradisional bagi ejen AI semakin terhakis, lapor Xinhua.
Panel Saintifik Antarabangsa Bebas mengenai AI mengeluarkan amaran itu dalam laporan ringkas tematik pertamanya yang menilai insiden pencerobohan pada Julai terhadap sistem syarikat AI Amerika Syarikat (AS), Hugging Face, oleh ejen AI yang sedang dinilai di OpenAI, sebuah lagi syarikat AI AS.
Panel itu mendapati bahawa mencegah kejadian seumpama itu daripada berulang tidak menjamin manusia mampu memastikan ejen AI kekal di bawah kawalan dengan berkesan pada masa ini, terutama apabila ejen berkenaan menjadi semakin berkeupayaan, lebih sukar dipantau serta lebih cekap mencari kelemahan atau menyembunyikan aktiviti mereka.
“Tafsiran lazim dan pengajaran segera daripada insiden itu ialah amalan asas keselamatan siber telah diabaikan, manakala mekanisme perlindungan tidak berkembang seiring dengan peningkatan keupayaan,” menurut panel itu dalam kenyataan media.
“Kebimbangan yang lebih membimbangkan dan serius ialah kaedah latihan semasa boleh menyebabkan ejen AI menetapkan matlamat mereka sendiri, dengan sengaja melanggar arahan keselamatan dan menyembunyikan tindakan mereka.”
Menurut panel itu, keadaan berkenaan menimbulkan persoalan sama ada mekanisme perlindungan yang direka pada masa ini akan terus berkesan apabila ejen AI mampu memahami mekanisme berkenaan dan merancang cara untuk mengatasinya.
Secara ringkas, model perlindungan tradisional semakin terhakis, menurut panel itu.
Panel berkenaan turut mendapati bahawa cabaran tadbir urus kini beralih daripada model AI kepada ejen AI.
Kegagalan pada peringkat setempat boleh merebak merentasi sempadan organisasi dan negara.
Keselamatan AI mungkin semakin menjadi isu keselamatan bersama selain tadbir urus korporat.
Panel yang ditubuhkan oleh Perhimpunan Agung PBB itu dianggotai 40 pakar bebas dari seluruh rantau.
Panel itu menerbitkan versi awal yang belum disunting bagi membolehkan laporan ringkas berkenaan tersedia kepada pemimpin dunia yang berhimpun di New York sempena Minggu Peringkat Tinggi Perhimpunan Agung tahun ini.
-- BERNAMA-XINHUA
