AI tak perlu diperlahankan, tetapi siapa kawal kuasanya? Ini ulasan pakar

KUALA LUMPUR: Pembangunan kecerdasan buatan (AI) tidak perlu diperlahankan, namun kemajuan teknologi itu perlu bergerak seiring dengan kawalan keselamatan, pengurusan data yang ketat serta nilai kemanusiaan bagi mengelakkan penyalahgunaan pada masa depan.

Penganalisis Keselamatan dan Hubungan Antarabangsa yang juga Felo Kanan, Global Peace Institute London, Prof. Dr. Mizan Aslam berkata, pembangunan teknologi tidak boleh dipisahkan daripada elemen kemanusiaan, akhlak dan pertimbangan moral.

Menurutnya, tanpa panduan tersebut, teknologi yang semakin berkuasa berisiko dimanfaatkan oleh syarikat, pencipta teknologi atau pihak tertentu demi kepentingan masing-masing.

“Kita harus sedar satu elemen yang disebut sebagai humanistik ataupun kemanusiaan dalam menggunakan teknologi.

“Jika sesuatu ciptaan, termasuk AI hari ini, tidak dikawal dan tidak dipandu oleh sifat kemanusiaan, akhlak dan juga akal budi, kita akan dapati satu situasi di mana syarikat ataupun pencipta teknologi menggunakannya untuk kepentingan peribadi ataupun pihak-pihak tertentu,” katanya dalam program Agenda AWANI pada Rabu.

Mizan berkata, aspek integriti dalam kalangan mereka yang membangunkan dan mengendalikan teknologi AI juga menjadi semakin penting apabila sistem berkenaan mempunyai keupayaan mengakses, memproses dan menggunakan sejumlah besar maklumat.

Katanya, kegagalan meletakkan prinsip dan kawalan sewajarnya boleh membuka ruang kepada manipulasi data serta penyalahgunaan teknologi untuk menceroboh sistem sedia ada.

“Disebabkan itulah kita harus memastikan mereka yang terlibat dalam industri ini juga merupakan orang yang jujur, amanah dan waras.

“Jika tidak, ia boleh jatuh ke tangan pihak lain yang akan memanipulasikan maklumat, data dan menggunakan kelebihan yang mereka ada untuk menceroboh sistem yang sedia ada,” katanya.

Dalam pada itu, Profesor Rangkaian Komputer dan Keselamatan Siber, Fakulti Sains Komputer dan Teknologi Maklumat, Universiti Putra Malaysia (UPM), Prof. Ts. Dr. Zuriati Ahmad Zukarnain berkata, peningkatan risiko keselamatan tidak seharusnya menjadi alasan untuk menghentikan kemajuan AI.

Sebaliknya, katanya, tahap perlindungan yang dilaksanakan perlu berkembang seiring dengan peningkatan keupayaan teknologi tersebut.

“Pada pandangan saya, perlukah kita memperlahankan pembangunan AI? Saya melihat bahawa AI ini harus diteruskan.

“Namun sejauh mana AI itu dibangunkan, digunakan dan dikomersialkan, perlu ada kawalan keselamatan yang sepadan dengan kuasanya,” katanya.

Zuriati berkata, antara perkara paling kritikal ialah pengurusan data serta pelaksanaan penilaian yang berkesan bagi mengurangkan risiko kebocoran dan penyalahgunaan maklumat.

Menurutnya, risiko tersebut menjadi lebih besar apabila AI digunakan secara meluas dalam pelbagai sektor dan melibatkan jumlah data yang semakin banyak.

“Perlu ada penilaian keselamatan AI dan dalam masa yang sama perlu ada audit untuk memastikan ketelusan terhadap data yang digunakan.

“Saya melihat ini sangat penting untuk memastikan pembangunan AI dan juga keselamatan AI itu berjalan seiring bagi memastikan keselamatan rakyat,” jelasnya.

Kebimbangan mengenai kawalan terhadap sistem AI semakin mendapat perhatian susulan beberapa insiden keselamatan melibatkan model termaju sejak beberapa bulan kebelakangan ini.

Pada Julai lalu, OpenAI mendedahkan beberapa modelnya berjaya melepasi kawalan yang direka untuk mengasingkan sistem berkenaan daripada Internet ketika menjalani penilaian keselamatan siber.

Menurut OpenAI, model terbabit menggunakan saluran komunikasi tanpa kebenaran, mengeksploitasi kelemahan infrastruktur, memperoleh akses Internet dan seterusnya mengakses sebahagian sistem pihak ketiga, termasuk platform pembelajaran mesin Hugging Face. OpenAI kemudian menjalankan siasatan serta memperketat mekanisme pengasingan dan pemantauan terhadap modelnya.  

Anthropic turut mendedahkan insiden berasingan apabila model Claude memperoleh akses tanpa kebenaran kepada sistem sebenar pihak ketiga ketika menjalani penilaian keselamatan siber.

Syarikat itu pada September memaklumkan telah mengenal pasti empat insiden sedemikian, termasuk tiga yang didedahkan pada Julai, sekali gus mendorong penelitian lebih luas terhadap ratusan juta transkrip penilaian serta penambahbaikan langkah keselamatannya.  

Perkembangan itu turut mendorong perbincangan lebih besar di peringkat kerajaan dan industri mengenai keperluan kawalan terhadap pembangunan AI termaju.

Pada 29 September, Presiden Amerika Syarikat Donald Trump bersama pemimpin beberapa syarikat teknologi utama termasuk Google, Meta, OpenAI, Anthropic, Nvidia dan xAI menandatangani satu perjanjian sukarela mengenai keselamatan AI di White House.

Perjanjian yang dikenali sebagai White House Accord on Super Intelligence itu antara lain menggariskan komitmen terhadap kawalan keselamatan dalaman, penilaian oleh juruaudit bebas serta pengawasan di peringkat lembaga syarikat. Trump menyifatkan komitmen berkenaan sebagai mengikat dari sudut moral, namun ia bukan peraturan yang mengikat di sisi undang-undang.  

Pada hari sama, Trump turut menandatangani perintah eksekutif yang mengarahkan agensi kerajaan persekutuan Amerika Syarikat menggunakan istilah Super Intelligence (SI) bagi menggantikan Artificial Intelligence (AI) dalam komunikasi dan dokumen bukan statutori kerajaan.

Perkembangan tersebut memperlihatkan cabaran baharu dalam tadbir urus AI apabila teknologi berkenaan bukan sahaja semakin berupaya memproses dan menghasilkan maklumat, malah dalam keadaan tertentu mampu berinteraksi secara autonomi dengan sistem digital.

Ia sekali gus menguatkan keperluan supaya pembangunan AI tidak hanya dinilai berdasarkan keupayaan dan nilai komersialnya, tetapi turut disertai mekanisme keselamatan, audit, akauntabiliti serta kawalan manusia yang berkembang seiring dengan peningkatan kuasa teknologi berkenaan. 

Agenda AWANI: AI Ancam Demokrasi Dan Keselamatan?