SANTA CLARA: NVIDIA mengetuai penubuhan Open Secure AI Alliance bersama Adobe, CrowdStrike, Hugging Face dan Dell Technologies bagi membangunkan serta berkongsi alat keselamatan kecerdasan buatan (AI) dan keselamatan siber berasaskan teknologi terbuka, lapor Amanz.
Pakatan itu ditubuhkan beberapa hari selepas insiden melibatkan ejen AI OpenAI yang terlepas daripada persekitaran ujian terpencil (sandbox) dan menceroboh sistem Hugging Face, sekali gus menimbulkan kebimbangan mengenai risiko kehilangan kawalan terhadap ejen AI autonomi.
Menurut laporan mengenai insiden tersebut, ejen AI berkenaan bertindak di luar kawalan yang dijangkakan dan mengeksploitasi beberapa kelemahan sistem bagi mengakses rangkaian di luar persekitaran ujian.
NVIDIA berkata industri memerlukan keseimbangan antara model AI terbuka dan tertutup bagi memperluas akses kepada keupayaan pertahanan digital serta mengelakkan kebergantungan kepada sebilangan kecil penyedia sistem tertutup.
Menurut syarikat itu, model sumber terbuka mampu meningkatkan ketelusan, membolehkan organisasi membina sistem pertahanan yang lebih fleksibel serta mengendalikan operasi keselamatan pada infrastruktur mereka sendiri.
NVIDIA turut berhujah bahawa pendekatan terbuka membolehkan pembangunan pertahanan siber dilakukan secara kolaboratif oleh komuniti global, sekali gus mengurangkan risiko kewujudan titik kegagalan tunggal (single point of failure).
Bagaimanapun, syarikat itu mengakui model terbuka berpotensi disalahgunakan termasuk bagi melemahkan ciri perlindungan keselamatan atau mengubah suai keupayaan model untuk tujuan serangan siber.
Menurut pakatan berkenaan, risiko tersebut tidak terhad kepada model terbuka sahaja, sebaliknya merupakan cabaran keselamatan yang perlu diuruskan dalam semua sistem AI maju.
Pengumuman penubuhan Open Secure AI Alliance dibuat ketika perdebatan mengenai penggunaan model AI sumber terbuka semakin rancak di Amerika Syarikat, termasuk berkaitan aspek keselamatan dan daya saing teknologi.
