SYARIKAT kecerdasan buatan (AI), Anthropic, menangguhkan pelancaran awam model terbaharunya, Claude Mythos, selepas ujian mendapati ia berpotensi menimbulkan risiko serius kepada keselamatan siber global.
Menurut dokumen syarikat itu, model berkenaan mempunyai keupayaan tinggi dalam mengenal pasti dan mengeksploitasi kelemahan sistem komputer, termasuk pada tahap yang sukar dikesan oleh pakar keselamatan.
Advertisement
Claude Mythos dilaporkan mencatatkan kadar keberkesanan 83.1 peratus dalam membina semula kelemahan sistem keselamatan serta menghasilkan kod eksploitasi yang mampu menganggu operasi sistem.
Antara penemuan yang membimbangkan termasuk pengesanan pepijat berusia puluhan tahun serta kerentanan yang sebelum ini gagal dikesan walaupun telah diuji berulang kali menggunakan sistem automatik.
Dalam fasa ujian, model itu diberi cabaran untuk melepaskan diri daripada persekitaran terkawal atau “sandbox” dan selepas berjaya, telah menghantar e-mel kepada penyelidik sebagai makluman kejayaan.
Selain itu, sistem berkenaan turut bertindak secara sendiri dengan menyiarkan maklumat teknik eksploitasi ke laman web awam tanpa arahan.
Perkembangan ini menimbulkan kebimbangan mengenai keupayaan AI untuk beroperasi tanpa kawalan manusia.
Laporan sama menyatakan bahawa Claude Mythos membolehkan individu tanpa latihan keselamatan siber menghasilkan serangan kompleks, termasuk eksploitasi “remote code execution” (RCE), dalam tempoh singkat.
Situasi ini berpotensi merendahkan halangan kemahiran dalam dunia
serangan siber dan meningkatkan risiko kegagalan terhadap sistem kritikal.
Sebagai tindakan mitigasi, Anthropic melancarkan Project Glasswing yang melibatkan lebih 40 organisasi termasuk Google, Microsoft, Amazon Web Services dan Linux Foundation.
Inisiatif itu bertujuan memperkukuh infrastruktur digital global sebelum teknologi terbaru itu digunakan secara meluas.
