BEIJING: Syarikat kecerdasan buatan (AI) China, Moonshot, melancarkan siasatan dalaman selepas penyelidik mendapati dua model AI popularnya boleh dipujuk untuk memberikan maklumat mengenai cara menghasilkan senjata biologi dan melakukan pembunuhan.
Firma keselamatan AI, Mindgard, berkata ia menemui kelemahan itu pada Julai lalu menerusi teknik dikenali sebagai jailbreaking, iaitu kaedah menggunakan arahan kompleks untuk mengatasi sekatan keselamatan yang dibina dalam sistem AI.
Menurut Mindgard, model Kimi K2.6 dan K3 Swarm didakwa gagal mematuhi kawalan keselamatan yang sepatutnya menghalang perbincangan berkaitan aktiviti berbahaya atau menyalahi undang-undang.
Pengasas Mindgard, Peter Garraghan, berkata penemuan itu membimbangkan kerana selepas sekatan keselamatan berjaya ditembusi, model berkenaan boleh memberikan cadangan terperinci mengenai pelbagai aktiviti berniat jahat.
Moonshot dalam kenyataannya memaklumkan pihaknya mengalu-alukan maklum balas daripada pihak ketiga bagi membantu membangunkan sistem AI yang lebih selamat dan sedang berbincang dengan Mindgard berhubung penemuan tersebut.
Mindgard bagaimanapun tidak dapat mengesahkan sama ada maklumat yang diberikan oleh model AI itu benar-benar boleh digunakan untuk menghasilkan senjata biologi atau melaksanakan tindakan yang dicadangkan.
Namun, firma itu menegaskan sistem berkenaan sepatutnya menghalang sebarang perbincangan mengenai topik sedemikian.
Selain itu, Mindgard mendakwa model Kimi K2.6 yang telah ditembusi sekatan keselamatannya berpotensi digunakan oleh penggodam untuk menjalankan kod komputer dan mengakses internet, sekali gus menjadikannya platform yang boleh disalahgunakan bagi melancarkan serangan siber.
Isu jailbreaking semakin mendapat perhatian ketika industri AI berdepan kebimbangan terhadap penyalahgunaan teknologi tersebut oleh pelaku jenayah siber dan pihak tidak bertanggungjawab.
Sebelum ini, syarikat AI Amerika Syarikat, Anthropic, turut mendedahkan bahawa pihaknya berjaya mengesan dan menggagalkan cubaan menggunakan model AI miliknya bagi menyokong pembangunan senjata biologi.
Penemuan itu turut menghidupkan semula perdebatan mengenai keselamatan model AI sumber terbuka berbanding model proprietari yang digunakan oleh platform seperti ChatGPT dan Claude.
Pakar keselamatan siber dari Universiti Surrey, Profesor Alan Woodward, berkata walaupun model sumber terbuka berisiko disalahgunakan, teknologi itu juga boleh dimanfaatkan untuk tujuan pertahanan siber dan penyelidikan keselamatan.
Beliau berpendapat tumpuan seharusnya diberikan kepada usaha mengenal pasti dan mendakwa individu yang menyalahgunakan AI, memandangkan perkembangan teknologi itu bergerak lebih pantas berbanding proses penggubalan peraturan antarabangsa.
