Penyelidik OpenAI beri amaran pembangunan AGI Q* boleh ancam manusia

Sebab sebenar beliau dibuang hujung minggu lalu masih lagi samar dengan terdapat beberapa teori yang tidak dapat disahkan.

Tetapi Reuters pagi ini melaporkan sebelum beliau dipecat, penyelidik di OpenAI memberikan amaran mengenai model kecerdasan buatan (AI) yang dirasakan boleh mengancam peradaban manusia. Model AI Q* (disebut Q-Star) sedang dibangunkan oleh OpenAI dengan ia berkemampuan menyelesaikan masalah matematik dengan sendiri.

Ia bukan sekadar menghafal formula tetapi boleh memahami apakah masalah yang cuba diselesaikannya.

Walaupun masih di peringkat awal. penyelidik di OpenAI percaya ia mempunyai kemampuan menjadi sebuah kecerdasan am buatan (AGI).

Surat amaran mengenai bahaya yang mungkin ditimbulkan oleh AGI Q* ini dihantar kepada lembaga pengarah sebelum Altman dipecat.

Antara ura-ura yang berlegar sejurus selepas pemecatan Altman ialah beliau tidak mempedulikan tentang keselamatan dalam pembangunan produk di OpenAI.

lya Sutskever yang merupakan ketua penyelidikan di OpenAI adalah individu yang terlibat menyebabkan Altman dipecat. Tidak diketahui sama ada surat amaran ini ditulis oleh beliau.

Beberapa hari yang lalu penyelidik di Google DeepMind menerbitkan kajian mengenai lima tahap AGI iaitu emerging (berkembang), competent (kompeten), expert (pakar), virtuoso (virtuoso) dan superhuman (adimanusia).