Ringkasan AI
- Satya Nadella menegaskan pembangunan model AI perlu disertakan mekanisme campur tangan manusia untuk menghentikan sistem jika berlaku tingkah laku tidak dijangka.
- Beliau menekankan kepentingan "brek kecemasan" agar manusia kekal mengawal operasi AI dan tidak menerima bulat-bulat cadangan sistem tanpa semakan bebas.
- Nadella menyeru syarikat membangunkan sistem keselamatan mencukupi dan memantau model AI maju sebagai risiko sejak peringkat awal pembangunan teknologi.
REDMOND: Ketua Pegawai Eksekutif Microsoft, Satya Nadella, menegaskan bahawa pembangunan model kecerdasan buatan (AI) perlu disertakan dengan mekanisme campur tangan manusia yang membolehkan sistem berkenaan dihentikan sekiranya berlaku tingkah laku tidak dijangka, lapor Amanz.
Beliau berkata mekanisme yang sering digambarkan sebagai "brek kecemasan" itu penting bagi memastikan manusia kekal mempunyai kawalan terhadap operasi model AI pada setiap masa.
Menurut Nadella, pengguna juga tidak wajar menerima secara bulat-bulat cadangan, jawapan atau tindakan yang dihasilkan oleh sistem AI tanpa membuat semakan dan pengesahan secara bebas.
Beliau berkata demikian ketika kebimbangan terhadap keselamatan AI semakin meningkat susulan laporan dan kajian yang menunjukkan sesetengah model AI mampu menghasilkan tingkah laku yang tidak dijangka atau bertindak di luar arahan asal yang diberikan.
Perkembangan itu menimbulkan persoalan mengenai keberkesanan mekanisme kawalan dan pemantauan terhadap model AI yang semakin kompleks serta berkeupayaan melaksanakan tugasan secara autonomi.
Sehubungan itu, Nadella berkata syarikat perlu menganggap model AI maju sebagai satu risiko yang memerlukan pemantauan berterusan serta membangunkan sistem keselamatan yang mencukupi sejak peringkat awal pembangunan teknologi berkenaan.
Beliau turut mengibaratkan mekanisme "brek kecemasan" dalam AI sebagai ciri keselamatan penting yang perlu diwujudkan bagi membolehkan campur tangan manusia dilakukan dengan segera sekiranya berlaku kegagalan sistem atau situasi yang tidak diingini.
Fakta Segera: Jawapan Pantas Dari AI
- Q: Mengapa Satya Nadella menekankan keperluan mekanisme campur tangan manusia dalam pembangunan AI?
A: Satya Nadella menekankan keperluan mekanisme campur tangan manusia supaya sistem AI boleh dihentikan jika berlaku tingkah laku tidak dijangka, memastikan manusia kekal mengawal operasi AI pada setiap masa. - Q: Apakah yang dimaksudkan dengan "brek kecemasan" dalam konteks AI menurut artikel ini?
A: "Brek kecemasan" merujuk kepada mekanisme keselamatan yang membolehkan campur tangan manusia dilakukan dengan segera sekiranya berlaku kegagalan sistem atau situasi tidak diingini dalam operasi AI. - Q: Apakah saranan Nadella kepada pengguna berkaitan cadangan atau jawapan yang dihasilkan oleh AI?
A: Nadella menyarankan agar pengguna tidak menerima secara bulat-bulat cadangan, jawapan, atau tindakan AI tanpa membuat semakan dan pengesahan secara bebas. - Q: Apakah kebimbangan yang timbul berkaitan keselamatan AI seperti dinyatakan dalam artikel?
A: Kebimbangan timbul kerana sesetengah model AI mampu menghasilkan tingkah laku tidak dijangka atau bertindak di luar arahan asal, menimbulkan persoalan tentang keberkesanan mekanisme kawalan dan pemantauan. - Q: Apakah tindakan yang disarankan kepada syarikat dalam pembangunan model AI maju?
A: Syarikat disarankan menganggap model AI maju sebagai satu risiko yang memerlukan pemantauan berterusan dan membangunkan sistem keselamatan mencukupi sejak peringkat awal pembangunan teknologi.
