ELON Musk and a group of artificial intelligence experts and industry executives are calling for a six-month pause in developing systems more powerful than OpenAI's newly launched GPT-4, in an open letter citing potential risks to society and humanity.
The letter, issued by the non-profit Future of Life Institute and signed by more than 1,000 people including Musk, called for a pause on advanced AI development until shared safety protocols for such designs were developed, implemented and audited by independent experts.
"Powerful AI systems should be developed only once we are confident that their effects will be positive and their risks will be manageable," the letter said.
The letter detailed potential risks to society and civilization by human-competitive AI systems in the form of economic and political disruptions, and called on developers to work with policymakers on governance and regulatory authorities.
Co-signatories included Stability AI CEO Emad Mostaque, researchers at Alphabet-owned DeepMind, as well as AI heavyweights Yoshua Bengio and Stuart Russell.
According to the European Union's transparency register, the Future of Life Institute is primarily funded by the Musk Foundation, as well as London-based effective altruism group Founders Pledge, and Silicon Valley Community Foundation.
The concerns come as EU police force Europol on Monday joined a chorus of ethical and legal concerns over advanced AI like ChatGPT, warning about the potential misuse of the system in phishing attempts, disinformation and cybercrime.
Meanwhile, the UK government unveiled proposals for an "adaptable" regulatory framework around AI.
The government's approach, outlined in a policy paper published on Wednesday, would split responsibility for governing artificial intelligence (AI) between its regulators for human rights, health and safety, and competition, rather than create a new body dedicated to the technology.
Musk, whose carmaker Teslais using AI for an autopilot system, has been vocal about his concerns about AI.
Since its release last year, Microsoft-backed OpenAI's ChatGPT has prompted rivals to accelerate developing similar large language models, and companies to integrate generative AI models into their products.
Sam Altman, chief executive at OpenAI, hasn't signed the letter, a spokesperson at Future of Life told Reuters. OpenAI didn't immediately respond to request for comment.
"The letter isn’t perfect, but the spirit is right: we need to slow down until we better understand the ramifications," said Gary Marcus, a professor at New York University who signed the letter. "They can cause serious harm... the big players are becoming increasingly secretive about what they are doing, which makes it hard for society to defend against whatever harms may materialize."
Reuters
Wed Mar 29 2023
Since its release last year, Microsoft-backed OpenAI's ChatGPT has prompted rivals to accelerate developing similar large language models, and companies to integrate generative AI models into their products. - REUTERS
Malaysia sedia jalin kerjasama rapat dengan Arab Saudi dalam bidang tenaga diperbaharui
Malaysia sedia menjalin kerjasama rapat dengan Arab Saudi bagi meneroka potensi usaha sama serta bertukar-tukar ilmu dan pengalaman dalam bidang tenaga diperbaharui.
Kumpulan pro-ganja di Thailand bertemu Menteri Kesihatan
Kumpulan pro-ganja di Thailand berkumpul di Kementerian Kesihatan pada Khamis untuk membantah rancangan kerajaan menyenaraikan semula ganja sebagai dadah.
Jiran suspek bimbang, terkejut
Penduduk yang tinggal di kawasan kejiranan suspek yang menembak Perdana Menteri Slovakia, Robert Fico, mengakui bimbang dan terkejut, sehari selepas cubaan membunuh yang mendedahkan perpecahan politik di negara itu.
PM Slovakia ditembak: Jiran suspek bimbang, terkejut
Penduduk yang tinggal di kawasan kejiranan suspek yang menembak Perdana Menteri Slovakia, Robert Fico, mengakui bimbang dan terkejut, sehari selepas cubaan membunuh yang mendedahkan perpecahan politik di negara itu.
[TERKINI] Suspek sudah didakwa atas cubaan membunuh
Penembak itu bertindak bersendirian dan pernah mengambil bahagian dalam protes antikerajaan.
Cabaran penuhi citarasa jemaah dalam peraturan ketat Arab Saudi
Cabaran untuk menepati peraturan dan undang-undang kerajaan Arab Saudi yang lebih ketat berbanding di Malaysia antara kekangan utama buat petugas katering dalam operasi haji musim 1445M/2024 dalam menyediakan 2 juta pek makanan buat jemaah.
Wanita warga emas maut dilanggar kereta mengundur
Seorang wanita warga emas meninggal dunia dilanggar keretanya sendiri yang bergerak dalam keadaan mengundur, dipercayai akibat terlupa menarik brek tangan.
Perodua Masters: Hampir 300 pemain bakal berentap dalam edisi 2024
Biarpun pusingan kelayakan Sukan Olimpik Paris 2024 sudah berakhir, namun kejohanan itu tetap berjaya menarik penyertaan bintang dalam Top10 ranking dunia.
Sistem pendidikan harus di depan, terajui digitalisasi
Apa yang dibimbangi ketika ini ialah jika sistem pendidikan mampu bergerak seiring dengan kepesatan pembangunan khususnya dalam teknologi digital.
Lebih 1,000 individu ditahan di Kelantan
Polis menahan sejumlah 1,488 individu atas pelbagai kesalahan dadah dalam Operasi Tapis Bersepadu di seluruh Kelantan bagi tempoh 29 April hingga 15 Mei.
Pengguna ChatGPT percuma boleh guna GPTs, GPT Store
Pengguna percuma juga boleh memuat naik dokumen dan meminta ChatGPT untuk merumuskannya.
OpenAI umum aplikasi desktop untuk ChatGPT, boleh akses pantas ketika lakukan tugasan
Aplikasi desktop ini diperkenalkan terlebih dahulu untuk pengguna berbayar MacOS, dan dijangka diperluaskan kepada pengguna Windows tidak lama lagi.
Apple dilapor semakin hampir dalam kerjasama guna teknologi OpenAI pada iOS 18
Selain OpenAI, Apple turut berbincang bersama Google untuk penggunaan Gemini pada iOS 18, tetapi masih belum mencapai tahap perbincangan seperti OpenAI setakat ini.
Awasi penggunaan AI dalam penghasilan berita - PWP
PWP menyarankan agar penggunaan teknologi AI dalam penghasilan berita perlu diawasi demi meningkatkan keselamatan, kebolehpercayaan dan integriti maklumat disampaikan kepada masyarakat.
Apple dijangka kemas kini Siri dengan keupayaan AI generatif
Siri baharu ini akan boleh berbual dengan lebih baik, dan mempunyai keupayaan menyambung pelbagai perbualan dan bukan sekadar menjawab soalan sahaja.
OpenAI anjur acara khas minggu depan, dipercayai bukan enjin carian atau GPT-5
Satu penawaran baharu akan diperkenalkan yang mungkin akan diminati ramai.
OpenAI bangunkan ChatGPT yang boleh lakukan carian web dengan tepat
ChatGPT Yang Boleh Melakukan Carian Web Dengan Tepat Sedang Dibangunkan OpenAI
ChatGPT tampil ciri Memory, ingat maklumat penting
Apabila perbualan dilakukan, pengguna ChatGPT Plus boleh memilih untuk menyimpan perbualan sebagai memori.
Bing kini digunakan lebih 140 juta pengguna setiap hari
Selain Bing, aplikasi Copilot untuk iOS dan Android juga memperlihatkan peningkatan kadar muat turun dari hari ke hari.
11% kertas kerja pelajar ditulis dengan bantuan AI - Turnitin
Daripada sampel ini, 22 juta (11%) sekurang-kurangnya mengandungi 20% kandungan kertas kerja yang ditulis oleh AI.