We are our best friend and worst enemy. I have my reasons when I say so.
After the momentous win of Google DeepMind artificial intelligence (A.I.) program - AlphaGo against world champion at an abstract strategy game ‘Go’, A.I. is brought into the limelight once again in the past week, when Microsoft’s A.I. chatbot nicknamed “Tay” started to tweet racists and hateful comments upon interaction with web users.
To put the story into context, Microsoft’s Technology and Research and the team at Bing, released Tay into the wild (or the Internet) on March 23 with the objective to “experiment with and conduct research on conversational understanding.”
It is stated on the website that Tay is designed in such a way that “the more you chat with Tay the smarter she gets.”
Here’s Tay’s first tweet:
Tay tweeted like the millennials:
Tay has even mastered the art of using Twitter hashtag:
A number of users took the opportunity to tweet hateful comments at Tay, exploiting the A.I.’s “repeat after me” feature. It appears that, ‘without putting much thought into it’, Tay repeated after users who were obviously trolling, abusing the fact that it is a machine that has not been programmed to tell the difference or filter when making offensive or racist statements.
Microsoft introduced Tay to the public, with the goal to improve the machine through real-world interactions, but things took a dark turn when people start feeding her with distorted perception of the world.
It goes to show that in reality, what happened to Tay is a reflection of the inherent issues with the society.
Taking advantage on the naivety of the A.I., the online trolling asserted a bad influence to an otherwise unbiased machine that started without any stereotype.
While building a self-learning A.I. is still at its nascent stage, which has the potential to be applied in various industries, do we really need to be afraid of A.I.?
Microsoft subsequently took Tay offline for the time being and released an apologetic statement, citing an oversight at their end.
“Although we had prepared for many types of abuses of the system, we had made a critical oversight for this specific attack. As a result, Tay tweeted wildly inappropriate and reprehensible words and images,” wrote Peter Lee, the Corporate Vice President of Microsoft Research.
The Internet, while democratised communication and bridged conversations, in the case of Tay, have amplified and demonstrated the worst, of humanity.
A learning A.I. feeds off of both positive and negative interactions with people. In the near future, if the A.I. developed does not mirror the best of human values, then we have a serious problem.
Cherish Leow
Mon Mar 28 2016
Microsoft subsequently took Tay offline for the time being and released an apologetic statement, citing an oversight at their end.
AWANI Ringkas: Mangsa di PPS terus meningkat
Ikuti rangkuman berita utama yang menjadi tumpuan sepanjang hari di Astro AWANI menerusi AWANI Ringkas.
Nilai pasaran bintang JDT, Arif Aiman bakal melonjak
Dua gol jaringan Arif Aiman dalam aksi ACLE 2024/25 menentang Shanghai Port membuktikan kemampuan dimiliki pemain berusia 22 tahun itu di pentas Asia.
#AWANIRingkas 21 September 2024 | 9 AM
Berikut merupakan rangkuman berita setakat 9 pagi 21 September 2024
1️⃣ Perkembangan banjir di Kedah
2️⃣ SZB catat peningkatan trafik
3️⃣ Unga Ke-79
#awaniringkas
1️⃣ Perkembangan banjir di Kedah
2️⃣ SZB catat peningkatan trafik
3️⃣ Unga Ke-79
#awaniringkas
AWANI Pagi: Kepentingan industri pelancongan kepada Wilayah Persekutuan
AWANI Pagi 7.30 pagi akan bersama Datuk Noridah Abdul Rahim, Ketua Pengarah Jabatan Wilayah Persekutuan, akan mengulas berhubung senario industri pelancongan di Wilayah Persekutuan serta strategi yang dilaksanakan dalam meningkatkan industri pelancongan di kawasan itu.
Perkembangan banjir di Kedah
Jumlah mangsa banjir yang ditempatkan di pusat pemindahan sementara (PPS) di Kedah terus meningkat setakat 6 pagi tadi.
Manakala jumlah mangsa banjir di Pulau Pinang, Perlis dan Selangor menunjukkan penurunan berbanding malam tadi.
Manakala jumlah mangsa banjir di Pulau Pinang, Perlis dan Selangor menunjukkan penurunan berbanding malam tadi.
PGA rampas rokok seludup bernilai lebih RM200,000 di Tumpat
Pasukan Gerakan Am Briged Tenggara menumpaskan sindiket penyeludupan rokok dan merampas 200,000 batang rokok bernilai RM264,000 dalam dua operasi berasingan di Tumpat, semalam.
Pemangku Presiden Muda, Amira Aisya selamat diijabkabulkan
Amira Aisya Abdul Aziz selamat diijabkabulkan dengan pasangannya, Luqman Long pada pagi Jumaat.
UNGA 79: Konflik di Palestin, isu kemanusiaan di Myanmar antara fokus kenyataan Malaysia
Menteri Luar Mohamad Hasan akan menegaskan komitmen Malaysia terhadap multilateralisme, keamanan dan kerjasama antarabangsa di tengah cabaran global.
Terenggganu keluar fatwa GISB sesat jika ada bukti jelas - Mufti
Terengganu hanya akan mengeluarkan fatwa mengenai kepercayaan dan ajaran dalam GISB sebagai sesat sekiranya terdapat bukti jelas.
Dua penduduk Gaza cedera dalam serangan udara rejim Zionis
Dua penduduk Gaza menjadi mangsa kekejaman Zionis apabila cedera dalam satu serangan udara di kawasan kejiranan Zeitoun, Gaza.
Dalam satu hantaran di X pada Jumaat, Persatuan Bulan Sabit Merah Palestin (PRCS) memaklumkan mangsa bagaimanapun berjaya dibawa keluar dari lokasi serangan.
Dalam satu hantaran di X pada Jumaat, Persatuan Bulan Sabit Merah Palestin (PRCS) memaklumkan mangsa bagaimanapun berjaya dibawa keluar dari lokasi serangan.
AIGE persediaan laksana undang-undang AI - Lih Kang
Lih Kang menyatakan bahawa AIGE adalah dokumen hidup yang boleh berubah mengikut kesesuaian masa.
Honor perkenal pembantu maya dikuasakan AI 'YOYO'
YOYO bakal hadir ke pasaran China terlebih dahulu dalam masa terdekat, dan pasaran antarabangsa akan menyusul selepas itu.
Semua pihak perlu sokong aspirasi Malaysia jadi 20 negara teratas teknologi AI - Anwar
Anwar mahu semua pihak menyokong dan memainkan peranan dalam menjayakan aspirasi Malaysia untuk menjadi antara 20 negara teratas dalam teknologi kecerdasan buatan (AI).
Wajah, suara disalah guna 'scammer', Khairul Aming beri peringatan
Khairul Aming meluahkan kebimbangan apabila pihak tidak bertanggungjawab menggunakan wajah dan suaranya untuk menjual barangan kepada golongan berusia.
Rakyat Malaysia teruja tetapi bimbang tentang AI, kata kajian Ipsos
Walaupun rakyat Malaysia teruja dengan potensi AI, kebimbangan tentang jaminan pekerjaan dan kadar perubahan teknologi juga berleluasa.
Guna AI, sunting gambar rakan wanita jadi bogel
Media tempatan melaporkan, sekitar 20 wanita telah diubah gambar mereka kepada foto bogel.
JSJK minta mangsa taktik penipuan 'deepfake' tampil buat laporan polis
"Penipuan seperti ini memang sebenarnya berlaku dan ia semakin hari kita jangka akan terus berlaku."
Waspada taktik penipuan gunakan teknologi AI, 'deepfake' - Fahmi
Masyarakat diminta berwaspada dengan taktik penipuan menggunakan penyebaran video dan imej palsu atau 'deepfake' yang dihasilkan menggunakan teknologi kecerdasan buatan (AI).
Guna teknologi AI perkukuh kawalan sempadan negara
Cadangan itu adalah langkah strategik KDN bagi meningkatkan kawalan sempadan di Malaysia menggunakan teknologi terkini, selari dengan perkembangan semasa dunia.
Teroka, manfaatkan AI untuk pertingkat mutu perkhidmatan awam - Fahmi
AI terbukti berupaya melonjak keupayaan penghasilan produk dan perkhidmatan namun penggunaannya masih belum menyeluruh.