EU laksana had sekatan penggunaan AI

Akta tersebut melarang penggunaan program AI yang mengeksploitasi kelemahan manusia, seperti penggunaan teknik subliminal atau ingatan bawah sedar dan pemarkahan sosial untuk tujuan awam dan swasta. "Penggunaan sistem AI mempunyai potensi kuat untuk membawa manfaat kepada masyarakat, pertumbuhan ekonomi dan meningkatkan inovasi EU serta daya saing global," menurut EU, sambil memberi amaran terhadap "risiko baharu yang berkaitan dengan keselamatan pengguna, termasuk keselamatan fizikal, dan hak asasi manusia."

Beberapa model AI yang berkuasa tinggi yang kini digunakan secara meluas "boleh menimbulkan risiko sistemik," menurutnya.

Pengecaman emosi di tempat kerja atau di institusi pendidikan diharamkan, kecuali untuk tujuan perubatan atau keselamatan, seperti mengesan keletihan dialami juruterbang.

Pengkategorian biometrik di ruang awam, contohnya oleh pengawasan kamera, juga akan diharamkan. Hanya polis dan badan keselamatan lain akan dibenarkan menggunakan pengecaman wajah untuk menjejaki jenayah tertentu, seperti pemerdagangan orang dan keganasan.

Mulai Ahad, syarikat yang membangunkan atau menggunakan AI perlu menilai sistem mereka mengikut tahap risiko dan mengambil langkah-langkah yang sesuai untuk mematuhi keperluan undang-undang.

Tujuan akta ini adalah bukan hanya untuk melindungi pengguna, tetapi juga untuk memastikan penggunaan AI yang bertanggungjawab. Penyedia dan pengendali sistem AI juga perlu memastikan mereka yang terlibat dalam pembangunan atau penggunaan AI memiliki tahap kompetensi AI yang mencukupi.