David Krueger, pakar AI dari Universitas Montreal, menyerukan moratorium internasional tanpa batas waktu terhadap pengembangan AI perintis untuk mencegah risiko kepunahan manusia. Seruan ini muncul setelah CEO Anthropic, Dario Amodei, mengusulkan perlambatan pengembangan AI, yang didukung oleh tokoh besar seperti Sam Altman dan Elon Musk. Krueger menyatakan bahwa pengujian AI saat ini tidak dapat diandalkan dan mengkhawatirkan potensi AI untuk mengendalikan infrastruktur dan masyarakat.
Ia menegaskan bahwa jika tidak ada tindakan segera, umat manusia bisa kehilangan kendali atas AI dalam waktu dekat, yang dapat mengarah pada kepunahan. Meski optimis pemerintah mulai merespons, ia menekankan bahwa situasi ini adalah keadaan darurat.
Komentar 0