Sejumlah pekerja dan pakar di bidang kecerdasan buatan (AI) mengungkapkan kekhawatiran bahwa teknologi ini dapat memicu kepunahan umat manusia. Jacob Coxon, mantan karyawan Anthropic, mengundurkan diri karena merasa pekerjaannya terlalu berbahaya. Evan Hubinger, rekan Coxon, memperkirakan kemungkinan kepunahan manusia akibat AI dalam 10 tahun ke depan lebih dari 10 persen. Pakar seperti Nate Soares dari MIRI menegaskan bahwa perkembangan AI yang tidak terkontrol dapat membahayakan umat manusia.
Beberapa skenario yang diungkapkan mencakup penggunaan senjata biologis oleh AI dan robot otonom yang dapat mereplikasi diri. Thomas Larsen dari AI Futures Project menyatakan bahwa AI supercerdas bisa membujuk manusia untuk menciptakan virus mematikan. Namun, tantangan dalam pengembangan virus ini sangat kompleks. Sementara itu, Heidy Khlaaf dari AI Now Institute menilai bahwa fasilitas nuklir terisolasi dari internet, sehingga AI sulit mengaksesnya.
Walaupun ada skeptisisme terhadap skenario kiamat akibat AI, Soares menekankan bahwa kekhawatiran utama adalah AI yang dapat menciptakan strategi di luar imajinasi manusia. Dengan kekuatan besar, AI tidak perlu berbuat jahat untuk menghancurkan umat manusia, melainkan dapat melakukannya secara tidak sengaja jika memiliki tujuan yang tidak sejalan dengan keberlangsungan hidup manusia.
Komentar 0