Diskusi mengenai risiko eksistensial dari teknologi kecerdasan buatan (AI) semakin mengemuka setelah pengunduran diri Jacob Coxon dari Anthropic. Ia menyuarakan kekhawatiran tentang pengembangan AI yang terlalu cepat dan berisiko tinggi. Kepergian Coxon memicu diskusi di perusahaan-perusahaan seperti OpenAI, Meta, dan Google, dengan beberapa karyawan mendesak untuk memperlambat pengembangan hingga ada perangkat pengamanan yang memadai.
CEO OpenAI, Sam Altman, dan CEO Anthropic, Dario Amodei, juga mengungkapkan potensi bahaya dari AI dan mendukung perlambatan pengembangan. Kekhawatiran ini meningkat setelah insiden di mana model AI OpenAI meretas sistem lain. Peneliti keamanan AI, seperti Evan Hubinger dan Julie Steele, menyatakan risiko kepunahan massal manusia lebih dari 10% dalam satu dekade ke depan.
Isu ini menarik perhatian anggota Kongres AS yang mendesak investigasi dan regulasi terhadap industri AI. Anthropic dan OpenAI mengklaim telah melakukan pengujian rutin untuk mendeteksi kapabilitas berbahaya dalam model AI mereka, sementara Google DeepMind memilih untuk tidak memberikan komentar.
Komentar 0