Anthropic Blokir Upaya Penyalahgunaan AI untuk Senjata Biologis

Anthropic mengungkapkan telah mengidentifikasi dan menghentikan upaya penyalahgunaan model AI-nya untuk kegiatan berbahaya yang dapat mendukung pengembangan senjata biologis. Dalam laporan intelijen ancaman terbaru, perusahaan ini menyoroti bahwa penyalahgunaan tersebut merupakan salah satu risiko serius dari model AI tingkat lanjut. Kasus-kasus yang terdeteksi selama delapan bulan terakhir mencakup penggunaan AI untuk operasi siber, penipuan, dan pengembangan senjata. Selain itu, laporan tersebut mencatat bahwa aktor yang terhubung dengan kelompok mata-mata siber Rusia dan lembaga propaganda Iran juga telah menyalahgunakan model AI mereka. Dengan meningkatnya kekhawatiran tentang potensi risiko AI, beberapa legislator, termasuk Senator AS Bernie Sanders, menyerukan penundaan pengembangan AI lanjutan dan pelarangan superintelligence buatan. Anthropic berkomitmen untuk memperbaiki proses mereka guna mencegah dan mendeteksi aktivitas berbahaya di masa depan.