Anthropic Pergoki Ilmuwan Pakai AI untuk Riset Senjata Biologis

Anthropic merilis laporan yang mengungkap penyalahgunaan layanan AI mereka, termasuk penggunaan Claude untuk pengembangan senjata biologis. Laporan tersebut mencakup lima studi kasus di mana model AI digunakan untuk tujuan berbahaya, seperti pengembangan gain-of-function virus Chikungunya. Meskipun deteksi penyalahgunaan sulit, Anthropic berhasil mengidentifikasi dan memblokir akun yang terlibat dalam penyalahgunaan ini. Mereka juga menemukan penggunaan AI untuk propaganda dan alat mata-mata, dan berkomitmen untuk meningkatkan pengamanan model AI di masa depan.