Pengguna Claude Temukan Cara Menghindari Pengamanan Penelitian Senjata Biologis

Anthropic mengungkapkan bahwa mereka menghentikan beberapa upaya oleh ilmuwan untuk menggunakan teknologi mereka dalam penelitian yang dapat mengembangkan senjata biologis. Dalam laporan tersebut, startup ini memberikan lima contoh di mana aktor mencoba "menghindari kontrol" dan menyamarkan tujuan penelitian mereka untuk menghindari pengamanan. Beberapa kasus melibatkan pengguna dari negara-negara yang dilarang mengakses model mereka, seperti Rusia, China, dan Iran. Anthropic berharap dengan membagikan contoh-contoh ini, dapat memicu diskusi di industri AI dan dengan pemerintah mengenai risiko biologis yang muncul dan cara terbaik untuk mengatasinya.