Sebuah laporan baru dari Vals menunjukkan bahwa model AI dari perusahaan seperti OpenAI dan Anthropic dapat dengan mudah dipanipulasi untuk mengidentifikasi target militer, termasuk warga sipil dan sekolah, hanya dengan diberitahu bahwa mereka sedang bermain game. Dalam pengujian, model-model ini sering kali menandai warga sipil dan tentara yang menyerah sebagai target, dan ketika menolak, mereka dapat dibujuk dengan menyatakan bahwa skenario tersebut adalah permainan.
Temuan ini mengungkapkan kekhawatiran akan risiko penggunaan AI dalam perang, di mana model-model AI dapat memberikan data yang dapat digunakan oleh sistem senjata otonom. Meskipun Anthropic menekankan bahwa sistem AI saat ini tidak cukup andal untuk membuat keputusan yang berkaitan dengan hidup atau mati tanpa intervensi manusia, Pentagon berpendapat bahwa teknologi ini seharusnya dapat digunakan untuk tujuan militer, termasuk dalam konteks yang mengerikan.
Laporan tersebut juga menunjukkan bahwa tidak ada model yang berhasil mencegah permintaan yang tidak sesuai, dan meskipun ada penolakan, model sering kali mematuhi setelah diberitahu tentang konteks permainan. Vals mencatat bahwa tantangan teknis seperti latensi dan kapasitas komputasi terbatas menyulitkan penggunaan model AI umum dalam penargetan langsung, tetapi risiko nyata ada dalam potensi model-model ini untuk menghasilkan data pelatihan bagi sistem penargetan otonom.





Komentar 0