Anthropic telah memberikan akses "mirip karyawan" kepada evaluator eksternal untuk menilai risiko model AI-nya. Ini merupakan langkah lanjutan dari komitmen perusahaan untuk meningkatkan pengamanan terkait kekhawatiran bahwa teknologi tersebut bisa berkembang di luar kendali. METR, sebuah organisasi nirlaba yang bekerja dengan berbagai laboratorium terkemuka, kini memiliki tim yang terintegrasi di kantor Anthropic dengan akses ke perangkat keras dan sistem internalnya.
Peningkatan peran evaluator pihak ketiga ini merupakan salah satu langkah konkret yang diusulkan oleh laboratorium sebagai respons terhadap meningkatnya kekhawatiran tentang bahaya yang dapat ditimbulkan oleh sistem AI yang lebih canggih terhadap ekonomi, keamanan siber, dan kemanusiaan secara keseluruhan.
Komentar 0