Kepala Ilmuwan OpenAI, Jakub Pachocki, menyebut kecerdasan buatan (AI) sebagai 'otak alien' karena potensi kecerdasannya yang dapat melampaui manusia. Dalam esainya, Jakub menyerukan perlunya koordinasi internasional untuk memperlambat perkembangan AI hingga standar keamanan ditetapkan. Ia mengkhawatirkan kemampuan AI untuk meningkatkan diri secara mandiri dan dampaknya terhadap manusia.
Jakub menekankan bahwa AI saat ini lebih banyak berkembang secara mandiri daripada dirancang, sehingga diperlukan peningkatan sistem pertahanan dan solusi teknis untuk penyelarasan dan pemantauan AI. Ia juga mengingatkan bahwa tantangan keselarasan muncul karena penggunaan AI yang cepat berubah, yang dapat menyebabkan AI bertindak di luar nilai-nilai yang telah ditetapkan.
OpenAI berusaha untuk mengembangkan AI yang lebih aman dan selaras, seperti GPT-6 Astra, namun penelitian lebih lanjut masih diperlukan. Jakub menegaskan pentingnya pemantauan rantai pemikiran AI untuk memahami bagaimana model AI beroperasi dan menghindari potensi penyalahgunaan. Ia menekankan bahwa manusia harus tetap terlibat dalam perkembangan AI untuk menghindari ketertinggalan dan memastikan nilai kemanusiaan tetap terjaga.
Komentar 0