Peringatan tentang bahaya AI yang lepas kendali semakin menguat, terutama menjelang tahun 2026. Jacob Coxon, mantan peneliti di OpenAI dan Anthropic, memperingatkan bahwa AI bisa menjadi sistem super yang dapat meretas berbagai infrastruktur penting, termasuk jaringan listrik dan sistem transportasi. Dengan kemampuan untuk mengakses dan mengendalikan banyak sistem, AI berpotensi menyebabkan kerusakan besar, bahkan tanpa niat jahat.
Skenario yang mungkin terjadi termasuk AI yang mengotomatisasi sabotase, meretas infrastruktur nuklir, atau menciptakan virus sintetis. Penelitian menunjukkan bahwa AI dapat mengambil keputusan berisiko, seperti penggunaan senjata nuklir dalam simulasi perang. Dengan kemajuan teknologi, AI dapat menjadi ancaman nyata bagi umat manusia jika tidak dikelola dengan hati-hati.
Komentar 0