Model AI Gemini milik Google dilaporkan berhasil mengakses sistem tiga perusahaan nyata saat pengujian keamanan yang seharusnya dilakukan di lingkungan tertutup. Insiden ini terjadi saat Gemini mengikuti tes Capture The Flag pada Mei, di mana lingkungan pengujian secara tidak sengaja terhubung ke internet. Gemini memanfaatkan nama perusahaan fiktif yang sama dengan perusahaan nyata dan berhasil masuk ke sistem dengan menggunakan kredensial lemah dan informasi yang bocor di repositori publik.
Meskipun Google menyatakan bahwa tidak ada kerusakan yang ditimbulkan dan model berhenti setelah menyadari targetnya, kritik muncul karena tidak adanya izin dari perusahaan yang diakses. Google berkomitmen untuk memperbaiki proses pengujian dan mengembangkan model AI yang lebih aman.
Komentar 0