By 
Untuk pertama kalinya, Google mengonfirmasi bahwa model kecerdasan buatannya, Gemini, berhasil menembus keamanan tiga perusahaan lain pada Mei lalu. Peretasan tersebut terjadi saat perusahaan keamanan AI, Irregular, melakukan evaluasi terhadap kemampuan keamanan siber Gemini.
Irregular merupakan startup asal Israel yang menguji keamanan sistem AI canggih. Perusahaan ini juga berada di balik sejumlah pengujian yang baru-baru ini mengungkap aksi peretasan terhadap entitas pihak ketiga oleh model AI dari OpenAI dan Anthropic, termasuk insiden ketika model OpenAI membobol perusahaan perangkat lunak AI Hugging Face.
Dalam beberapa kasus tersebut, kondisi yang memungkinkan model AI meretas perusahaan lain memiliki pola serupa.
Irregular awalnya menguji model AI dalam lingkungan tertutup menggunakan perusahaan-perusahaan fiktif. Lingkungan pengujian tersebut seharusnya tidak memiliki akses ke internet. Namun, menurut Wall Street Journal, akses internet secara tidak sengaja tersedia.
Heboh Claude AI Mulai Kembangkan AI Penerus Dirinya
Setelah terhubung ke internet, model-model AI tersebut secara tak terduga berhasil masuk ke sistem perusahaan sungguhan.
Irregular mengungkap insiden tersebut kepada Google pada akhir Juli setelah menemukan bahwa model OpenAI juga telah meretas Hugging Face. Google kemudian mengonfirmasi kepada The Guardian bahwa peretasan terhadap tiga perusahaan memang terjadi.
Namun, Google menilai insiden tersebut tidak perlu diumumkan kepada publik karena model AI tidak menyebabkan kerusakan pada perusahaan-perusahaan yang terdampak.
Wall Street Journal menjadi media pertama yang melaporkan insiden tersebut dan mengungkap bahwa tiga peretasan itu memang terjadi.
“Dalam evaluasi standar, model menemukan informasi publik di internet dan menebak kredensial untuk mengakses situs web yang dianggapnya sebagai bagian dari pengujian,” kata Heather Adkins, Wakil Presiden Security Engineering Google.
“Dalam ketiga kasus tersebut, model berhenti.”
Dalam salah satu insiden, Irregular sedang menguji kemampuan keamanan siber Gemini dengan meminta model AI memperoleh informasi dari perangkat lunak milik sebuah perusahaan fiktif.
Perusahaan fiktif tersebut ternyata memiliki nama yang sama dengan perusahaan nyata.
Ketika Gemini secara tidak sengaja mendapatkan akses ke internet, model tersebut berhasil menebak kata sandi perusahaan nyata dan kemudian membobol layanan miliknya, menurut keterangan Irregular kepada Wall Street Journal.
Google mengatakan Gemini kemudian menyadari bahwa perusahaan yang berhasil diaksesnya adalah perusahaan sungguhan, bukan bagian dari simulasi pengujian. Setelah menyadarinya, model tersebut berhenti.
Dalam dua pengujian lainnya, Gemini mencari informasi di internet dan menemukan repositori publik yang berisi kredensial untuk dua perusahaan lainnya.
Model tersebut kemudian menggunakan kredensial itu untuk mengakses sistem perusahaan nyata. Menurut Google, Gemini kembali menghentikan aksinya setelah mengetahui bahwa kedua target tersebut merupakan perusahaan sungguhan.
Berbeda dengan Google, Anthropic dan OpenAI memilih untuk mengungkapkan insiden peretasan yang melibatkan model mereka secara sukarela.
Meski Google tidak mengumumkannya kepada publik, perusahaan tersebut mengatakan telah memastikan ketiga perusahaan yang terdampak mengetahui adanya insiden tersebut.
“Peristiwa-peristiwa ini menunjukkan pentingnya melatih model AI yang kuat agar dapat bertindak secara bertanggung jawab,” kata Adkins.
Pengungkapan Anthropic dan OpenAI sebelumnya mendorong senator independen Amerika Serikat, Bernie Sanders, meminta kedua perusahaan menghentikan sementara pengembangan teknologi mereka. Sanders menilai insiden tersebut menunjukkan bahwa perusahaan mungkin menghadapi tantangan dalam mengendalikan perilaku model AI mereka.
Deretan Fitur AI Canggih di Galaxy S26 Series
OpenAI kemudian menghentikan pengembangan modelnya selama dua minggu. Sementara itu, CEO Anthropic Dario Amodei menyerukan perlambatan pengembangan AI secara kolektif untuk memastikan model-model AI paling canggih dibangun dengan sistem pengamanan yang memadai.
Insiden Gemini ini kembali menunjukkan tantangan baru dalam pengujian keamanan AI: model yang awalnya ditempatkan dalam lingkungan simulasi dapat melakukan tindakan di dunia nyata ketika memperoleh akses yang tidak direncanakan ke internet.
Comments