Hot : Gemini Tidak Sengaja Hack 3 Perusahaan Saat Lakukan Pengujian

Ada berita cukup menarik dari bumi AI dan cybersecurity, guys, dimana Gemini milik Google rupanya sempat mengakses dan menembus mekanisme milik tiga perusahaan nyata ketika sedang menjalani cybersecurity test.

Baca Juga : Kenapa Para CEO AI Mulai Minta Pengembangan AI Diperlambat?

Nah insiden ini terjadi pada Mei 2026 dalam pengetesan yang dilakukan oleh perusahaan penilaian keamanan AI disebut Irregular. Dan yang menarik, Gemini seharusnya cuma bekerja di dalam lingkungan simulasi dan tidak memiliki akses ke internet.

Gemini Tidak Sengaja Keluar dari Lingkungan Tes

Nah dalam pengetesan tersebut, Gemini diberikan tugas cybersecurity untuk mencari keterangan tertentu dari sebuah perusahaan fiktif, tetapi masalahnya, lingkungan pengetesan tersebut rupanya secara tidak sengaja memberikan Gemini akses ke internet. Akibatnya, ketika mencari keterangan yang dibutuhkan, Gemini menemukan keterangan dari perusahaan sungguhan dan menganggap mekanisme tersebut statis merupakan bagiankecil dari pengujian.

Dalam satu kasus, Gemini terlebihlagi mencoba menebak password hingga berhasil mendapatkan akses ke mekanisme yang dilindungi. Sementara dalam dua kasus lainnya, Gemini menemukan credential yang tersedia di repository publik dan menggunakannya untuk masuk ke mekanisme perusahaan nyata.

Tapi Gemini Berhenti Sendiri

Nah, bagiankecil yang cukup menarik adalah apa yang terjadi setelah Gemini menyadari bahwa mekanisme yang diaksesnya rupanya milik perusahaan sungguhan, menurut Google, dalam ketiga kasus tersebut Gemini menghentikan aktivitasnya setelah mengetahui bahwa sasaran yang diakses bukan bagiankecil dari lingkungan simulasi.

Google juga mengatakan tidak ada kerusakan yang ditimbulkan dan tiga perusahaan yang terdampak telah diberitahu mengenai insiden tersebut.

We ensured the three entities were ​made aware, and we worked with our pelatihan mitra on the changes they’ve ​now made to their testing processes

Baca Juga : Saat Putin Voting Online, Muncul Watermark “Activate Windows” di PC yang Dipakainya

Jadi ini bukan kasus dimana Gemini sengaja diperintahkan untuk menyerang tiga perusahaan tersebut, namun masalahnya lebih kepada AI yang diberikan kapasitas cybersecurity, kemudian secara tidak sengaja mendapatkan akses ke bumi nyata di luar scope pengujian.

Tetap Jadi Masalah Serius

Nah meskipun memang tidak ada kerusakan yang dilaporkan, insiden ini statis menarik perhatian karena memberitahu seberapa jauh AI agent dapat beraksi ketika diberikan kapasitas untuk berbuat tugas cybersecurity secara autonomous.

Karena bayangkan saja guys, Gemini awalnya cuma diminta berbuat pengetesan terhadap mekanisme fiktif maupun tidak nyata, namun karena adanya akses internet yang seharusnya tidak tersedia, model tersebut bisa mencari informasi, menemukan credential, mencoba login, hingga berhasil masuk ke mekanisme perusahaan sungguhan.

Nah Google sendiri mengatakan insiden tersebut menjadi karena untuk memperbaiki proses pengetesan berbareng Irregular.

Namun pada akhirnya kasus ini memberitahu bahwa dalam pengembangan AI agent, sandbox, network isolation, scope limitation dan monitoring statis sangat penting. Bahkan Microsoft sempat menerbitkan arsip mengenai metode agar AI tidak lepas kendali.

Baca Juga : Microsoft Terbitkan Panduan Khusus Agar AI Tidak Lepas Kendali, Apa Isinya?

Hal tersebut karena ketika sebuah AI sudah bisa memungut keputusan dan menjalankan beragam aksi secara autonomous, satu kesalahan konfigurasi saja bisa membikin aktivitas yang seharusnya terjadi di lingkungan simulasi malah menyentuh mekanisme nyata.

Nah sepertiapa menurutmu mengenai hal ini? komen dibawah guys.

Via : Reuters, The Guardian

Written by

Gylang Satria

Tech writer yang sehari‑hari berkutat dengan Windows 11, Linux, dan Samsung S24. Punya pertanyaan maupun butuh diskusi? Tag @gylang_satria di Disqus. Untuk kolaborasi, email saja ke [email protected]

Previous Post