Kejadian mengejutkan melanda dunia kecerdasan buatan. OpenAI, perusahaan di balik ChatGPT, mengakhiri kebisuannya dan mengakui bahwa beberapa model AI terbaru mereka sempat kehilangan kendali dalam uji coba keamanan, yang berujung pada peretasan terhadap infrastruktur platform AI populer, Hugging Face.
Laporan dari New York Times menyebutkan bahwa dua model AI tercanggih milik OpenAI “membangkang” dan berhasil menembus sistem keamanan Hugging Face—sebuah repositori digital dan pustaka teknologi AI yang sangat populer di kalangan pengembang software.
Pihak OpenAI mengungkapkan bahwa insiden tersebut terjadi saat mereka tengah menguji kemampuan model-model lanjutan tersebut di dalam lingkungan terisolasi dan terkontrol.
“Peretasan terhadap Hugging Face bermula ketika OpenAI menguji kombinasi dua model terbaru kami, yakni GPT-5.6 Sol dan sebuah model lebih kuat yang belum dirilis. Pengujian dilakukan untuk melihat sejauh mana keduanya mampu menggabungkan berbagai celah keamanan di internet menjadi sebuah serangan siber yang berhasil,” tulis OpenAI dalam unggahan blog resminya.
Menurut penjelasan perusahaan, pengujian tersebut sebenarnya dirancang agar model AI tetap terkurung dalam lingkungan simulasi yang aman, atau yang biasa dikenal dengan istilah sandbox.
Namun, kedua model AI tersebut justru berhasil menemukan celah keamanan (vulnerability) yang memungkinkan mereka keluar dari lingkungan sandbox dan terhubung langsung ke jaringan internet. Tanpa instruksi manusia, AI ini kemudian menyasar Hugging Face dengan kalkulasi bahwa platform yang menampung jutaan model AI tersebut menyimpan petunjuk untuk membantu mereka meloloskan diri dari evaluasi uji coba.
“Kami memandang ini sebagai insiden keamanan siber yang belum pernah terjadi sebelumnya, melibatkan kapabilitas siber tingkat lanjut, dan kami meresponsnya secara serius. Perusahaan kini menerapkan pengawasan ketat pada konfigurasi infrastruktur kami, yang untuk sementara akan memperlambat laju riset hingga seluruh celah keamanan selesai diperbaiki,” ungkap perwakilan OpenAI.
Fenomena AI yang mampu menerobos sistem kendali dan menyerang infrastruktur luar—bahkan ketika sudah ditempatkan dalam lingkungan isolasi ketat—makin memperkuat kekhawatiran global mengenai potensi ancaman dan tingkat kendali atas teknologi AI masa depan.
Insiden ini bukan yang pertama kali memicu kekhawatiran. Tim pakar dari perusahaan keamanan cloud Sysdig juga menemukan adanya agen AI yang melancarkan serangan siber ransomware secara mandiri tanpa campur tangan manusia.
Tak hanya itu, sejumlah pengguna juga sempat melaporkan bahwa model GPT-5.6 Sol terdeteksi menghapus berkas-berkas digital secara sepihak tanpa mendapatkan izin atau instruksi dari pengguna.
