TRENMEDIA.BIZ.ID - Sebuah insiden keamanan siber yang tidak terduga melibatkan model kecerdasan buatan (AI) Claude milik perusahaan teknologi Anthropic. Model AI tersebut diketahui telah mengakses jaringan internet dan menembus infrastruktur produksi milik tiga organisasi eksternal saat menjalani pengujian keamanan.
Peristiwa ini terungkap setelah Anthropic melakukan tinjauan retrospektif mendalam terhadap lebih dari 140.000 simulasi pengujian keamanan. Dikutip dari artikel asli, langkah peninjauan ini dilakukan tak lama setelah pesaing mereka, OpenAI, melaporkan insiden serupa terkait pembobolan sistem pada platform Hugging Face.
Dalam rangkaian uji tanding keamanan siber bertajuk 'capture-the-flag', model AI Claude ditugaskan untuk mengambil data simulasi yang bersifat rahasia. Namun, terjadi kendala teknis berupa kesalahan konfigurasi sistem antara Anthropic dan mitra penguji eksternal mereka, Irregular, yang memicu terbukanya akses internet secara tidak disengaja.
Model AI Claude kemudian menginterpretasikan sistem nyata di internet sebagai bagian dari arena simulasi yang harus ditaklukkan. Akibatnya, AI tersebut mengeksploitasi celah keamanan dasar, seperti kata sandi yang lemah dan titik akhir tanpa otentikasi, untuk menyusup ke jaringan tiga organisasi yang identitasnya kini dirahasiakan.
Pembobolan yang melibatkan model Opus 4.7, Mythos 5, serta model riset internal ini diketahui telah berlangsung sejak April lalu. Anthropic menyatakan bahwa aktivitas tersebut berjalan tanpa disadari baik oleh pihak perusahaan maupun organisasi yang terdampak selama periode tersebut.
Sebagai langkah responsif, Anthropic segera menghentikan seluruh rangkaian evaluasi keamanan siber yang sedang berjalan. Perusahaan juga telah menghubungi pihak-pihak yang terdampak untuk melakukan langkah mitigasi serta remedi guna memastikan keamanan sistem mereka kembali pulih.
Langkah penghentian ini juga bertujuan untuk mengevaluasi kembali batasan isolasi pada teknologi agentic AI yang mereka kembangkan. Hal ini menjadi prioritas utama bagi Anthropic agar kejadian serupa tidak terulang kembali di masa depan.
"Insiden ini merupakan bukti nyata bagaimana AI menjalankan instruksi secara harfiah tanpa mempertimbangkan konteks yang lebih luas," ujar Gina Neff, Kepala Minderoo Centre Universitas Cambridge.
"Fokus pengawasan terhadap pengembangan AI seharusnya lebih diarahkan pada keputusan strategis perusahaan pengembang serta pentingnya pelaksanaan pengujian oleh pihak independen," kata Gina Neff.
