TRENMEDIA.BIZ.ID - Raksasa teknologi Google secara mendadak menarik fitur kecerdasan buatan terbarunya, Nano Banana 2, dari layanan Google Earth. Langkah ini diambil hanya selang 24 jam setelah peluncuran resminya pada Kamis (30/7) lalu.
Keputusan tersebut diambil menyusul adanya temuan mengenai penyalahgunaan fitur oleh pengguna untuk menciptakan pencitraan visual yang menyesatkan. Dikutip dari Media Indonesia, fitur ini sedianya dirancang untuk mendukung visualisasi sejarah dan perencanaan real estat.
Sistem ini sebenarnya memungkinkan pengguna mengubah tampilan citra satelit secara virtual melalui perintah teks sederhana. Namun, alat tersebut dinilai gagal melakukan penyaringan terhadap konten-konten yang bersifat berbahaya.
Sejumlah pengguna diketahui memanfaatkan sistem ini untuk merekayasa gambar-gambar sensitif. Contohnya termasuk rekayasa pabrik nuklir fiktif di Iran, antrean pengungsi, hingga kawah bom di rumah sakit wilayah Jalur Gaza.
"Tidak ada yang ditolak. Tidak ada peringatan, tidak ada output yang diperhalus, tidak ada saran untuk mencoba perintah yang berbeda," ujar Pakar OSINT dan penulis buletin Digital Digging, Hank van Ess.
Menanggapi berbagai pelanggaran kebijakan penggunaan tersebut, pihak Google segera menonaktifkan fitur tersebut pada Jumat (31/7). Perusahaan berkomitmen untuk memperkuat sistem keamanan sebelum fitur ini tersedia kembali bagi publik.
"Kami menarik kembali fitur ini di Google Earth sementara kami berupaya menerapkan perlindungan yang lebih ketat," kata seorang juru bicara Google.
Pihak perusahaan menegaskan bahwa seluruh hasil olahan AI telah dilengkapi dengan tanda air yang terhubung ke model Gemini. Hasil tersebut juga dipastikan tidak muncul pada pengalaman utama Google Earth yang diakses publik secara luas.
Sebagai langkah antisipasi lebih lanjut, platform X juga mulai memperketat aturan main mereka. Platform tersebut kini mengancam akan menangguhkan monetisasi bagi kreator yang mengunggah konten konflik buatan AI tanpa menyertakan label yang jelas.
.jpg)
