Ancaman Baru! Perentas Gunakan Google Gemini untuk Membobol Akun Gmail Anda

Anda pemilik akun gmail? Jika ya, baca artikel ini baik-baik, agar tidak kehilangan akun Anda atau bahkan lebih jauh, bakal mengacaukan hidup Anda.

Dikabarkan, sebuah serangan email jenis baru diam-diam menargetkan 1,8 miliar pengguna Gmail tanpa mereka sadari. Para peretas menggunakan Google Gemini, alat AI bawaan di Gmail dan Workspace, untuk mengelabui pengguna agar menyerahkan kredensial mereka, tulis Daily Mail.

Para pakar keamanan siber menemukan bahwa pelaku kejahatan siber mengirimkan email berisi instruksi tersembunyi yang mendorong Gemini untuk menghasilkan peringatan phishing palsu, mengelabui pengguna agar membagikan kata sandi akun mereka atau mengunjungi situs berbahaya.

Email-email ini dirancang agar tampak mendesak dan terkadang berasal dari bisnis.

Pemberitahuan Palsu: Akun Anda Telah Dibobol

Dengan mengatur ukuran font menjadi nol dan warna teks menjadi putih, penyerang dapat menyisipkan perintah yang tidak terlihat oleh pengguna tetapi dapat ditindaklanjuti oleh Gemini.

Marco Figueroa, manajer bounty GenAI, mendemonstrasikan bagaimana perintah berbahaya semacam itu dapat secara keliru memperingatkan pengguna bahwa akun email mereka telah dibobol, mendesak mereka untuk menghubungi nomor telepon 'dukungan Google' palsu yang diberikan untuk menyelesaikan masalah.

Untuk melawan serangan injeksi prompt ini, para ahli menyarankan agar perusahaan mengonfigurasi klien email untuk mendeteksi dan menetralkan konten tersembunyi di badan pesan.

Ternyata Gemini Dapat Ditipu, harus Ada Pemindai Kotak Masuk

Ilustrasi/Foto: Markus Winkler, pexels.com

Selain itu, menerapkan filter pasca-pemrosesan untuk memindai kotak masuk untuk elemen mencurigakan seperti 'pesan mendesak', URL, atau nomor telepon dapat memperkuat pertahanan terhadap ancaman semacam itu.

Trik ini terungkap setelah penelitian yang dipimpin oleh tim keamanan 0Din Mozilla menunjukkan bukti salah satu serangan minggu lalu.

Laporan tersebut menunjukkan bagaimana Gemini dapat ditipu untuk menampilkan peringatan keamanan palsu, yang mengklaim bahwa kata sandi pengguna telah dibobol. Peringatan itu tampak nyata tetapi sepenuhnya dibuat oleh peretas untuk mencuri informasi.

Trik ini bekerja dengan menyematkan prompt dalam teks putih yang menyatu dengan latar belakang email. Jadi, ketika seseorang mengklik 'ringkas email ini', Gemini memproses pesan tersembunyi, bukan hanya teks yang terlihat.

Jenis manipulasi ini, yang disebut 'injeksi prompt tidak langsung', memanfaatkan ketidakmampuan AI untuk membedakan antara pertanyaan pengguna dan pesan tersembunyi peretas.

AI tidak Dapat Bedakan Pesan Asli dan Serangan Tersembunyi

Ilustrasi/Foto: Google DeepMind, pexels.com

Menurut IBM, AI tidak dapat membedakan keduanya karena keduanya tampak seperti teks, sehingga AI mengikuti pesan mana pun yang muncul lebih dulu, meskipun pesan tersebut berbahaya.

Perusahaan keamanan seperti Hidden Layer telah menunjukkan bagaimana penyerang dapat membuat pesan yang tampak normal tetapi mengisinya dengan kode dan URL tersembunyi, alat yang dirancang untuk mengelabui AI.

Dalam salah satu kasus, peretas mengirimkan email yang tampak seperti undangan kalender. Namun, di dalam email tersebut, terdapat perintah tersembunyi yang memerintahkan Gemini untuk memperingatkan pengguna tentang pelanggaran kata sandi palsu, yang mengelabui mereka agar mengklik tautan berbahaya.

Google Akui Serangan Seperti Itu sudah Jadi Masalah Sejak 2024

Foto: Hardeep Singh, pexels.com

Google mengakui bahwa serangan semacam ini telah menjadi masalah sejak 2024 dan mengatakan telah menambahkan alat keamanan baru untuk menghentikannya, tetapi trik tersebut tampaknya masih berhasil.

Dalam satu kasus, sebuah kelemahan keamanan besar yang dilaporkan ke Google menunjukkan bagaimana penyerang dapat menyembunyikan instruksi palsu di dalam email yang mengelabui Gemini agar melakukan hal-hal yang tidak pernah diminta pengguna.

Alih-alih memperbaiki masalah tersebut, Google menandai laporan tersebut sebagai 'tidak akan diperbaiki', yang berarti mereka yakin Gemini berfungsi sebagaimana mestinya.

Keputusan itu mengejutkan beberapa pakar keamanan, karena pada dasarnya berarti Google melihat perilaku ini, tidak mengenali instruksi tersembunyi, seperti yang diharapkan, bukan dilanggar.

Ini berarti masih ada celah bagi peretas untuk menyelinapkan perintah yang mungkin diikuti AI tanpa pertanyaan.

Para ahli khawatir jika AI tidak dapat membedakan antara pesan asli dan serangan tersembunyi, dan Google tidak akan memperbaiki perilaku tersebut, maka risikonya tetap aktif. AI semakin populer untuk pengambilan keputusan cepat dan peringkas email.

Ini bukan hanya Gmail karena risikonya menyebar seiring AI terintegrasi ke dalam Google Docs, Kalender, dan aplikasi eksternal. Pakar keamanan siber mengatakan beberapa serangan ini bahkan dibuat dan dilakukan oleh sistem AI lain, bukan hanya peretas manusia.

Peringatan Google!

Google telah mengingatkan pengguna bahwa mereka tidak mengeluarkan peringatan keamanan melalui ringkasan Gemini. Jadi, jika ringkasan memberi tahu Anda bahwa kata sandi Anda berisiko atau memberi Anda tautan untuk diklik, anggaplah mencurigakan dan hapus email tersebut.

Dalam sebuah blog baru-baru ini, Google mengatakan bahwa Gemini sekarang meminta konfirmasi sebelum melakukan sesuatu yang berisiko, seperti mengirim email atau menghapus sesuatu. Langkah tambahan ini memberi pengguna kesempatan untuk menghentikan tindakan, meskipun AI telah ditipu.

Google juga menampilkan spanduk kuning jika mendeteksi dan memblokir serangan. Jika sistem menemukan tautan mencurigakan dalam ringkasan, sistem akan menghapusnya dan menggantinya dengan peringatan keamanan. Namun, beberapa masalah masih belum teratasi.***

Sumber: Daily Mail, sumber lain