Kemampuan AI dalam merangkum email ternyata bisa jadi bumerang. Gemini AI, asisten berbasis kecerdasan buatan dari Google yang kini tertanam di Workspace dan Gmail, ternyata bisa dimanfaatkan oleh hacker untuk mencuri akun Gmail pengguna lewat teknik manipulasi yang nyaris tak terlihat.
Fitur bawaan Gemini memang dirancang untuk membantu pengguna membaca email lebih cepat, mulai dari menampilkan informasi penting, membuat jadwal otomatis, hingga menyusun tanggapan. Namun, justru di sinilah celah keamanan terbuka lebar.
Modus Hacker Menggunakan Gemini AI
Marco Figueroa, seorang peneliti keamanan sekaligus GenAI Bug Bounty Programs Manager di Mozilla, menemukan teknik baru bernama “prompt injection” yang menyusupkan perintah tersembunyi ke dalam isi email. Perintah ini dikamuflase menggunakan HTML dan CSS, seperti menyetel ukuran huruf menjadi nol atau mengubah warnanya menjadi putih agar tak terlihat oleh pengguna, namun tetap bisa dibaca dan dijalankan oleh Gemini.
GPUHammer Mengancam, Akurasi AI di GPU Bisa Rusak Hingga 0,1%
Dengan cara ini, AI milik Google bisa saja menampilkan pesan palsu kepada korban. Misalnya, pesan yang memberi tahu bahwa akun telah diretas dan meminta pengguna menghubungi nomor tertentu yang ternyata milik penipu. Karena disajikan oleh sistem yang tampak resmi, risiko korban tertipu pun makin besar.
Untuk mencegah risiko lebih luas, para pakar menyarankan agar klien email menghapus konten tersembunyi dalam teks, menambahkan filter yang bisa mengenali pesan bernada mendesak atau mencurigakan, serta mengedukasi pengguna bahwa rangkuman dari AI tidak bisa dianggap sebagai pengganti sistem peringatan keamanan.
Tapi untungnya ini juga baru sebatas temuan celah keamanan saja. Diharapkan, Google bisa memperbaiki celah tersebut agar tidak dimanfaatkan oleh hacker sungguhan di waktu mendatang.
AI mungkin semakin pintar, tapi sayangnya, kini juga bisa jadi pintu masuk bagi penjahat siber. Semakin canggih teknologi, semakin canggih juga ancaman dibaliknya ya!