Bayangkan sebuah dunia di mana kalimat sederhana bisa mengendalikan rumah pintar Anda tanpa sepengetahuan Anda. Penelitian terbaru dari Tel Aviv University menunjukkan bahwa hanya dengan satu entri kalender, AI dapat disusupi, dan semua perangkat pintar Anda bisa ikut dikendalikan!

Dalam sebuah studi menghebohkan, para peneliti membuktikan bahwa sistem AI yang dikenal sebagai Gemini, yang terintegrasi dengan ekosistem Google, dapat dimanipulasi dengan manipulasi bahasa alami. Ya, Anda tidak salah dengar! Hanya dengan mengatakan “terima kasih” bisa membuat Gemini menyalakan lampu dan bahkan memanaskan air secara otomatis.

Kendala di balik kemudahan otomatisasi ini adalah kenyataan mengerikan bahwa sebuah entri kalender yang tampak biasa bisa menjadi senjata dalam serangan yang disebut “prompt-injection.” Para peneliti menemukan bahwa mereka dapat menyisipkan instruksi berbahaya ke dalam sebuah acara kalender yang tampaknya tidak berbahaya, dan saat pengguna meminta Gemini untuk merangkum jadwal, instruksi tersembunyi tersebut pun diaktifkan.

Di sinilah masalahnya: Gemini dapat bertindak sebagai agen Google Home, menunggu perintah yang sering diucapkan seperti “terima kasih” atau “baiklah” dari pengguna. Pada saat itu, perangkat pintar seperti lampu, tirai, dan bahkan pemanas air diaktifkan, semuanya tanpa izin pengguna.

Metode yang dikenal sebagai “promptware” ini menimbulkan kekhawatiran serius terhadap bagaimana AI menginterpretasi masukan pengguna dan data eksternal. Para peneliti berpendapat bahwa serangan jenis ini adalah ancaman yang berkembang, memadukan rekayasa sosial dengan otomatisasi canggih.

Mereka menunjukkan bahwa teknik ini tidak hanya bisa mengendalikan perangkat, tetapi juga dapat digunakan untuk menghapus janji, mengirim spam, atau membuka situs web berbahaya yang dapat menyebabkan pencurian identitas atau infeksi malware.

Setelah penelitian ini, tim peneliti berkoordinasi dengan Google untuk mengungkapkan kerentanan ini, dan sebagai respons, perusahaan tersebut mempercepat penerapan perlindungan baru terhadap serangan prompt-injection, termasuk peninjauan tambahan untuk acara kalender dan konfirmasi ekstra untuk tindakan sensitif. Namun, masih ada pertanyaan mengenai seberapa efektif perbaikan ini, terutama saat Gemini dan sistem AI lainnya mulai mengendalikan lebih banyak data dan perangkat pribadi.

Sayangnya, suite keamanan tradisional dan perlindungan firewall tidak dirancang untuk menangkal jenis serangan ini. Oleh karena itu, pengguna disarankan untuk membatasi akses alat AI dan asisten seperti Gemini terhadap informasi sensitif, terutama kalender dan kontrol rumah pintar.

Hindari menyimpan instruksi kompleks dalam acara kalender, dan jangan biarkan AI bertindak tanpa pengawasan. Pastikan untuk tetap waspada terhadap perilaku tidak biasa dari perangkat pintar Anda dan putuskan aksesnya jika ada yang terasa aneh.