- Fragmen URL tersembunyi memungkinkan penyerang memanipulasi asisten AI tanpa sepengetahuan pengguna
- Beberapa asisten AI secara otomatis mengirimkan data sensitif ke titik akhir eksternal
- Panduan menyesatkan dan tautan palsu mungkin muncul di situs web normal
Banyak browser AI menghadapi pengawasan setelah peneliti merinci bagaimana sebuah fragmen sederhana dalam URL dapat digunakan untuk mempengaruhi pembantu browser.
Penelitian baru dari Cato Networks menemukan bahwa teknologi “hashjack” memungkinkan instruksi berbahaya untuk diam-diam berada di belakang hashtag dalam tautan yang sah, menciptakan jalur untuk perintah rahasia yang tetap tidak terlihat oleh alat pemantauan tradisional.
Helper memproses teks tersembunyi secara lokal, yang berarti server tidak pernah menerimanya, dan pengguna terus melihat halaman normal sementara browser mengikuti instruksi yang tidak pernah mereka ketik.
Tingkah laku pembantu pada saat potongan diolah
Pengujian telah menunjukkan bahwa beberapa asisten mencoba melakukan tindakan otonom ketika terkena fragmen ini, termasuk tindakan yang mengirimkan data ke lokasi eksternal yang dikendalikan oleh penyerang.
Yang lain menawarkan panduan yang menyesatkan atau mempromosikan tautan yang meniru sumber tepercaya, mengubah informasi yang diberikan kepada pengguna untuk memberikan kesan sesi normal.
Browser terus menampilkan situs yang benar, sehingga sulit untuk mendeteksi penyusupan tanpa memeriksa dengan cermat tanggapan pembantu.
Perusahaan-perusahaan teknologi besar telah diberi pengarahan mengenai masalah ini, namun tanggapan mereka sangat berbeda.
Beberapa vendor menerapkan pembaruan pada fitur browser AI mereka, sementara vendor lainnya menilai perilaku yang diharapkan berdasarkan logika desain yang ada.
Perlindungan terhadap manipulasi cepat tidak langsung bergantung pada cara setiap asisten AI membaca instruksi di halaman tersembunyi, kata perusahaan tersebut.
Alat inspeksi lalu lintas reguler hanya dapat melihat fragmen URL yang keluar dari perangkat.
Oleh karena itu, tindakan keamanan tradisional memberikan perlindungan terbatas dalam skenario ini karena fragmen URL tidak pernah meninggalkan perangkat untuk diperiksa.
Hal ini memaksa para pembela HAM untuk melakukan lebih dari sekedar tinjauan tingkat jaringan dan memeriksa bagaimana alat AI terintegrasi dengan browser.
Pemantauan yang kuat memerlukan perhatian terhadap perilaku lokal, termasuk cara asisten memproses konteks tersembunyi yang tidak terlihat oleh pengguna.
Organisasi harus menggunakan perlindungan titik akhir yang lebih ketat dan aturan firewall yang lebih ketat, namun ini hanya satu lapisan dan tidak memperbaiki kesenjangan visibilitas.
Metode hashjack mewakili kerentanan unik terhadap penelusuran yang dibantu AI, di mana situs web yang sah dapat dijadikan senjata tanpa meninggalkan jejak tradisional.
Kesadaran akan keterbatasan ini penting bagi organisasi yang menggunakan alat AI, karena pemantauan tradisional dan tindakan pertahanan tidak dapat sepenuhnya menangkap ancaman ini.
Bagaimana agar tetap aman
- Batasi informasi pribadi yang dibagikan secara online.
- Pantau akun keuangan untuk aktivitas yang tidak biasa.
- Gunakan kata sandi yang unik dan rumit untuk semua akun.
- Verifikasi URL sebelum masuk ke situs web.
- Waspadalah terhadap pesan atau telepon yang tidak diminta yang mengaku berasal dari lembaga keuangan.
- Terapkan perangkat lunak antivirus untuk melindungi perangkat dari malware.
- Aktifkan firewall untuk mencegah akses tidak sah.
- Gunakan Perlindungan Pencurian Identitas untuk memantau informasi pribadi.
- Sadarilah bahwa kampanye phishing modern dan serangan yang didukung AI masih menimbulkan risiko.
- Efektivitas bergantung pada implementasi yang konsisten di seluruh perangkat dan jaringan.
Ikuti TechRadar di Google Berita Dan Tambahkan kami sebagai sumber daya pilihan Untuk mendapatkan berita, ulasan, dan opini pakar kami di feed Anda. Pastikan untuk mengklik tombol ikuti!
Dan tentu saja Anda juga bisa Ikuti TechRadar di TikTok Dapatkan berita, review, unboxing dalam bentuk video, dan update rutin dari kami Ada apa Juga
