- AI -Generated code yang digunakan dalam kampanye phishing, diblokir oleh Microsoft Defender
- Penyerang menggunakan file SVG yang disamarkan sebagai pdf, dengan kode tematik bisnis tersembunyi di dalam
- Safety Copilot bertanda fitur gaya AI seperti pengidentifikasi Verbing dan komentar generik
Kode AI sekarang digunakan melalui industri untuk berbagai tugas, dan dalam keamanan siber, baik keamanan maupun penyerang semakin menargetkan model bahasa besar untuk mendukung pekerjaan mereka.
Pembela menerapkan IA untuk mendeteksi dan menanggapi ancaman skala, sementara penyerang bereksperimen dengannya untuk merinci phishing berani, menghasilkan kode obfuscat dan menyamarkan beban bermanfaat jahat.
Microsoft mengancam intelijen baru -baru ini terdeteksi dan memblokir kampanye penangkapan ikan yang menurutnya menggunakan kode yang dihasilkan untuk menyembunyikan beban yang berguna dalam file SVG.
Dipoles tetapi tidak praktis
Kampanye ini menggunakan akun email yang berkomitmen untuk usaha kecil untuk mengirim pesan yang dikonflik sendiri dengan tujuan nyata yang tersembunyi di bidang BCC, dan yang terlampir
File SVG termasuk item tersembunyi yang dibuat agar terlihat seperti papan bisnis, sementara skrip dalam bisnisnya mengubah kata -kata yang terkait dengan bisnis menjadi kode yang mengungkapkan beban berguna yang tersembunyi.
Ketika dibuka, file tersebut mengarahkan pengguna ke pintu captcha, taktik rekayasa sosial umum yang dapat menyebabkan tanda palsu pada halaman yang dimaksudkan untuk memanen kredensial.
Kebingungan didasarkan pada kata -kata bisnis yang digabungkan dan pola kode formal alih -alih teknik kriptografi.
Keamanan Copilot menganalisis file dan penanda yang koheren dengan output LLM, seperti pengidentifikasi deskriptif panjang, struktur modular berulang, komentar generik dan kombinasi yang tidak biasa dari pernyataan XML dan CDATA.
Fitur -fitur ini membuat kode dipoles di permukaan, tetapi tidak praktis, yang menyebabkan analis percaya bahwa itu mungkin dihasilkan oleh sayangnya.
Para peneliti menggunakan alat AI di Microsoft Defender untuk Office 365 untuk menggabungkan petunjuk yang lebih sulit disembunyikan.
Sistem menandai pola email yang tidak biasa, file ganjil SVG yang disamarkan sebagai PDF, pengalihan ke situs phishing yang diketahui, kode tersembunyi di dalam file dan metode pelacakan yang digunakan pada halaman phishing.
Insiden itu terbatas, mudah diblokir dan menuju terutama ke organisasi -organisasi Amerika Utara, tetapi Microsoft menyatakan bahwa itu menggambarkan bagaimana para penyerang semakin mengalami AI untuk mengembangkan beban yang meyakinkan dan beban pembayaran yang kompleks.
Melacak Majalah Infosecury
