Agen -agen dalam AI semuanya kemarahan, pada kenyataannya sebuah studi baru -baru ini mengkonfirmasi bahwa 96% perusahaan Eropa melaporkan atau berencana untuk menggunakan agen AI pada tahun 2026.
Agen di AI secara inheren membutuhkan sejumlah izin untuk bertindak atas nama pengguna; Semuanya, dari kalender hingga rincian pembayaran, dan bahkan informasi perusahaan yang berpotensi sensitif.
Hal ini memungkinkan potensi bahwa akses ini jatuh ke tangan yang salah, atau bahkan agen IA adalah untuk “pergi ke nakal” dan melakukan tugas -tugas yang belum Anda setujui. Ada banyak tekanan untuk mengadopsi agen di AI, karena perusahaan di seluruh dunia menawarkan untuk menjadi lebih produktif, tetapi banyak yang melakukannya sebelum meluncurkan pagar penjaga yang tepat.
Apa itu agen AI?
Dalam acara Okane 2025 baru -baru ini, kami belajar tentang pentingnya mengamankan AI, tetapi apa sebenarnya artinya ini dan bagaimana hal itu dapat dilakukan?
Kami berbicara dengan EMEA Ciso Stephen McDermid dari Okta dan presiden Shiv Ramji otentik untuk mengetahui betapa pentingnya identitas non -manusia (NHI) ini untuk memastikan.
Agen kecerdasan buatan cukup jelas: mereka adalah sistem perangkat lunak yang mereka lakukan secara mandiri tugas atas nama pengguna. Mereka memanfaatkan model IA generatif dan secara bersamaan dapat memproses informasi, baik suara, teks, video atau kode.
Mereka adalah jenis baru teknologi brilian yang banyak orang gunakan dalam kehidupan pribadi dan pribadi mereka. Tetapi, seperti dalam semua teknologi, para ahli keamanan siber memperingatkan bahwa agen -agen ini perlu digunakan dengan hati -hati.
Untuk melakukan tugas atas nama Anda, agen IA harus memiliki akses ke sistem Anda, seperti kalender Anda, email, skema loyalitas dan bahkan informasi kartu kredit dalam banyak kasus.
Tidak dapat dihindari bahwa orang akan menggunakan teknologi, tetapi mereka perlu dilakukan dengan hati -hati, menurut McDermid.
“Itulah mengapa itu sangat penting karena kenyataannya adalah orang -orang akan bermain dengannya,” katanya.
“Mereka akan mencoba dan mencoba untuk bersikap inovatif, seperti yang Anda dengar, semua orang berada di bawah tekanan untuk dilakukan -lebih sedikit; AI adalah cara yang sangat cepat untuk melakukannya, tetapi juga cara yang sangat cepat untuk membuka beberapa risiko, mengekspos data, juga mengekspos pengguna. Saya pikir ini adalah mengapa ini menjadi masalah yang berkembang.”
Apa risikonya?
Ini, tentu saja, merupakan risiko yang signifikan jika agen tidak diamankan dengan benar. AI mudah tertipu dan dapat dengan mudah dimanipulasi.
Meskipun ini luar biasa ketika Anda ingin memprioritaskan pekerjaan Anda, itu berarti penjahat cyber sama -sama dapat menipu model untuk bekerja untuk mereka.
Jika AI Anda berkomitmen, ini bisa terpapar kepada Anda di berbagai tingkatan.
“Ini adalah kebocoran data sensitif, informasi pribadi diekspos dan risikonya semuanya, dari secara hukum hingga keuangan, bahkan untuk melaksanakan peraturan di berbagai negara,” kata Ramji.
Juga bukan teoretis. Risiko tersebut diilustrasikan dengan baik oleh topik -topik baru -baru ini dengan platform perekrutan McDonald AI, yang ditugaskan untuk berkontraksi, meskipun tautan yang lemah dalam kasus ini adalah kata sandi yang sangat mendasar (123456), agen AI memiliki akses ke semua data yang telah dikumpulkannya, termasuk informasi pribadi, dan secara total, 64 juta catatan diekspos, menekankan pada gigi yang ditekankan.
Bagaimana mereka bisa dijamin?
Sayangnya, memastikan NHIS ini bukanlah tugas yang sederhana; “Dengan AI, ada tekanan yang lebih besar untuk menerapkan perubahan ini. Saya pikir itu mungkin lebih sulit karena AI bergerak begitu cepat sehingga tidak memiliki tingkat pemerintahan yang sama,” kata McDermid.
Okta sedang dalam misi untuk mengamankan IA melalui agen di kain pengaman identitas Anda. Platformnya membantu mengidentifikasi konfigurasi yang berisiko dan mengelola izin agen untuk memastikan bahwa agen Anda hanya memiliki akses ke apa pun yang dibutuhkan, tidak lebih lama dari yang Anda butuhkan.
“Semua orang harus memulai keselamatan di tempat sebelum mulai bermain dengan dan karena, sayangnya, Anda telah melihat berita utama, ada beberapa contoh (pelanggaran),” kata McDermid.
Okta juga membantu menjaga keamanan berkelanjutan untuk agen aktif dengan mendeteksi dan menanggapi perilaku anomal atau berisiko tinggi, yaitu, Anda akan diberitahu jika agen Anda tampaknya dipasang.
Akses yang kurang istimewa distandarisasi untuk memastikan proses otentikasi agen dan jejak audit yang jelas membantu melacak masing -masing agen untuk memastikan bahwa itu disimpan sesuai dengan bagian atas masing -masing agen yang bertindak atas nama mereka.
Celah dalam peraturan?
Okta juga telah memperkenalkan seperangkat aturan baru, akses ke aplikasi silang (SHAA). Mereka berusaha membantu seluruh industri melindungi, membangun protokol untuk membantu peralatan keamanan menjaga selangkah lebih maju dari para aktor ancaman.
“Itu tidak akan menjadi peluru perak,” McDermid memperingatkan. “Semua serangan ini tidak akan dihentikan di masa depan, tetapi tentu saja memberi kami peluang terbaik untuk memastikan bahwa ada kapasitas teknis di sana dan dalam layanan dan layanan yang kami tawarkan.”
Standar -standar ini yang diadopsi di seluruh dewan adalah bagian dari upaya yang lebih luas bagi tim keselamatan untuk bekerja sama untuk melindungi diri mereka sendiri dan kolega mereka. Seperti yang ditunjukkan McDermid, aktor ancaman sudah berkolaborasi, memberi mereka tangan yang lebih tinggi dengan praktik dan serangan baru;
“Aktor ancaman berbagi teknik, berbagi platform. Mereka bekerja bersama sebagai kohort dan pelanggan dan organisasi tidak. Saya pikir di situlah kita perlu meningkatkan.”
Belajar satu sama lain adalah bagian penting dari perlindungan industri, kata McDermid. Sangat mudah untuk membuat kita mengintimidasi atau membanjiri rantai serangan yang tampaknya konstan yang kita lihat di berita utama, tetapi untuk benar -benar berurusan dengan risiko, tim harus belajar dari insiden ini dan mengukur alat keamanan mereka sendiri terhadap serangan ini.
“Anda harus terus mencoba dan mempertahankan tata kelola pada kontrol ini dan mempertahankan kebersihan cyber ini karena saya pikir jika Anda tidak mengetahui seperti apa serangan itu, Anda tidak menghargai paparan Anda sendiri terhadap mereka.”
Itu tidak memperingatkan orang untuk menggunakan teknologi, justru sebaliknya. Agen -agen IA akan digunakan apakah perusahaan menyetujui atau tidak, jadi penting untuk meluncurkan kebijakan untuk memastikan bahwa penggunaan itu aman, lebih dari nanti.
