Pembuat chatbot kecerdasan buatan (AI) Cloud mengklaim telah menangkap peretas pemerintah Tiongkok yang menggunakan alat tersebut untuk meluncurkan serangan siber otomatis terhadap hampir 30 organisasi global.
Peretas menipu chatbot untuk melakukan tugas otomatis dengan kedok penelitian keamanan siber, kata Anthropic.
Perusahaan tersebut mengklaim dalam sebuah postingan blog bahwa ini adalah “kampanye spionase dunia maya terkoordinasi AI yang pertama kali dilaporkan”.
Namun pihak yang skeptis mempertanyakan keakuratan klaim tersebut – dan motif di baliknya.
Anthropic mengatakan pihaknya menemukan upaya peretasan tersebut pada pertengahan September.
Dengan berpura-pura bahwa mereka adalah personel keamanan siber yang sah, para peretas memberikan tugas-tugas otomatis kecil kepada chatbot yang, jika digabungkan, merupakan “kampanye spionase yang sangat canggih”.
Para peneliti di Anthropic mengatakan mereka memiliki “keyakinan tinggi” bahwa para penyerang adalah “kelompok yang disponsori negara Tiongkok”.
Dia mengatakan manusia memilih targetnya – perusahaan teknologi besar, lembaga keuangan, perusahaan manufaktur bahan kimia, dan lembaga pemerintah – tetapi perusahaan tersebut tidak akan menjelaskan secara lebih spesifik.
Peretas kemudian membuat program yang tidak ditentukan menggunakan dukungan pengkodean cloud untuk “secara mandiri mengkompromikan target yang dipilih dengan sedikit keterlibatan manusia.”
Anthropic mengklaim bahwa chatbot berhasil menembus berbagai organisasi anonim, mengekstrak data sensitif, dan menyaringnya untuk mendapatkan informasi berharga.
Perusahaan tersebut mengatakan telah melarang peretas menggunakan chatbot dan memberi tahu perusahaan yang terkena dampak serta penegak hukum.
Pengumuman Anthropic mungkin merupakan contoh paling terkenal dari perusahaan yang mengklaim bahwa pelaku kejahatan menggunakan alat AI untuk melakukan peretasan otomatis.
Ancaman inilah yang dikhawatirkan banyak orang, namun perusahaan AI lainnya juga mengklaim bahwa peretas negara telah menggunakan produk mereka.
Pada bulan Februari 2024, OpenAI, bekerja sama dengan pakar siber dari Microsoft, menerbitkan postingan blog yang menyatakan bahwa mereka telah menyusupi lima aktor yang terkait dengan negara, termasuk beberapa dari Tiongkok.
“Para pelaku ini biasanya menggunakan layanan OpenAI untuk menanyakan informasi sumber terbuka, menerjemahkannya, menemukan kesalahan pengkodean, dan melakukan tugas pengkodean dasar,” kata perusahaan itu pada saat itu.
Anthropic tidak mengatakan bagaimana para peretas dalam kampanye terbaru ini terkait dengan pemerintah China.
Hal ini terjadi ketika beberapa perusahaan keamanan siber dikritik karena kasus-kasus yang berlebihan di mana AI digunakan oleh peretas.
Kritikus mengatakan teknologi yang digunakan untuk serangan siber otomatis sebagian besar masih belum berkembang.
Pada bulan November, pakar siber Google merilis makalah penelitian yang menyoroti meningkatnya kekhawatiran mengenai peretas yang menggunakan AI untuk menciptakan bentuk perangkat lunak berbahaya yang benar-benar baru.
Namun makalah tersebut menyimpulkan bahwa alat tersebut belum sepenuhnya berhasil dan masih dalam tahap pengujian.
Industri keamanan siber, seperti bisnis AI, sering mengatakan bahwa peretas menggunakan teknologi tersebut untuk menargetkan perusahaan guna meningkatkan minat terhadap produk mereka.
Dalam postingan blognya, Anthropic berpendapat bahwa jawaban untuk menghentikan penyerang AI adalah dengan menggunakan pembela AI.
“Kemampuan yang memungkinkan cloud digunakan dalam serangan ini juga menjadikannya penting bagi pertahanan siber,” klaim perusahaan tersebut.
Dan Anthropic mengakui bahwa chatbot tersebut melakukan kesalahan. Misalnya, mereka membuat nama pengguna dan kata sandi login palsu dan mengklaim mengekstrak informasi rahasia yang sebenarnya tersedia untuk umum.
“Hal ini masih menjadi penghalang bagi serangan siber yang sepenuhnya otonom,” kata Anthropic.
