Seorang remaja AS diborgol oleh polisi bersenjata setelah sistem kecerdasan buatan (AI) salah mengira dia membawa senjata – padahal sebenarnya dia sedang memegang sebungkus keripik.
“Polisi muncul seperti delapan mobil polisi, dan kemudian mereka semua berbicara tentang turun ke lapangan dengan senjata diarahkan ke saya,” Taki Allen, seorang siswa berusia 16 tahun dari Baltimore, mengatakan kepada outlet lokal WMR-2 News.
Departemen Kepolisian Baltimore County mengatakan petugas mereka “merespon dengan tepat dan proporsional berdasarkan informasi yang diberikan pada saat itu”.
Dikatakan bahwa peringatan AI dikirim ke pengulas manusia yang tidak menemukan ancaman – tetapi kepala sekolah melewatkannya dan menghubungi petugas sumber daya sekolah, yang akhirnya menelepon polisi.
Namun insiden tersebut telah mendorong seruan dari beberapa pihak untuk meninjau kembali prosedur sekolah seputar penggunaan teknologi tersebut.
Tuan Allen mengatakan kepada berita lokal bahwa dia menghabiskan sekantong Doritos setelah latihan sepak bola, dan memasukkan bungkusan kosong itu ke dalam sakunya.
Setelah 20 menit, polisi bersenjata tiba, katanya.
“Dia memaksa saya berlutut, menangkap saya dan memborgol saya,” katanya.
Departemen Kepolisian Baltimore County mengatakan kepada BBC News bahwa Allen diborgol tetapi tidak ditangkap.
“Insiden ini diselesaikan dengan aman ketika dipastikan tidak ada bahaya,” kata mereka dalam sebuah pernyataan.
Allen mengatakan dia sekarang menunggu di dalam setelah latihan sepak bola, karena menurutnya “tidak cukup aman untuk keluar, terutama untuk makan sekantong keripik atau minum”.
Dalam suratnya kepada orang tua, kepala sekolah Kate Smith mengatakan tim keamanan sekolah “segera melakukan peninjauan setelah memastikan tidak ada senjata dan membatalkan peringatan awal”.
“Saya menghubungi petugas sumber daya sekolah (SRO) kami dan memberi tahu dia tentang masalah tersebut, dan dia menghubungi daerah setempat untuk mendapatkan bantuan tambahan,” katanya.
“Petugas polisi mendatangi sekolah tersebut, menggeledah individu tersebut dan dengan cepat memastikan bahwa mereka tidak membawa senjata.”
Namun, politisi lokal telah menyerukan penyelidikan lebih lanjut atas insiden tersebut.
“Saya menyerukan kepada Baltimore County Public Schools untuk meninjau kembali prosedur seputar sistem deteksi senjata bertenaga AI,” tulis anggota dewan lokal Baltimore County, Izzy Pakota, di Facebook.
Penyedia alat AI Omnilert mengatakan kepada BBC News: “Kami menyesalkan insiden ini terjadi dan kami ingin menyampaikan keprihatinan kami kepada para pelajar dan masyarakat luas yang terkena dampak peristiwa berikutnya.”
Dikatakan bahwa sistemnya awalnya mendeteksi apa yang sebenarnya tampak nyata dan gambarnya kemudian divalidasi oleh tim peninjaunya.
Informasi tersebut kemudian diteruskan ke tim keamanan Baltimore County Public Schools (BCPS) untuk dievaluasi, bersama dengan informasi lainnya “dalam hitungan detik,” kata Omnilert.
Perusahaan keamanan tersebut mengatakan keterlibatannya dalam insiden tersebut berakhir setelah masalah tersebut ditandai sebagai terselesaikan dalam sistemnya – dan menambahkan bahwa insiden tersebut telah sepenuhnya “berjalan sesuai rencana”.
“Meskipun benda tersebut kemudian ditentukan bukan senjata, proses tersebut memiliki tujuan: memprioritaskan keselamatan dan kesadaran melalui verifikasi manusia secara cepat,” katanya.
Omnilert mengatakan pihaknya adalah “penyedia terkemuka” pendeteksi senjata AI – mengutip beberapa sekolah AS sebagai salah satu studi kasus di situs webnya.
“Penelitian senjata di dunia nyata berantakan,” katanya.
Namun Allen berkata: “Saya rasa kantong keripik apa pun tidak boleh dianggap sebagai senjata.”
Kesesuaian AI untuk mengidentifikasi senjata secara akurat sedang diselidiki.
Tahun lalu, Evolve Technology, sebuah perusahaan pemindai senjata AS, dilarang karena membuat klaim yang tidak didukung tentang produknya setelah perusahaan tersebut mengatakan pemindai AI miliknya, yang digunakan di pintu masuk ribuan sekolah, rumah sakit, dan stadion di AS, dapat mendeteksi semua senjata api.
Investigasi BBC News menemukan bahwa klaim ini salah.
