Big Tech gagal melindungi konsumen dari penipuan AI – berikut cara agar tetap aman

yang mana yang telah mengidentifikasi penipuan palsu mendalam di YouTube yang ditujukan untuk pengguna
Hal ini mendorong masyarakat untuk berinvestasi dalam skema palsu
yang mana Mengimbau pemerintah dan perusahaan teknologi untuk menghentikan mereka

Apa penelitian baru dari kelompok konsumen? telah mendesak pemerintah untuk memberlakukan peraturan yang lebih ketat pada perusahaan teknologi besar untuk melindungi pengguna internet dari penipuan yang didorong oleh AI.

Investigasi yang dilakukan oleh kelompok tersebut menemukan video palsu yang kredibel dari jurnalis keuangan (dan sumber terpercaya) Martin Lewis, serta Perdana Menteri Inggris Keir Starmer, yang menyarankan pemirsa untuk berinvestasi dalam skema penipuan, dan video palsu yang memberikan kesan bahwa penipuan tersebut didukung oleh pemerintah dan ‘bebas risiko’.

Penipuan palsu AI telah meroket sejauh ini pada tahun 2025, dan teknologi yang berkembang pesat membuat penipuan ini semakin sulit dikenali.

Bahaya bagi pelanggan

Kelompok pengguna kini telah memanggil perusahaan-perusahaan teknologi seperti YouTube, X (sebelumnya Twitter), dan Meta atas ‘kesediaan mereka untuk memblokir konten berbahaya dan menyesatkan’; Dan selanjutnya meminta pemerintah untuk ‘memastikan strategi anti-penipuan di masa depan mencakup langkah-langkah yang lebih ketat untuk menjaga akuntabilitas perusahaan-perusahaan teknologi besar.’

Financial Conduct Authority mengikuti panduan umum, yang memperingatkan agar tidak mengandalkan saran dari pemberi pengaruh keuangan yang tidak terverifikasi – namun seperlima (20%) investor memercayai pemberi pengaruh online saat mengambil keputusan investasi.

Tentu saja, pemalsuan besar-besaran dari sumber yang benar-benar dapat diandalkan adalah cerita yang berbeda, jadi penting untuk meninjau konten yang Anda lihat (yaitu, pastikan itu adalah saluran resmi, dengan tautan aman, dan situs web yang sah).

Hal ini diperumit oleh fakta bahwa penjahat, dengan bantuan AI, dapat dengan cepat dan akurat membuat situs web spoof yang dirancang untuk meniru outlet berita terkemuka, seperti Where? dan BBC.

“AI mempersulit kita untuk mengetahui apa yang nyata dan apa yang tidak,” jelas Rossio Concha, direktur kebijakan dan advokasi di Where?

“Penipu mengetahui hal ini – dan mengeksploitasinya dengan kejam. Sementara itu, platform Teknologi Besar yang banyak kita gunakan setiap hari tidak melakukan upaya yang cukup untuk menghentikan penipu mengoperasikan situs mereka, sehingga membahayakan penggunanya.”

“Untuk melindungi warga negara Inggris dari penipuan, pemerintah harus mengembangkan strategi penipuan yang berfokus pada tindakan yang akan memberikan tindakan keras terhadap perusahaan teknologi besar dan jaringan lemah lainnya yang memungkinkan penipu berkembang biak secara online”

Meskipun demikian, YouTube baru-baru ini mengembangkan sebuah alat yang memungkinkan pembuat konten menandai klon video yang dibuat oleh AI, yang tidak serta merta menargetkan penipuan finansial deepfake, namun diharapkan merupakan langkah ke arah yang tepat untuk mengidentifikasi video deepfake.