Amazon mendapati rekap video yang dihasilkan oleh kecerdasan buatan (AI) dari acara TV terkenalnya, Fallout, salah setelah pengguna mengatakan beberapa fakta tentang serial tersebut salah.
Perusahaan tersebut mengatakan pada bulan November bahwa mereka sedang menguji alat “pertama dari jenisnya” di AS untuk membantu pemirsa menonton beberapa acaranya di layanan streaming Prime Video – termasuk Fallout, sebuah adaptasi dari franchise video game populer.
Namun adegan tersebut telah menghilang dari situs setelah pengguna menyoroti kesalahan dalam video yang merangkum peristiwa Fallout musim pertama – yang mengklaim bahwa satu adegan dibuat 100 tahun sebelumnya.
BBC telah menghubungi Amazon untuk memberikan komentar.
Langkah untuk menghentikan rekap yang didukung AI pertama kali dilaporkan oleh publikasi teknologi The Verge.
Amazon mengatakan pada bulan November bahwa rekap akan tersedia bagi pengguna sebagai fitur eksperimental, dan hanya “untuk Prime Original Series berbahasa Inggris tertentu di AS”.
“Rekap video menggunakan AI untuk meringkas poin plot acara yang paling relevan dengan video berkualitas teatrikal yang mencakup narasi, dialog, dan musik,” katanya.
Namun para penggemar yang menantikan perilisan seri Fallout berikutnya pada 17 Desember menunjukkan kesalahan yang terjadi dalam rekap video seri pertama.
Pengguna di Reddit mengatakan bahwa klip The Ghoul – yang diperankan oleh aktor Walton Goggins, salah satu karakter utama acara tersebut – secara keliru digambarkan sebagai “kilas balik tahun 1950-an” dalam legenda AI.
Terlepas dari estetika klipnya yang kuno, klip tersebut sebenarnya menggambarkan sebuah adegan pada tahun 2077 – sesuatu yang akan langsung diketahui oleh para penggemar serial ini.
Penggemar juga mengatakan rekap tersebut salah merangkum adegan antara The Ghoul, yang diperankan oleh Ella Purnell, dan karakter utama Lucy MacLean, mengubah dinamika mereka sedemikian rupa sehingga membingungkan pemirsa baru.
Ini bergabung dengan daftar panjang kesalahan yang terjadi saat menggunakan alat AI generatif untuk menghasilkan ringkasan konten.
Pada awal tahun 2025, Apple menangguhkan fitur AI yang merangkum informasi setelah menerima keluhan atas kesalahan berulang dalam merangkum judul berita.
BBC termasuk di antara kelompok yang mengeluhkan fitur tersebut, setelah peringatan yang dihasilkan oleh AI Apple memberikan informasi palsu kepada beberapa pembaca bahwa Luigi Mangione, yang dituduh membunuh CEO UnitedHealthcare Brian Thompson, telah menembak dirinya sendiri.
Ikhtisar AI Google, yang bertujuan untuk memberikan ringkasan singkat hasil pencarian, juga mendapat kritik dan cemoohan karena kesalahannya.
