bytedaily - Dilansir dari bbc.com, TikTok telah membatasi fitur kecerdasan buatan (AI) yang salah merangkum beberapa video di platformnya, termasuk mengklaim seorang selebriti sebagai buah-buahan.
Fitur 'AI Overviews' yang baru saja diluncurkan kepada sebagian pengguna di Amerika Serikat dan Filipina ini bertujuan untuk memberikan deskripsi atau konteks tambahan mengenai isi video. Namun, ringkasan yang dihasilkan AI ini seringkali tidak akurat dan aneh, bahkan muncul pada video-video dari bintang platform seperti Charli D'Amelio, dan telah dibagikan secara luas.
Menurut TikTok, fitur ringkasan eksperimental ini telah disesuaikan agar hanya menyarankan produk yang serupa dengan yang ditampilkan dalam video. Perubahan ini pertama kali dilaporkan oleh Business Insider.
Mirip dengan 'AI Overviews' di sebagian besar hasil pencarian Google, fitur AI TikTok ini berupaya merangkum isi video bagi pengguna yang ingin melihat lebih banyak detail dari keterangan video. Beberapa contoh yang dibagikan pengguna dan dilihat oleh BBC menunjukkan deskripsi video yang akurat, namun Business Insider juga mengidentifikasi sejumlah ringkasan AI yang "sangat tidak akurat".
Salah satunya adalah video penari Charli D'Amelio yang digambarkan sebagai "kumpulan berbagai blueberry dengan topping berbeda". Laporan yang sama juga menemukan ringkasan AI yang samar, tidak akurat, dan aneh pada video-video lain dari selebriti dan artis seperti Shakira dan Olivia Rodrigo.
TikTok menyatakan bahwa fitur ini sekarang hanya akan digunakan untuk menampilkan informasi tentang item dalam video. Langkah ini diambil di tengah upaya perusahaan teknologi untuk menerapkan lebih banyak produk AI di platform mereka guna meningkatkan keterlibatan pengguna, meskipun beberapa upaya tersebut mendapat reaksi negatif atau ejekan dari pengguna ketika alat-alat tersebut gagal berfungsi.
Postingan yang mengomentari pengujian 'AI Overviews' oleh TikTok mulai muncul pada Januari lalu. Namun, tampaknya ringkasan tersebut menjadi lebih luas tersedia, dengan beberapa pengguna dan pembuat konten menyoroti kesalahan-kesalahan absurd dalam deskripsi yang dihasilkan AI pada akhir April.
Contoh terbaru yang dibagikan di Reddit menampilkan penampilan penari ballroom Reagan dan Juli To yang dideskripsikan dalam ringkasan AI TikTok sebagai "seseorang berulang kali memukul kepalanya dengan ayam karet". Contoh lain yang dibagikan oleh pengguna TikTok berisi deskripsi aneh serupa. Misalnya, ringkasan AI untuk dua video terpisah, yang tidak menampilkan kekerasan atau alat, menyatakan bahwa video tersebut menampilkan "seseorang berulang kali memukul kepalanya dengan palu".
TikTok menyatakan bahwa pengguna dapat melaporkan dan memberikan umpan balik tentang 'AI Overviews'. Namun, hal ini tidak menghentikan beberapa pengguna berspekulasi apakah platform tersebut "mengolok-olok" penggunanya.
"AI Overview baru ini sangat buruk sehingga terasa seperti lelucon," tulis pengguna dan kreator TikTok Brett Vanderbrook di samping videonya. Ia menunjukkan berbagai contoh di mana fitur AI TikTok menghasilkan deskripsi yang aneh tentang apa yang terjadi dalam video, seperti sketsa komedi yang digambarkan sebagai seseorang "mendemonstrasikan teknik cerdas baru untuk memotong air".
TikTok mengklaim telah mengidentifikasi penyebab kesalahan dan inkonsistensi pada 'AI Overviews', tanpa merinci apa penyebabnya. Namun, alat AI generatif seringkali mengarang informasi saat merespons pengguna, merangkum, atau menghasilkan informasi, dan kesalahannya bisa berkisar dari yang lucu hingga berpotensi berbahaya.
Google sempat menjadi bahan ejekan pada tahun 2024 setelah 'AI Overviews' menyarankan pengguna untuk memakan batu dan "lem pizza". Apple kemudian menghadapi kritik setelah fitur serupa yang mereka luncurkan.
Sumber asli: Artikel ini disadur dari publikasi bbc.com.
