bytedaily - Melansir laporan dari cnnindonesia.com, sebuah akun TikTok dengan nama pengguna @nia.hajar_s tengah menjadi perbincangan hangat setelah terungkap bahwa sosok 'ustazah' yang tampil di dalamnya merupakan hasil rekayasa kecerdasan buatan (AI). Akun ini telah mengumpulkan lebih dari 920 ribu pengikut dan 10,4 juta suka di TikTok.
Dalam video-video yang diunggah, sosok perempuan tersebut terlihat mengenakan hijab dan menyampaikan materi layaknya seorang penceramah agama. Kemunculan 'Ustazah Hajar' ini memicu keresahan di kalangan warganet. Kekhawatiran utama adalah visual yang sangat realistis sehingga banyak audiens digital tertipu dan mengira sedang mendengarkan ceramah dari manusia asli. Selain itu, muncul pula kekhawatiran mengenai akuntabilitas, karena jika terjadi kekeliruan dalam tafsir, tidak ada individu nyata yang dapat dimintai pertanggungjawaban.
Firman Kurniawan, seorang pemerhati budaya dan komunikasi digital, mengonfirmasi bahwa 'Ustazah Hajar' adalah buatan AI. Ia menyoroti beberapa ciri yang mengindikasikan hal tersebut, salah satunya adalah intonasi suara yang sangat teratur dan monoton. Menurut Firman, hal ini berbeda dengan cara bicara manusia yang alami, yang seringkali memiliki jeda atau keraguan.
Firman menjelaskan bahwa maraknya konten buatan AI didorong oleh tiga faktor utama. Pertama, teknologi AI semakin terjangkau, bahkan beberapa platform menawarkan layanan gratis. Kedua, penggunaan teknologi AI semakin mudah diakses, di mana seseorang dapat menghasilkan konten komunikatif hanya dengan menonton tutorial dan mencoba sendiri tanpa perlu pendidikan khusus. Ketiga, kualitas hasil konten AI sudah sangat memuaskan sehingga sulit dibedakan dari konten asli.
Pengamat digital, Alfons Tanujaya, turut mengamini fenomena ini. Ia menyatakan bahwa kemampuan AI dalam menghasilkan gambar, video, dan suara yang semakin mirip dengan aslinya telah menjadi tren. Alfons menambahkan bahwa industri modelling juga telah dirambah oleh model AI yang bahkan memiliki pengikut lebih banyak daripada kreator manusia. Ia berpendapat bahwa sebagian besar pengguna yang belum memahami perkembangan ini cenderung mudah mempercayai konten AI sebagai buatan manusia.
Alfons menekankan bahwa dampak dari konten AI, baik positif maupun negatif, bergantung pada niat dan isi pesan yang disampaikan, bukan semata-mata pada pembuatnya. Namun, risiko terbesar muncul ketika identitas pengelola konten tidak jelas. Jika tidak diawasi dengan baik dan identitas penyedia konten tidak diketahui, akan sulit bagi pihak berwenang untuk melacak atau meminta pertanggungjawaban.
