Ancaman Konten Palsu AI: Peringatan dari Peneliti Google
NEWSLIVE – Peneliti Google baru-baru ini mengeluarkan makalah yang memperingatkan dampak negatif kecerdasan buatan (AI) generatif terhadap internet. Studi yang belum di-peer review ini menyoroti potensi kerusakan yang bisa ditimbulkan oleh konten palsu buatan AI generatif.
Dalam penelitian tersebut, Google menemukan bahwa banyak pengguna memanfaatkan AI generatif untuk mengaburkan batas antara konten asli dan palsu. Gambar dan video buatan AI sering kali diunggah ke internet, membuat sulit untuk membedakan mana yang benar dan mana yang palsu.
Peneliti Google menelusuri sejumlah riset sebelumnya tentang AI generatif dan menganalisis sekitar 200 artikel berita yang melaporkan penyalahgunaan teknologi ini. “Manipulasi kemiripan manusia dan pemalsuan bukti mendasari taktik paling umum dalam kasus penyalahgunaan AI di dunia nyata,” ungkap peneliti Google dalam makalahnya, dikutip dari Futurism, Senin (8/7/2024). Mereka menjelaskan bahwa banyak dari taktik ini digunakan untuk mempengaruhi opini publik, memudahkan penipuan, atau meraih keuntungan.
Baca Juga: Xiaomi Uji Coba HyperOS 2.0 sebagai Pengganti MIUI
Masalah ini semakin parah karena platform AI generatif kini semakin banyak dan mudah diakses oleh siapa saja tanpa memerlukan pemahaman teknologi tingkat tinggi. Selain itu, kebanyakan pengguna internet tidak memiliki kemampuan untuk membedakan antara konten asli dan konten buatan AI. “Produksi massal konten sintetis berkualitas rendah, mirip spam, dan berniat jahat berisiko meningkatkan keraguan masyarakat terhadap informasi digital dan membebani pengguna dengan tugas verifikasi,” jelas peneliti Google.
Penelitian ini juga mencatat beberapa contoh di mana individu terkenal membantah rumor atau isu negatif dengan klaim bahwa itu adalah buatan AI. Hal ini menambah kerumitan dalam menentukan kebenaran informasi di era digital saat ini.
Yang menarik, laporan Google ini tidak menyebutkan fitur AI mereka yang kontroversial. Belum lama ini, fitur AI Overviews dalam Google Search menjadi sorotan netizen karena memberikan jawaban yang aneh dan tidak masuk akal. Misalnya, AI Overviews menyarankan pengguna untuk menggunakan lem tidak beracun agar keju bisa menempel di pizza atau mengutip ‘ahli geologi’ yang menyarankan untuk memakan satu batu kecil per hari. Hasil pencarian yang tidak logis ini segera dihilangkan dan fiturnya dibatasi.
Penelitian ini menegaskan perlunya kewaspadaan dan regulasi yang ketat dalam penggunaan AI generatif, guna mencegah penyebaran konten palsu dan melindungi integritas informasi di internet.
