Waspada Pilah Informasi, Konten Deepfake di Media Sosial Dapat Timbulkan Kerugian
0
0
gospelangolano.com, Jakarta – Ancaman dunia maya semakin meningkat seiring dengan meningkatnya ketergantungan masyarakat terhadap platform media sosial. Selain itu, perkembangan teknologi AI mempermudah pembuatan konten palsu dan buatan AI yang menarik.
Hal ini semakin mengaburkan batas antara kenyataan dan fiksi. Penggunaan AI di media sosial juga menimbulkan kekhawatiran mulai dari potensi bias algoritma hingga penyebaran informasi yang salah.
Salah satu penggunaan AI adalah pembuatan deepfake, sejenis teknologi kecerdasan buatan yang memungkinkan pengguna membuat video atau rekaman audio palsu yang mirip dengan orang yang mereka tiru.
Ancaman seperti deepfake phishing juga meningkat seiring dengan munculnya teknologi seperti GPT-3, yang mampu menghasilkan teks dan video yang sangat mirip dengan gaya bicara dan perilaku orang yang ditiru.
Jika digunakan secara tidak bertanggung jawab, teknologi tersebut dapat memanipulasi informasi dan mengelabui orang lain agar membagikan informasi rahasia, yang dapat mengakibatkan kerugian finansial dan hilangnya privasi.
Menanggapi tingginya kemungkinan penggunaan deepfake di jejaring sosial, Lisa Sim, Wakil Presiden Pemasaran Asia Pasifik dan Jaringan Palo Alto Jepang, mengatakan kehadiran kecerdasan buatan meningkatkan ancaman penjahat siber di media sosial.
“Ini karena konten deepfake dan buatan AI semakin mengaburkan batas antara kenyataan dan fiksi,” kata Lisa seperti dikutip dalam pernyataannya.
Lisa memberikan gambaran sederhana bagaimana AI dimanfaatkan oleh pihak-pihak yang tidak bertanggung jawab, misalnya di Indonesia.
“Saat pemilu presiden baru-baru ini, kita melihat banyak konten palsu di media sosial, seperti video yang menampilkan orang-orang yang mirip mantan presiden atau tokoh bangsa lainnya,” kata Lisa.
Dia mengatakan penggunaan deepfake pada saat pemilihan presiden dapat berdampak pada percakapan politik dan berpotensi mempengaruhi opini publik. Hal ini menunjukkan potensi AI dalam menciptakan konten yang kredibel namun palsu, serta kekuatan media sosial untuk memperluas jangkauan penjahat.
“Perpaduan antara media sosial dan konten yang dihasilkan AI memberikan penjahat dunia maya alat rekayasa sosial yang kuat untuk memanipulasi orang-orang biasa agar mengambil tindakan berisiko, seperti mengklik tautan jahat,” kata Lisa.
Ia menambahkan, pada Hari Media Sosial Sedunia yang diperingati pada 30 Juni 2024, pihaknya mengingatkan pentingnya perlindungan terhadap konten deepfake yang dapat menyesatkan kita.
“Kita perlu berhati-hati dalam memilah konten yang kita konsumsi, memeriksa sumbernya, dan memperhatikan kejanggalan pada video atau gambar tersebut,” kata Lisa.
Ia menyarankan pengguna media sosial untuk meninjau dan memperbarui privasi akun mereka secara rutin untuk mengontrol siapa yang dapat melihat unggahan dan informasi pribadi pengguna.
“Hanya dengan selalu waspada kita bisa melindungi diri dari ancaman online yang ada,” ujarnya.
Deepfake sangat berbahaya sehingga Google pernah melarang iklan yang mempromosikan situs web dan aplikasi yang menampilkan pornografi deepfake.
Google telah memperbarui kebijakan konten tidak pantasnya, menambahkan ketentuan yang secara khusus melarang pengiklan mempromosikan situs web, aplikasi, atau layanan yang menghasilkan pornografi deepfake.
Meskipun Google memiliki batasan ketat pada iklan yang berisi jenis konten seksual tertentu, pembaruan ini dibuat untuk melarang iklan konten sintetis yang telah diubah atau dirancang menjadi eksplisit secara seksual atau mengandung ketelanjangan.
Pengiklan mana pun yang mempromosikan situs web atau aplikasi yang memproduksi pornografi palsu, menunjukkan petunjuk tentang cara membuat pornografi palsu, dan mendukung atau membandingkan berbagai layanan pornografi palsu akan diblokir tanpa peringatan.
Mereka juga tidak dapat lagi mempublikasikan iklannya di Google. Perusahaan akan mulai menerapkan aturan ini pada 30 Mei 2024 dan akan memberikan kesempatan kepada pengiklan untuk menghapus iklan apa pun yang melanggar aturan baru tersebut.
Seperti diberitakan 404 Media, Senin (6/5/2024), mengutip Engadget, maraknya teknologi deepfake telah menyebabkan peningkatan iklan yang mempromosikan alat bagi pengguna yang ingin membuat materi seksual eksplisit.
Beberapa alat ini bahkan diduga berpura-pura menjadi layanan yang sehat agar bisa terdaftar di Apple App Store dan Google Play Store.
