OpenAI Sebut Ada Perusahaan Israel Pakai AI untuk Sebar Disinformasi
0
0
gospelangolano.com, Jakarta – Perusahaan teknologi kecerdasan buatan OpenAI merilis laporan bahwa alat AI digunakan dalam operasi rahasia oleh Israel, Rusia, China, dan Iran untuk menyebarkan disinformasi.
Menurut The Guardian pada Kamis (6/6/2024), pelaku kejahatan menggunakan model AI generatif OpenAI untuk membuat dan mengunggah konten propaganda ke platform media sosial. Kecerdasan buatan generatif juga digunakan untuk menerjemahkan konten ke berbagai bahasa.
Laporan tersebut juga mengungkapkan bahwa sejauh ini tidak ada kampanye jahat yang menjangkau khalayak luas.
Namun, seiring dengan berkembangnya industri AI generatif, para peneliti dan anggota parlemen sangat khawatir bahwa AI digunakan untuk meningkatkan jumlah disinformasi di Internet.
OpenAI, pengembang ChatGPT, sebelumnya mencoba mengurangi kekhawatiran ini dan menerapkan pembatasan pada teknologinya.
Salah satu caranya adalah dengan laporan OpenAI setebal 39 halaman mengenai penggunaan software mereka (oleh pihak yang tidak bertanggung jawab) untuk propaganda.
OpenAI mengklaim para penelitinya telah menemukan dan melarang akun yang terkait dengan lima aktivitas selama tiga bulan terakhir, yang berasal dari pemerintah dan swasta.
Misalnya, dalam kasus Rusia, dua operasi menciptakan dan mendistribusikan konten penting ke Amerika Serikat, Ukraina, dan beberapa negara Baltik lainnya.
Salah satu operasinya menggunakan model OpenAI untuk men-debug kode dan membuat bot yang diunggah ke Telegram.
Dampak dari aktivitas Tiongkok, sebaliknya, menciptakan teks dalam bahasa Inggris, Mandarin, Jepang, dan Korea, yang kemudian dipublikasikan di X, yaitu Twitter dan Medium.
Sedangkan untuk aktris Iran, ia memproduksi artikel dengan bantuan kecerdasan buatan. Artikel ini menghina Amerika Serikat dan Israel. Artikel-artikel tersebut kemudian diterjemahkan ke dalam bahasa Inggris dan Prancis.
Kemudian sebuah perusahaan politik Israel bernama Stoic menjalankan jaringan akun media sosial palsu yang membuat konten berbeda. Hal ini termasuk postingan yang menuduh protes mahasiswa Amerika terhadap invasi Israel ke Gaza sebagai tindakan anti-Semit.
Di sisi lain, Meta juga melarang perusahaan Israel Stoic dari platform tersebut karena dianggap melanggar kebijakan.
Pihak berwenang diberitahu tentang sejumlah penjual disinformasi yang diblokir dari platform mereka oleh OpenAI. Sementara itu, Departemen Keuangan AS menjatuhkan sanksi terhadap dua warga Rusia yang diduga menjalankan salah satu kampanye yang ditemukan oleh OpenAI.
Laporan OpenAI secara umum menyoroti bagaimana AI generatif digunakan dalam kampanye disinformasi sebagai cara untuk meningkatkan aspek-aspek tertentu dalam produksi konten. Misalnya saja mendownload pesan yang lebih menarik dalam bahasa asing.
“Semua operasi ini menggunakan AI sampai batas tertentu, namun tidak secara eksklusif,” kata laporan itu.
Meskipun tidak ada kampanye disinformasi yang memberikan dampak signifikan, penggunaan teknologi OpenAI menunjukkan betapa buruknya pandangan para pelaku terhadap potensi AI generatif untuk meningkatkan produksi propaganda.
Misalnya, menulis, menerjemahkan, dan mengunggah konten dapat dilakukan lebih efisien dengan bantuan alat kecerdasan buatan.
Selain itu, The Guardian menemukan bahwa selama setahun terakhir, pelaku kejahatan telah menggunakan AI generatif di banyak negara untuk memengaruhi politik dunia dan opini publik.
AI dapat menghasilkan audio palsu yang dalam, gambar yang dihasilkan AI, dan kampanye berbasis teks, serta dapat digunakan untuk mengganggu kampanye pemilu.
Hal ini memberikan tekanan lebih besar pada perusahaan seperti OpenAI untuk membatasi penggunaan alat mereka.
Sementara itu, OpenAI mengumumkan rencananya untuk menerbitkan laporan serupa tentang aktivitas influencer dari waktu ke waktu dan menghapus akun yang melanggar kebijakannya.
