OpenAI Akan Berkerjasama Ke Pihak Propaganda Tiongkok dan Rusia

Jaringan propaganda menggunakan kecerdasan buatan untuk mencoba mempengaruhi suasana politik. OpenAI kini telah menghentikan lima operasi rahasia besar.

Los Angeles. Rusia dan China disebut-sebut telah memanipulasi opini publik dengan menggunakan produk AI dari operator ChatGPT OpenAI. OpenAI mengumumkan pada hari Kamis bahwa mereka telah menghentikan lima operasi rahasia yang mengakses produk AI perusahaan dalam tiga bulan terakhir saja – termasuk jaringan dari Rusia, Tiongkok, Iran dan Israel,

Laporan baru dari produsen ChatGPT menimbulkan kehebohan: Banyak pengamat politik khawatir bahwa AI dapat mempengaruhi sikap pemilih secara besar-besaran pada pemilu mendatang. “Selama satu setengah tahun terakhir, ada banyak pertanyaan tentang apa yang mungkin terjadi jika para propagandis menggunakan AI generatif,” kata Ben Nimmo, peneliti utama di Tim Intelijen dan Investigasi OpenAI. Perusahaan sekarang ingin menjawabnya.

Jaringan propaganda terutama menggunakan AI untuk membuat gambar, teks, dan biografi media sosial. Namun kode bot juga dapat ditingkatkan dengan lebih cepat. Berbeda dengan jaringan disinformasi, kelompok ini menggunakan informasi yang benar secara faktual, namun dengan tujuan menipu, kata Nimmo.

Secara total, OpenAI mengidentifikasi lima jaringan yang menggunakan AI untuk melakukan propaganda, termasuk jaringan “Doppelganger” yang pro-Rusia, “Spamouflage” yang pro-Tiongkok, dan operasi Iran yang dikenal sebagai “Persatuan Media Virtual Internasional (IUVM).” Ini juga termasuk jaringan yang sebelumnya tidak dikenal dari Rusia dan Israel.

Sebuah kelompok baru di Rusia yang disebut OpenAI sebagai “Tata Bahasa Buruk” telah menggunakan model AI perusahaan rintisan tersebut untuk menyebarkan konten spamnya di aplikasi perpesanan Telegram. Awalnya, kelompok rahasia ini menggunakan model OpenAI untuk men-debug kode yang memungkinkan postingan otomatis di Telegram. Dia kemudian membuat komentar dalam bahasa Rusia dan Inggris untuk menanggapi postingan Telegram ini dari lusinan akun. Melalui satu akun, jaringan Rusia memposting komentar yang menyatakan bahwa Amerika Serikat tidak boleh mendukung Ukraina.

Konten AI sering kali dapat diidentifikasi melalui kesalahan pemula, misalnya ketika pemberi komentar merespons dengan frasa AI standar (“Sebagai model bahasa AI, saya siap membantu”). Namun alat AI miliknya juga digunakan untuk mengidentifikasi dan melawan propaganda rahasia.

OpenAI mengatakan pesan para pelaku spam tidak menjangkau jangkauan luas atau dikenali sebagai pesan AI. Tapi itu bukan alasan untuk memberikan segalanya jelas. “Sejarah menunjukkan bahwa propaganda yang telah gagal selama bertahun-tahun bisa tiba-tiba muncul ketika tidak ada yang mencarinya.”