Dampak Aktivitas ChatGPT pada Alat Pengawasan Media Sosial AI
OpenAI, pengembang ChatGPT, menyoroti perlunya masukan dari berbagai pemangku kepentingan untuk menilai dampak penggunaan ChatGPT dalam mengedit kode untuk alat pengawasan media sosial AI.
Pemblokiran Akun Pengguna Asal China
OpenAI memblokir akun pengguna asal China yang diduga menggunakan ChatGPT untuk men-debug dan mengedit kode untuk alat pengawasan media sosial AI. Akun-akun ini beroperasi dalam pola waktu yang konsisten dengan jam kerja di China daratan dan menggunakan ChatGPT dalam volume dan variasi yang menunjukkan permintaan manual.
Penggunaan ChatGPT untuk Kritik Politik
Selain itu, OpenAI juga melarang akun yang menggunakan ChatGPT untuk membuat postingan media sosial yang mengkritik Cai Xia, seorang ilmuwan politik yang dianggap membangkang China. Kelompok yang sama juga menggunakan ChatGPT untuk membuat artikel dalam bahasa Spanyol yang mengkritik AS.
Kode Alat Pengawasan Berbasis Model Sumber Terbuka
Sebagian besar kode untuk alat pengawasan tampaknya didasarkan pada versi sumber terbuka dari model Llama milik Meta. Kelompok yang menggunakan ChatGPT mengklaim telah menulis email phishing atas nama klien di China.
Kampanye Peer Review
OpenAI mengidentifikasi kampanye yang disebut Peer Review, di mana kelompok tersebut menggunakan ChatGPT untuk membuat promosi penjualan untuk program yang dirancang untuk memantau sentimen anti-China di berbagai platform media sosial.
Temuan Pertama OpenAI
Menurut Ben Nimmo, peneliti utama di OpenAI, ini adalah pertama kalinya perusahaan tersebut menemukan alat AI yang digunakan untuk tujuan semacam ini. Operasi tersebut tampaknya sangat tertarik untuk menemukan seruan protes terhadap pelanggaran hak asasi manusia di China.
23 Februari 2025
Komentar0