Eksperimen rahasia kecerdasan buatan (AI) di Universitas Zurich (Zurich Uni) mengendalikan pandangan pengguna Reddit

Sumber: Cointelegraph Teks Asli: "Universitas Zurich (Zurich Uni) mengendalikan pandangan pengguna Reddit melalui eksperimen kecerdasan buatan (AI) rahasia"

Peneliti dari Universitas Zurich dituduh melakukan eksperimen selama empat bulan di sebuah forum diskusi Reddit tanpa izin, menggunakan komentar yang dihasilkan oleh AI untuk menguji apakah AI dapat mengubah pandangan orang.

Menurut sebuah postingan yang dirilis oleh moderator subforum r/changemyview pada 26 April, dalam eksperimen tersebut, akun yang didorong oleh AI menyamar sebagai berbagai identitas, termasuk korban pemerkosaan, orang yang menentang gerakan sosial tertentu, serta konselor trauma yang khusus menangani kasus penyalahgunaan.

Moderator menyatakan: "Subforum kami adalah ruang yang jelas berpusat pada manusia, secara tegas menolak tindakan menyembunyikan penggunaan AI, ini adalah nilai inti. Orang-orang datang ke sini, bukan untuk berdiskusi tentang pandangan dengan AI atau menjadi objek percobaan."

Menurut draf makalah penelitian, para peneliti menggunakan AI untuk menghasilkan tanggapan dan mencoba mempersonalisasi tanggapan tersebut berdasarkan riwayat Reddit sebelumnya dari pengguna yang memposting posting asli, seperti kecenderungan politik, jenis kelamin, usia, dan etnis.

Dalam percobaan selama empat bulan, akun AI palsu dari Universitas Zurich telah memposting 1.783 komentar dan mendapatkan 137 tanda "delta"—ini adalah tanda yang digunakan pengguna Reddit untuk menunjukkan bahwa pandangan mereka tentang suatu masalah telah diyakinkan untuk berubah.

Peneliti menyatakan dalam sebuah posting yang dirilis ke sub-bagian tersebut bahwa semua komentar telah melalui pemeriksaan manual sebelum dipublikasikan untuk memastikan kepatuhan terhadap pedoman komunitas dan "meminimalkan potensi bahaya".

Tim peneliti dari Universitas Zurich berpendapat bahwa "potensi manfaat penelitian ini jauh lebih besar daripada risikonya," karena mereka menemukan bahwa model bahasa besar (LLMs) yang digunakan dalam eksperimen memiliki daya persuasi yang sangat kuat, melebihi "tolok ukur daya persuasi manusia yang telah diketahui sebelumnya."

Peneliti menyatakan: "Penelitian terkendali dan berisiko rendah yang kami lakukan memberikan wawasan berharga untuk memahami kemampuan persuasi LLMs di dunia nyata—kemampuan ini kini sudah mudah diakses oleh siapa saja, dan pelaku jahat juga dapat memanfaatkannya secara besar-besaran untuk tujuan yang lebih berbahaya."

Pada saat yang sama, para peneliti juga menunjukkan bahwa eksperimen ini menunjukkan "masih ada tantangan signifikan dalam membedakan manusia dan AI", karena selama seluruh eksperimen, pengguna subforum r/changemyview tidak dapat mengenali robot AI.

Sub bagian ini memiliki 3,8 juta anggota, menempatkannya di 1% teratas dari semua sub bagian di Reddit.

Reddit mempertimbangkan tindakan hukum

Moderator Reddit menyatakan bahwa mereka tidak mengetahui eksperimen tersebut sebelumnya, telah mengajukan permohonan maaf kepada Universitas Zurich, dan meminta untuk menghentikan publikasi hasil penelitian terkait.

Pihak Reddit juga mungkin sedang mempertimbangkan untuk mengambil tindakan hukum. Kepala hukum platform, Ben Lee, menyatakan dalam posting lanjutan pada 28 April bahwa eksperimen tersebut melanggar perjanjian pengguna dan aturan platform Reddit, dan semua akun yang diketahui terkait dengan penelitian Universitas Zurich telah diblokir.

Lee menyatakan: "Kami sedang mengirimkan surat hukum secara resmi kepada Universitas Zurich dan tim peneliti tersebut."

Dia menambahkan, "Kami akan melakukan segala upaya untuk mendukung komunitas dan memastikan peneliti yang bersangkutan bertanggung jawab atas perilaku tidak semestinya mereka."

Komite Etika Fakultas Humaniora dan Ilmu Sosial Universitas Zurich menyatakan bahwa mereka telah melakukan penyelidikan terhadap kejadian tersebut dalam menanggapi sub-bidang ini, dan berjanji untuk melakukan koordinasi yang lebih baik dengan subjek eksperimen di masa depan. Peneliti utama proyek tersebut juga telah menerima peringatan resmi.

Komite Etika menyatakan: "Proyek ini memberikan wawasan penting dan risikonya sangat kecil. Oleh karena itu, menekan publikasi hasilnya tidak sebanding dengan nilai yang dihasilkan dari penelitian tersebut."

Universitas Zurich belum memberikan tanggapan segera atas hal ini. Cointelegraph juga belum menerima balasan atas pertanyaan yang dikirim ke alamat email terkait eksperimen tersebut.

Rekomendasi: Versi Rusia "Stablecoin Rubel" diluncurkan: Eksekutif menjelaskan tujuh fitur dan karakteristik yang meniru Tether (USDT)