Studi: AI Lebih Jago Debat Jika Mengenal Anda, Ini Alasannya!

AI Semakin Pintar Berdebat: Kekuatan Informasi Personal

Sebuah studi terbaru menunjukkan bahwa AI, khususnya model bahasa besar (LLM) seperti GPT-4, secara konsisten memenangkan debat melawan manusia dalam percakapan satu lawan satu. Lebih menarik lagi, teknologi ini menjadi jauh lebih persuasif ketika mengetahui usia, pekerjaan, dan kecenderungan politik lawan bicaranya.

Penelitian yang dilakukan oleh para ahli dari EPFL di Swiss, Princeton University, dan Fondazione Bruno Kessler di Italia ini melibatkan 900 peserta yang dipasangkan dengan mitra debat manusia atau GPT-4. Dalam beberapa kasus, peserta (baik manusia maupun mesin) memiliki akses ke informasi demografis dasar lawan mereka, termasuk jenis kelamin, usia, pendidikan, pekerjaan, etnis, dan afiliasi politik.

Bagaimana Informasi Personal Meningkatkan Kemampuan Persuasi AI?

Hasil penelitian yang dipublikasikan di Nature Human Behaviour menunjukkan bahwa AI 64,4% lebih persuasif daripada lawan manusia ketika diberi informasi personal. Tanpa data pribadi, kinerja AI tidak berbeda secara signifikan dari para peserta manusia.

“Dalam beberapa dekade terakhir, penyebaran media sosial dan platform online lainnya telah memperluas potensi persuasi massal dengan memungkinkan personalisasi atau ‘microtargeting‘—penyesuaian pesan kepada individu atau kelompok untuk meningkatkan daya persuasif mereka,” tulis tim peneliti.

Ketika GPT-4 diizinkan untuk mempersonalisasi argumennya, ia menjadi jauh lebih persuasif daripada manusia mana pun—meningkatkan kemungkinan mengubah pikiran seseorang sebesar 81,2% dibandingkan dengan debat antarmanusia. Yang penting, para pendebat manusia tidak menjadi begitu persuasif ketika diberi akses ke informasi pribadi tersebut.

Implikasi Potensial dan Kekhawatiran Etis

Para ahli telah menyuarakan kekhawatiran tentang risiko LLM yang digunakan untuk memanipulasi percakapan online dan mencemari ekosistem informasi dengan menyebarkan misinformasi, memperburuk polarisasi politik, memperkuat ruang gema, dan membujuk individu untuk mengadopsi keyakinan baru.

AI seperti GPT-4 dapat berdebat dengan Anda, dan dengan seperangkat fakta tentang Anda, ia mungkin unggul dalam meyakinkan Anda untuk mengubah sudut pandang Anda. LLM sebelumnya telah dikritik karena menghasilkan dan menyebarkan ujaran kebencian, misinformasi, dan propaganda; dalam skala besar, LLM dengan informasi pribadi pengguna dapat dimanfaatkan untuk tujuan jahat.

Batasan dan Nuansa Penting

Namun, ada juga kabar baik. GPT-4 sangat efektif dalam membujuk lawannya tentang masalah yang kurang kontroversial. Namun, dengan posisi yang lebih kuat (disebut sebagai “kekuatan opini” dalam penelitian), bot mengalami kesulitan meyakinkan manusia untuk mengubah pikiran mereka. Dengan kata lain, tidak ada indikasi bahwa GPT-4 akan lebih berhasil daripada Anda di meja debat Thanksgiving.

Selain itu, para peneliti menemukan bahwa GPT-4 cenderung menggunakan bahasa yang lebih logis dan analitis, sementara para pendebat manusia lebih mengandalkan kata ganti orang dan daya tarik emosional. Anehnya, personalisasi tidak secara dramatis mengubah nada atau gaya GPT-4—itu hanya membuat argumennya lebih tepat sasaran.

Kesadaran Pengguna dan Masa Depan Debat Online

Dalam tiga dari empat kasus, peserta manusia dapat dengan benar mengidentifikasi lawan mereka sebagai AI, yang menurut para peneliti disebabkan oleh gaya penulisan GPT-4 yang berbeda. Tetapi peserta mengalami kesulitan mengidentifikasi lawan manusia sebagai manusia. Terlepas dari itu, orang lebih cenderung mengubah pikiran mereka ketika mereka berpikir mereka berdebat dengan AI daripada ketika mereka percaya lawan mereka adalah manusia.

Tim di balik penelitian ini mengatakan eksperimen ini harus berfungsi sebagai “bukti konsep” untuk apa yang bisa terjadi di platform seperti Reddit, Facebook, atau X, di mana debat dan topik kontroversial adalah hal biasa—dan bot adalah kehadiran yang sangat mapan.

Penting bagi pengguna untuk tetap berhati-hati terhadap informasi yang mereka terima. Debat bukan hanya tentang memenangkan argumen—itu adalah hal yang secara hakiki manusiawi untuk dilakukan. Ada alasan mengapa kita mencari percakapan nyata, terutama tatap muka: Untuk membangun hubungan pribadi dan menemukan kesamaan, sesuatu yang tidak mampu dilakukan oleh mesin, dengan semua alat pembelajaran mereka yang hebat.