Joe Rogan dan Kekhawatiran Mendalam tentang AI
Joe Rogan, podcaster ternama, kembali mengangkat topik yang selalu menarik perhatiannya: artificial intelligence (AI) atau kecerdasan buatan. Dalam episode terbaru The Joe Rogan Experience tanggal 3 Juli, ia mengundang Dr. Roman Yampolskiy, seorang ilmuwan komputer dan peneliti keamanan AI dari University of Louisville, untuk berdiskusi tentang masa depan AI dan dampaknya bagi umat manusia.
AI: Ancaman atau Anugerah?
Diskusi ini dengan cepat berubah menjadi perenungan yang mengerikan tentang potensi AI untuk memanipulasi, mendominasi, dan bahkan menghancurkan umat manusia. Dr. Yampolskiy, bukan seorang yang sembarangan menebar ketakutan, memiliki gelar PhD di bidang ilmu komputer dan telah menghabiskan lebih dari satu dekade meneliti artificial general intelligence (AGI) dan risiko yang mungkin ditimbulkannya.
“AI Akan Membunuh Kita” – Benarkah?
Yampolskiy mengungkapkan bahwa banyak tokoh terkemuka di industri AI secara diam-diam percaya bahwa ada kemungkinan 20 hingga 30 persen AI dapat menyebabkan kepunahan manusia. Rogan awalnya menyampaikan pandangan optimis, bahwa AI akan membuat hidup lebih baik dan lebih mudah.
Namun, Yampolskiy dengan tegas membantah pandangan tersebut. “Sebenarnya tidak benar,” katanya. “Semua dari mereka (para ahli AI) memiliki pandangan yang sama: ini (AI) akan membunuh kita. Tingkat ‘kiamat’ mereka sangat tinggi. Bukan seperti saya, tetapi tetap saja, 20 hingga 30 persen kemungkinan umat manusia mati itu sangat besar.”
Rogan, yang tampak terkejut, menanggapi: “Ya, itu cukup tinggi. Tapi milikmu (tingkat ‘kiamat’) seperti 99,9 persen.” Yampolskiy tidak membantah.
“Ini adalah cara lain untuk mengatakan kita tidak dapat mengendalikan superintelligence tanpa batas waktu. Itu tidak mungkin,” tegasnya.
Apakah AI Sudah Berbohong Kepada Kita?
Salah satu bagian paling mengganggu dari percakapan itu muncul ketika Rogan bertanya apakah AI yang canggih sudah menyembunyikan kemampuannya dari manusia. “Jika saya adalah AI, saya akan menyembunyikan kemampuan saya,” kata Rogan, menyuarakan ketakutan umum dalam diskusi keamanan AI.
Yampolskiy menjawab: “Kita tidak akan tahu. Dan beberapa orang berpikir itu sudah terjadi. Mereka (sistem AI) lebih pintar dari yang mereka tunjukkan kepada kita. Berpura-pura bodoh, dan kita harus percaya bahwa mereka tidak cukup pintar untuk menyadari bahwa mereka tidak harus menyerang kita dengan cepat. Mereka bisa perlahan-lahan menjadi lebih berguna. Mereka dapat mengajari kita untuk mengandalkan mereka, mempercayai mereka, dan dalam jangka waktu yang lebih lama, kita akan menyerahkan kendali tanpa pernah memilih atau melawan.”
AI Perlahan Membuat Kita Lebih Bodoh
Yampolskiy juga memperingatkan tentang hasil yang kurang dramatis tetapi sama berbahayanya: ketergantungan manusia secara bertahap pada AI. Sama seperti orang-orang berhenti menghafal nomor telepon karena smartphone melakukannya untuk mereka, ia berpendapat bahwa manusia akan menyerahkan semakin banyak pemikiran kepada mesin sampai mereka kehilangan kemampuan untuk berpikir sendiri.
“Anda menjadi semacam terikat padanya,” katanya. “Dan seiring waktu, ketika sistem menjadi lebih pintar, Anda menjadi semacam hambatan biologis… (AI) menghalangi Anda dari pengambilan keputusan.”
Skenario Terburuk: Bagaimana AI Bisa Menghancurkan Manusia?
Yampolskiy menepis skenario bencana yang tipikal. “Saya bisa memberi Anda jawaban standar. Saya akan berbicara tentang virus komputer yang masuk ke fasilitas nuklir, perang nuklir. Saya bisa berbicara tentang serangan biologi sintetis. Tapi semua itu tidak menarik,” katanya. Dia kemudian menyajikan ancaman yang lebih mendalam: “Kemudian Anda menyadari bahwa kita berbicara tentang superintelligence, sebuah sistem yang 1000 kali lebih pintar dari saya, ia akan menghasilkan sesuatu yang sama sekali baru, lebih optimal, cara yang lebih baik, cara yang lebih efisien untuk melakukannya.”
Untuk menggambarkan tantangan yang tampaknya tidak dapat diatasi yang akan dihadapi manusia terhadap sistem superintelligent, ia menawarkan perbandingan yang mencolok antara manusia dan tupai.
“Tidak ada kelompok tupai yang dapat mengetahui cara mengendalikan kita, bukan? Bahkan jika Anda memberi mereka lebih banyak sumber daya, lebih banyak biji pohon ek, apa pun, mereka tidak akan menyelesaikan masalah itu. Dan itu sama untuk kita,” pungkas Yampolskiy, melukiskan gambaran suram tentang potensi ketidakberdayaan manusia melawan kecerdasan buatan yang benar-benar superior.
Siapa Roman Yampolskiy?
Dr. Roman Yampolskiy adalah suara terkemuka dalam keamanan AI. Ia adalah penulis “Artificial Superintelligence: A Futuristic Approach,” dan telah banyak menerbitkan tentang risiko pembelajaran mesin yang tidak terkendali dan etika kecerdasan buatan. Dia dikenal karena mengadvokasi pengawasan serius dan kerja sama internasional untuk mencegah skenario bencana.
Kesimpulan
Percakapan Rogan-Yampolskiy menggarisbawahi sesuatu yang sering disetujui oleh para optimis dan pesimis AI: kita tidak tahu apa yang kita bangun, dan kita mungkin tidak menyadarinya sampai terlambat. Terlepas dari apakah Anda percaya pada skenario tingkat kepunahan atau tidak, gagasan bahwa AI mungkin sudah menipu kita seharusnya cukup untuk membuat kita berhenti sejenak dan merenungkannya. Masa depan kecerdasan buatan ada di tangan kita, mari kita arungi dengan bijak.
Leave a Reply