Perombakan Social Security AS dengan AI Dimulai, Hasilnya Bikin Geleng-Geleng Kepala
Upaya modernisasi Social Security Administration (SSA) di Amerika Serikat dengan memanfaatkan kecerdasan buatan (AI) tampaknya tidak berjalan mulus. Integrasi chatbot ala ChatGPT, yang diberi nama Agency Support Companion, justru menuai kritik pedas. Alih-alih meningkatkan efisiensi, implementasi AI ini malah menimbulkan kekhawatiran.
Video Pelatihan yang Memprihatinkan
Salah satu yang menjadi sorotan adalah video pelatihan untuk para staf SSA. Video tersebut menampilkan animasi yang kurang memadai dan, yang lebih parah, tidak memberikan informasi penting mengenai larangan mengunggah informasi pribadi yang sensitif ke dalam program. Hal ini memaksa pihak SSA untuk mengirimkan permintaan maaf atas kelalaian tersebut.
“Saya tidak yakin sebagian besar rekan kerja saya bahkan menonton video pelatihan itu,” ungkap seorang sumber di SSA kepada Wired. Sumber tersebut menambahkan bahwa respons dari chatbot tersebut seringkali tidak jelas dan tidak akurat. Bahkan, grafis dalam video pelatihan menjadi bahan ejekan rekan-rekannya.
Pengalaman Buruk di Negara Lain: Pelajaran dari Brazil
Kegagalan implementasi AI di SSA ini menjadi pengingat akan potensi risiko yang ada. Kasus serupa di Brazil, di mana pemerintah mencoba menggantikan petugas dengan algoritma, menunjukkan bahwa ketergantungan berlebihan pada AI dalam program kesejahteraan sosial dapat menghasilkan hasil yang lebih buruk.
Aplikasi MeuINSS di Brazil, yang dirancang untuk menangani klaim jaminan sosial, seringkali menolak klaim yang sah karena kesalahan kecil. Hal ini memaksa para penerima manfaat untuk menghadapi proses hukum yang panjang dan berlarut-larut.
Josélia de Brito, seorang mantan pekerja tebu berusia 55 tahun, mengalami langsung dampak buruk dari sistem otomatisasi ini. Klaim pensiunnya ditolak karena sistem mengidentifikasi dirinya sebagai laki-laki. Pengalaman De Brito ini menggambarkan kesulitan yang dihadapi oleh masyarakat pedesaan dalam beradaptasi dengan layanan sosial yang semakin digital.
DOGE dan Ambisi Otomatisasi SSA
Perubahan di SSA ini erat kaitannya dengan ambisi DOGE, sebuah inisiatif yang didukung oleh Elon Musk, untuk merombak birokrasi federal melalui otomatisasi. DOGE berupaya untuk mengurangi jumlah pegawai negeri sipil dan menggantikan mereka dengan perangkat lunak berbasis AI. Namun, sejauh ini, perubahan yang dilakukan oleh DOGE justru menyebabkan disfungsi dan kekacauan di berbagai instansi, termasuk SSA.
Salah satu contohnya adalah insiden di mana pegawai DOGE secara keliru menandai jutaan penerima manfaat sebagai “meninggal” dan menghentikan tunjangan mereka. Selain itu, DOGE juga berencana untuk menulis ulang seluruh basis kode SSA dalam waktu singkat, yang hampir pasti akan bergantung pada penggunaan AI.
Privatisasi di Balik Layar?
Beberapa pihak menduga bahwa tujuan utama DOGE bukanlah untuk memodernisasi atau meningkatkan SSA, melainkan untuk mendestabilisasi dan menghancurkan lembaga tersebut agar dapat diprivatisasi. Jika dugaan ini benar, maka semua perubahan yang terjadi saat ini adalah bagian dari rencana yang lebih besar.
Leave a Reply