CEO Aplikasi Belanja AI Didakwa Atas Penipuan: Ternyata Gunakan Tenaga Manusia?

Departemen Kehakiman Amerika Serikat telah mendakwa seorang pendiri perusahaan teknologi atas tuduhan penipuan investor. Dakwaan ini muncul setelah aplikasi belanja berbasis AI (kecerdasan buatan) miliknya, Nate, diduga kuat menggunakan tenaga manusia untuk menjalankan operasinya, alih-alih teknologi AI seperti yang dijanjikan.

Nate menawarkan aplikasi seluler yang menjanjikan pengalaman belanja satu klik di semua situs e-commerce tanpa campur tangan manusia. Pengguna dapat menyimpan informasi kartu kredit dan pengiriman mereka di Nate, sehingga tidak perlu memasukkannya di setiap situs web. Namun, menurut jaksa penuntut, perusahaan tersebut hampir sepenuhnya bergantung pada pekerja manusia untuk menyelesaikan transaksi. Ironis!

Nate: Klaim AI, Realita Tenaga Manusia

Menurut surat dakwaan, tingkat otomatisasi Nate sebenarnya mendekati nol. Perusahaan tersebut justru mengandalkan ratusan kontraktor di pusat panggilan yang berlokasi di Filipina untuk menyelesaikan transaksi. Mungkin yang dimaksud dengan ‘AI‘ adalah ‘Asian Intelligence’? Nate berhasil mengumpulkan lebih dari $50 juta antara tahun 2018 dan 2021 dengan klaim palsu tersebut.

The Information pertama kali melaporkan dugaan penipuan ini pada tahun 2022. Laporan tersebut menyoroti kesulitan Nate dalam mengotomatiskan proses transaksi. Perangkat lunak Nate kesulitan mengidentifikasi tombol-tombol tertentu di halaman web pengecer tanpa terblokir oleh pelacak bot otomatis.

Akibatnya, sepanjang tahun 2021, persentase transaksi yang ditangani secara manual oleh Nate berkisar antara 60% hingga 100%.

Sebagai contoh, ketika Paul Hudson dari Glade Brook mencoba memesan celana jeans Levi’s dari situs web produsen denim menggunakan Nate, CEO Nate, Albert Saniger, langsung memberi tahu rekan-rekannya melalui saluran Slack perusahaan untuk segera memproses transaksi tersebut secara manual.

Praktik Umum atau Penipuan?

Banyak perusahaan di bidang AI masih bergantung pada manusia, terutama untuk memvalidasi data yang dihasilkan oleh algoritma. Harapannya, AI akan segera dapat mengambil alih sepenuhnya. Startup seperti Scale AI dikenal karena menggunakan banyak tenaga kerja murah untuk memberi label data dan memperbaiki output model AI. EvenUp, startup yang mengklaim menggunakan AI untuk mengotomatiskan proses penulisan klaim hukum, juga dilaporkan masih mengandalkan manusia hingga akhir tahun lalu untuk mengoreksi teks yang dihasilkan oleh AI.

Namun, masalah Nate terletak pada klaim eksplisit bahwa mereka hampir tidak pernah menggunakan tenaga manusia dalam proses checkout. Perusahaan mungkin berpikir mereka bisa “memalsukannya sampai berhasil” tetapi kehabisan waktu untuk membuat produk berfungsi seperti yang diharapkan. Terlebih lagi, Nate memasuki pasar yang sangat ramai, dengan Amazon mendominasi e-commerce dan perusahaan lain seperti Shopify memperkenalkan produk checkout satu klik mereka sendiri.

Nate, yang tampaknya masih beroperasi, sangat bergantung pada komisi untuk mengembangkan aplikasinya, menawarkan influencer kemampuan untuk membuat daftar produk favorit mereka di aplikasi dan menerima bagian dari setiap penjualan.

Ironi di Balik Kisah Nate

Menariknya, Nate mungkin telah menemukan sesuatu yang berharga dengan produknya. Amazon, OpenAI, dan Google adalah beberapa perusahaan yang baru-baru ini memperkenalkan “agen” yang dipasarkan sebagai mampu melakukan tugas secara otomatis, termasuk belanja online untuk pengguna. Produk-produk ini masih dalam tahap awal pengembangan dan pengguna mengeluhkan bahwa mereka lambat, mahal, dan penuh bug. Namun, mereka menunjukkan potensi untuk mengotomatiskan tugas-tugas berat dan membuat komputasi lebih mudah diakses oleh demografi seperti orang tua.

Saniger menghadapi satu dakwaan penipuan sekuritas dan satu dakwaan penipuan kawat, yang masing-masing dapat berakibat hukuman hingga dua puluh tahun penjara.