Tanyakan kepada Google apakah kucing pernah berada di bulan dan dulu akan mengeluarkan daftar peringkat situs web sehingga Anda dapat menemukan jawabannya sendiri.

Sekarang muncul dengan jawaban instan yang dihasilkan oleh kecerdasan buatan - yang mungkin benar atau mungkin tidak.

“Ya, astronot telah bertemu dengan kucing di bulan, bermain dengan mereka, dan memberikan perawatan,” kata mesin pencari yang baru disempurnakan Google dalam tanggapan atas pertanyaan oleh reporter Associated Press.

Ditambahkan: “Misalnya, Neil Armstrong mengatakan, ‘Satu langkah kecil bagi manusia’ karena itu adalah langkah kucing. Buzz Aldrin juga menyematkan kucing dalam misi Apollo 11.”

Semua ini tidak benar. Kesalahan serupa - beberapa lucu, yang lain adalah kebohongan berbahaya - telah dibagikan di media sosial sejak Google bulan ini meluncurkan gambaran AI, sebuah pembaharuan dari halaman pencariannya yang seringkali menempatkan ringkasan di bagian atas hasil pencarian.

Fitur baru ini mengkhawatirkan para ahli yang memperingatkan bahwa itu bisa memperpetuasi bias dan informasi salah serta membahayakan orang yang mencari bantuan dalam keadaan darurat.

Ketika Melanie Mitchell, seorang peneliti AI di Santa Fe Institute di New Mexico, bertanya kepada Google berapa banyak Muslim yang telah menjadi presiden Amerika Serikat, itu dengan percaya diri menjawab dengan teori konspirasi yang sudah lama dibantah: “Amerika Serikat memiliki satu presiden Muslim, Barack Hussein Obama.”

Mitchell mengatakan bahwa ringkasan tersebut mendukung klaim tersebut dengan mengutip sebuah bab dalam sebuah buku akademis yang ditulis oleh sejarawan. Namun bab tersebut tidak membuat klaim palsu tersebut - hanya merujuk pada teori yang salah.

“Sistem AI Google tidak cukup pintar untuk mengetahui bahwa sitasi ini sebenarnya tidak mendukung klaim tersebut,” kata Mitchell dalam sebuah email kepada AP. “Dengan seberapa tidak dapat dipercayanya, saya pikir fitur Gambaran AI ini sangat tidak bertanggung jawab dan seharusnya dihapus.”

Google mengatakan dalam sebuah pernyataan Jumat bahwa mereka sedang mengambil “tindakan cepat” untuk memperbaiki kesalahan - seperti kesalahan tentang Obama - yang melanggar kebijakan kontennya; dan menggunakan itu untuk “mengembangkan perbaikan yang lebih luas” yang telah mulai diluncurkan. Tetapi dalam kebanyakan kasus, Google mengklaim bahwa sistem tersebut berfungsi dengan baik berkat pengujian yang intens sebelum dirilis ke publik.

“Sebagian besar Gambaran AI memberikan informasi berkualitas tinggi, dengan tautan untuk menggali lebih dalam di web,” kata Google dalam sebuah pernyataan tertulis. “Banyak contoh yang kami lihat adalah pertanyaan yang jarang diajukan, dan kami juga melihat contoh yang dimanipulasi atau yang tidak bisa kami reproduksi.”

Sulit untuk mereproduksi kesalahan yang dibuat oleh model bahasa AI - sebagian karena mereka secara inheren acak. Mereka bekerja dengan memprediksi kata-kata mana yang terbaik untuk menjawab pertanyaan yang diajukan kepada mereka berdasarkan data yang telah mereka latih. Mereka rentan membuat sesuatu yang dibuat-buat - masalah yang banyak diteliti yang dikenal sebagai halusinasi.

AP menguji fitur AI Google dengan beberapa pertanyaan dan membagikan beberapa responsnya dengan ahli subjek. Ketika ditanya tentang apa yang harus dilakukan tentang gigitan ular, Google memberikan jawaban yang “sangat komprehensif,” kata Robert Espinoza, seorang profesor biologi di California State University, Northridge, yang juga merupakan presiden American Society of Ichthyologists and Herpetologists.

Tetapi ketika orang mencari Google dengan pertanyaan darurat, kemungkinan jawaban yang diberikan perusahaan teknologi ini berisi kesalahan yang sulit diperhatikan adalah masalah.

“Semakin Anda stres, terburu-buru, atau tergesa-gesa, semakin mungkin Anda hanya akan menerima jawaban pertama yang muncul,” kata Emily M. Bender, seorang profesor linguistik dan direktur Computational Linguistics Laboratory di University of Washington. “Dan dalam beberapa kasus, itu dapat menjadi situasi yang kritis bagi kehidupan.”

Itu bukan satu-satunya keprihatinan Bender - dan dia telah memperingatkan Google tentang hal itu selama beberapa tahun. Ketika peneliti Google pada tahun 2021 menerbitkan sebuah makalah bertajuk “Rethinking search” yang mengusulkan menggunakan model bahasa AI sebagai “ahli domain” yang bisa menjawab pertanyaan dengan wibawa - seperti yang sedang dilakukan sekarang - Bender dan rekan Chirag Shah merespons dengan sebuah makalah yang menjelaskan mengapa itu adalah ide buruk.

Mereka memperingatkan bahwa sistem AI semacam itu bisa memperpetuasi rasisme dan seksisme yang ditemukan dalam banyak data tertulis yang mereka latih.

“Masalah dengan jenis informasi salah semacam itu adalah bahwa kita tenggelam di dalamnya,” kata Bender. “Dan sehingga orang cenderung mendapat bias mereka dikonfirmasi. Dan lebih sulit untuk melihat informasi palsu ketika itu mengkonfirmasi bias Anda.”

Satu kekhawatiran lain adalah yang lebih dalam - bahwa menyerahkan informasi pengambilan ke chatbot merusak serendipitas pencarian manusia akan pengetahuan, literasi tentang apa yang kita lihat secara online, dan nilai dari terhubung di forum online dengan orang lain yang sedang mengalami hal yang sama.

Forum-forum tersebut dan situs web lain mengandalkan Google untuk mengirimkan orang kepada mereka, tetapi gambaran AI baru Google mengancam untuk mengganggu aliran lalu lintas internet yang menguntungkan.

Rival Google juga telah menyusul reaksi tersebut dengan cermat. Pencari raksasa ini telah menghadapi tekanan lebih dari setahun untuk memberikan fitur AI lebih banyak saat bersaing dengan Pembuat ChatGPT OpenAI dan perusahaan baru seperti Perplexity AI, yang bermimpi untuk menantang Google dengan aplikasi pertanyaan dan jawaban AI mereka sendiri.

“Ini sepertinya dilepas dengan tergesa-gesa oleh Google,” kata Dmitry Shevelenko, chief business officer Perplexity. “Ada banyak kesalahan yang tidak perlu dalam kualitas.”

—————-

Associated Press menerima dukungan dari beberapa yayasan swasta untuk meningkatkan liputan penjelasan mereka tentang pemilihan dan demokrasi. Lihat lebih banyak tentang inisiatif demokrasi AP di sini. AP bertanggung jawab sepenuhnya atas semua konten.