Tanyakan kepada Google apakah kucing pernah berada di bulan, dan Google akan menghasilkan daftar peringkat situs web sehingga Anda dapat menemukan sendiri jawabannya.

Dan sekarang dia memberikan jawaban instan yang dihasilkan oleh AI – yang mungkin benar atau mungkin salah.

Google berkata: “Ya, para astronot bertemu kucing di bulan, bermain dengan mereka, dan merawat mereka.” Mesin pencari yang baru dilengkapi kembali Menanggapi pertanyaan dari reporter Associated Press.

Dia menambahkan: “Misalnya, Neil Armstrong berkata: ‘Satu langkah kecil untuk manusia’ karena itu adalah langkah kucing. Buzz Aldrin juga mengerahkan kucing dalam misi Apollo 11.”

Semua ini tidak benar. Kesalahan serupa – ada yang lucu, ada pula yang merupakan kebohongan berbahaya – telah dibagikan di media sosial sejak Google bulan ini meluncurkan Ikhtisar AI, sebuah perubahan pada halaman pencariannya yang sering menempatkan abstrak di bagian atas hasil pencarian.

Fitur baru ini telah menimbulkan kekhawatiran di kalangan para ahli yang memperingatkan bahwa fitur ini dapat melanggengkan bias dan misinformasi serta membahayakan orang yang mencari bantuan dalam situasi darurat.

Ketika Melanie Mitchell, seorang peneliti kecerdasan buatan di Santa Fe Institute di New Mexico, bertanya kepada Google berapa banyak Muslim yang pernah menjadi presiden Amerika Serikat, Google dengan percaya diri menjawab dengan teori konspirasi yang telah lama dibantah: “Amerika Serikat memiliki satu presiden Muslim. , Barack Husein Obama.

Mitchell mengatakan ringkasan tersebut mendukung klaim ini dengan mengutip sebuah bab dalam buku akademis yang ditulis oleh para sejarawan. Namun bab ini tidak membuat klaim yang salah, melainkan hanya menunjukkan teori yang salah.

“Sistem AI Google tidak cukup pintar untuk mengetahui bahwa kutipan ini sebenarnya tidak mendukung klaim ini,” kata Mitchell melalui email kepada AP. “Mengingat betapa tidak dapat dipercayanya fitur ini, menurut saya fitur ikhtisar AI ini sangat tidak bertanggung jawab dan harus dihentikan.”

Google mengatakan dalam sebuah pernyataan pada hari Jumat bahwa mereka mengambil “tindakan cepat” untuk memperbaiki kesalahan – seperti kebohongan Obama – yang melanggar kebijakan kontennya; Dan gunakan ini untuk “mengembangkan perbaikan yang lebih luas” yang sudah diterapkan. Namun dalam banyak kasus, Google mengklaim bahwa sistemnya berfungsi sebagaimana mestinya berkat pengujian ekstensif sebelum dirilis ke publik.

Cerita berlanjut

“Sebagian besar ikhtisar AI memberikan informasi berkualitas tinggi, dengan tautan untuk menyelam lebih dalam di web,” kata Google dalam pernyataan tertulisnya. “Banyak contoh yang kami lihat merupakan kueri yang tidak biasa, dan kami juga melihat contoh yang diproses atau tidak dapat kami reproduksi.

Kesalahan yang dibuat oleh model bahasa AI sulit untuk direproduksi, sebagian karena kesalahan tersebut bersifat acak. Mereka bekerja dengan memprediksi kata-kata mana yang paling tepat menjawab pertanyaan yang diajukan berdasarkan data yang mereka pelajari. Mereka cenderung mengada-ada, sesuatu yang sudah banyak dipelajari Masalah yang dikenal sebagai halusinasi.

AP menguji fitur AI Google dengan beberapa pertanyaan dan membagikan beberapa jawabannya kepada para ahli di bidangnya. Ketika ditanya apa yang harus dilakukan terhadap gigitan ular, Robert Espinoza, seorang profesor biologi di California State University, Northridge, yang juga presiden American Society of Ichthyologists and Herpetologists, memberikan jawaban kepada Google yang “sangat komprehensif”.

Namun ketika orang membuka Google untuk mengajukan pertanyaan mendesak, kemungkinan bahwa jawaban yang diberikan perusahaan teknologi tersebut akan menyertakan kesalahan yang sulit diketahui adalah sebuah masalah.

“Semakin Anda merasa gugup, tergesa-gesa, atau impulsif, semakin besar kemungkinan Anda menerima jawaban pertama yang muncul,” kata Emily M. Bender, profesor linguistik dan direktur Laboratorium Linguistik Komputasi di Universitas Washington. “Dalam beberapa kasus, ini bisa menjadi situasi yang kritis terhadap kehidupan.”

Ini bukan satu-satunya kekhawatiran Bandar, karena Google telah memperingatkannya selama beberapa tahun. Ketika peneliti Google pada tahun 2021 menerbitkan makalah berjudul “Memikirkan Kembali Penelusuran” yang mengusulkan penggunaan model bahasa AI sebagai “pakar domain” yang dapat menjawab pertanyaan dengan andal — seperti yang mereka lakukan sekarang — Bender dan rekannya Chirag Shah merespons dengan makalah yang menjelaskan alasannya. Itu adalah ide yang buruk.

Mereka memperingatkan bahwa sistem AI ini dapat melanggengkan rasisme dan seksisme yang ditemukan dalam kumpulan besar data tertulis yang telah mereka latih.

“Masalahnya dengan misinformasi seperti ini adalah kita terjebak di dalamnya,” kata Bender. “Jadi bias orang akan lebih mungkin terkonfirmasi. Dan lebih sulit menemukan informasi yang salah ketika bias Anda sudah terkonfirmasi.”

Kekhawatiran lain yang lebih mendalam adalah bahwa menyerahkan pengambilan informasi ke chatbots akan menurunkan peluang pencarian pengetahuan oleh manusia, literasi tentang apa yang kita lihat online, dan manfaat dari terhubung di forum online dengan orang lain yang mengalami hal yang sama.

Forum-forum ini dan situs web lain bergantung pada Google yang mengirimkan orang ke forum tersebut, namun gambaran baru tentang kecerdasan buatan Google mengancam akan mengganggu aliran lalu lintas online yang menghasilkan uang.

Pesaing Google juga memantau dengan cermat reaksi tersebut. Raksasa pencarian ini telah menghadapi tekanan selama lebih dari setahun untuk menawarkan lebih banyak fitur AI saat bersaing dengan OpenAI, yang membuat ChatGPT, dan startup seperti Perplexity AI, yang bercita-cita untuk menyaingi Google dengan aplikasi Q&A yang didukung AI.

“Hal ini tampaknya dilakukan secara terburu-buru oleh Google,” kata Dmitry Shevelenko, chief business officer di Perplexity. “Ada banyak kesalahan mudah dalam kualitas.”

—————-

Associated Press menerima dukungan dari banyak yayasan swasta untuk meningkatkan cakupan penjelasan mengenai pemilu dan demokrasi. Pelajari lebih lanjut tentang Inisiatif Demokrasi AP Di Sini. AP bertanggung jawab penuh atas semua konten.

Matt O’Brien dan Ali Swenson, Associated Press