Pada tanggal 14 Mei, Google mengumumkan peluncuran alat pencarian baru yang didukung AI, Ikhtisar AI, model Gemini khusus untuk Google Penelusuran. Pengalaman penelusuran baru ini menjanjikan pembuatan konten dinamis yang disesuaikan dengan kueri individual, memberikan hasil yang lebih beragam dan komprehensif. Menurut Google, ini akan diluncurkan ke lebih dari satu miliar orang Pada akhir tahun. Sebagai pengguna beta awal teknologi ini, dan seorang profesional informasi dengan latar belakang literasi informasi, saya menantikan pengumuman ini dan menyaksikan diskusi yang berlangsung. Anda menjelajahi banyak percakapan seputar ikhtisar AI Kemampuan untuk mempengaruhi perdagangan online secara signifikan Dengan mempengaruhi arus lalu lintas web. Dampak ekonominya mungkin signifikan. Namun hal yang sejauh ini diabaikan oleh sebagian besar diskusi adalah perubahan signifikan yang akan terjadi pada ekosistem informasi.

ketika setiap Alat penemuan informasi membentuk interaksi pengguna dengan informasi, sedemikian rupa sehingga Ikhtisar AI memungkinkan pertanyaan pengguna yang sering diajukan, menghasilkan jawaban instan, dan menyajikan informasi dan materi sumber secara berbeda untuk mendefinisikan ulang cara pengguna mengakses dan memahami informasi tersebut. Ikhtisar AI muncul di bagian atas halaman hasil pencarian di atas daftar peringkat halaman tradisional dari hyperlink dan pratinjau sumber, dan berfungsi sebagai respons yang dipersonalisasi untuk setiap pencarian pengguna. Teknologi ini membanggakan peningkatan kenyamanan pengguna sekaligus meningkatkan kekhawatiran tentang bagaimana persepsi pengguna tentang cara mereka membuat, menyebarkan, dan mengakses informasi – kompetensi inti literasi informasi.

Seiring dengan meningkatnya minat penelitian dan kebijakan terhadap cara kerja AI Mengubah informasi lanskap, Mempengaruhi informasi dietDan Dampak terhadap demokrasi global,Memantau cara pengguna menggunakan alat pencarian ini dalam berbagai konteks akan sangat penting untuk memantau kesehatan ekosistem informasi online. Hal ini terjadi bukan hanya karena meningkatnya minat terhadap penelitian dan kebijakan, namun juga karena alat-alat tersebut dan alat-alat terkait lainnya akan mengubah cara kita mengakses dan menggunakan informasi – dengan konsekuensi yang tidak diinginkan dan tidak terduga sehingga kita mungkin tidak siap untuk memantaunya, apalagi jika kita tidak siap untuk memantaunya. sendirian melakukan mitigasi.

Kombinasi yang menggoda

Ikhtisar berbasis AI menarik karena merangkum dan menyusun hasil pencarian dalam hitungan detik. Kenyamanan ini sering kali menyembunyikan fakta menakjubkan bahwa kita sedang menyaksikan lahirnya objek informasi yang benar-benar baru, semacam sumber ketiga seperti layanan pramutamu Wikipedia, yang bertujuan untuk merespons dengan kemampuan logika tingkat lanjut terhadap pertanyaan pengguna yang semakin kompleks. Berbeda dengan bentuk-bentuk penelitian lama, tanggapan-tanggapan tersier ini dihasilkan dengan lebih sedikit penekanan pada sumber-sumber primer dan sekunder yang menjadi sumber jawaban generatif.

Sintesis adalah keterampilan kognitif tingkat tinggi, mirip dengan analisis. Dengan Ikhtisar AI, upaya penyesuaian dilakukan dengan menjanjikan bahwa waktu dan energi yang dihemat dapat digunakan untuk tugas lain yang lebih bermakna. Namun apa tugas-tugas tersebut masih belum terlihat. Ketergantungan yang berlebihan pada sistem seperti ini mempunyai risikodobel“, yang melemahkan kemampuan untuk mensintesis dan menganalisis diri sendiri. Meskipun ini adalah keterampilan kognitif, Pengambilan keputusan yang etis Proses dan keterampilan moral lainnya juga mungkin terpengaruh.

Pada akhirnya, mengevaluasi informasi menjadi latihan yang sulit dalam menavigasi dan menilai ketidakpastian dan kompleksitas. Kemunduran kolektif di bidang ini, karena konsumen informasi semakin menyerahkan keputusan berbasis nilai ke sistem otomatis dan secara efektif mengalihkan keterampilan berpikir kritis ke kecerdasan buatan, tentu akan berdampak pada kemampuan masyarakat untuk terlibat dalam pemahaman dunia yang mendalam dan akurat sekitar.

Mediasi buatan

Ikhtisar AI bertindak sebagai tabir semi-transparan antara apa yang secara tradisional merupakan hubungan sumber-pengguna. Iterasi Google Penelusuran sebelumnya tentu saja melakukan hal ini juga, menawarkan pratinjau unggulan dalam hasil penelusuran yang menjawab pertanyaan. Sedangkan algoritma pencarian Google telah ditingkatkan Memprediksi hasil Berdasarkan perilaku pengguna dan titik data pengguna lainnya (Termasuk periklanan), dan fitur Ikhtisar AI melangkah lebih jauh, memandu pengguna untuk memahami informasi yang dikumpulkan. Ini bertindak sebagai mediator, membentuk interaksi pengguna dengan konten pencarian.

Dengan membantu pengguna memahami informasi tersebut, informasi tersebut juga memiliki kemampuan untuk secara halus memengaruhi apa yang mereka pikirkan. Kekuatan dari gambaran umum ini sangat besar dan harus dipahami dari berbagai komunitas. Hal ini mencakup pemahaman dampak meningkatnya ketergantungan pengguna terhadap gambaran umum informasi yang nyaman namun berpotensi dangkal, potensi gambaran umum tersebut mempengaruhi pemahaman yang lebih luas mengenai topik-topik sensitif, dan kemampuan mereka untuk memicu polarisasi opini lebih lanjut. Komunitas online sudah didorong oleh ketidakpercayaan terhadap media arus utama.

Informasi di luar konteks

Ikhtisar AI berfokus pada jawaban yang dihasilkan dari masing-masing sumber, menarik sumber-sumber tersebut dari konteks aslinya dan mengintegrasikannya. Sumber disertakan melalui pulau yang dapat diperluas atau dalam fitur gulir carousel horizontal dan karena sumber tertanam dalam jawaban, ikhtisar membawa kesan kelengkapan yang secara halus menghambat perilaku eksplorasi yang lebih dalam seperti membandingkan dan membedakan sumber atau menguatkan informasi secara pribadi menggunakan bahan sumber utama. Dalam pengertian ini, gambaran akhir dari kecerdasan buatan Ringkasan waralaba Dengan mengorbankan eksplorasi dan penelusuran.

Para profesional informasi telah mencoba (dan gagal) untuk mengajarkan hal ini kepada pengguna selama beberapa waktu Hasil pencarian pertama tidak selalu yang terbaik; “Ikhtisar AI” adalah salah satu hasil penelusuran pertama dan juga mewakili konsensus yang ditentukan mesin untuk banyak hasil penelusuran. Namun kenyataannya mereka tidak pernah bisa mewakili semuanya. Meskipun tinjauan mengenai AI tampak komprehensif, mengingat bias yang terdokumentasi dengan baik dalam sistem LLM mana pun dan lanskap informasi di web yang sudah tidak representatif, tinjauan mengenai AI berisiko mengabaikan perspektif yang beragam, terutama dari komunitas yang secara historis terpinggirkan.

Entah karena kurangnya informasi yang beragam dalam ikhtisar yang dihasilkan, atau upaya ekstra yang harus dilakukan pengguna untuk mengeksplorasi dan mengkontekstualisasikan berbagai sumber dibandingkan mengacu pada hasil yang dihasilkan AI, representasi tidak hanya terdapat pada jawaban namun juga pada interaksi pengguna dengan hasil yang dihasilkan. sumber. Lain-lain menderita. Lalu setelah itu Menimbulkan pertanyaan tentang atribusi sumber Jika pengguna hanya mengandalkan dan mengutip jawaban yang dihasilkan dan bukan materi sumber dari mana jawaban tersebut diambil.

Objektivitas dan keandalan buatan

Google untuk menjelaskan Dalam Ikhtisar AI versi beta, mereka telah “menyesuaikan model untuk memberikan respons objektif dan netral yang didukung oleh hasil web.” Hal ini dilakukan agar model tidak mengambil atau mencerminkan tipe kepribadian apa pun yang mungkin memengaruhi pengguna pada tingkat emosional. Namun, nada yang netral dan tidak memihak juga memiliki daya tarik emosional dan logis bagi pembaca dan dapat mengaburkan bias yang ada dalam sistem. Tawaran netral sangat meyakinkan, terutama bila jawabannya secara umum bermanfaat dan dapat diandalkan. Tapi makanlah LLM masih mengalami halusinasi Mereka dengan percaya diri menghasilkan informasi yang salah atau tidak berarti, yang selanjutnya menyoroti perlunya mengevaluasi keluaran mereka secara kritis.

Kemungkinan halusinasi, dikombinasikan dengan data pelatihan yang tidak lengkap/bias, membuat netralitas dalam sistem buatan manusia menjadi mustahil, sementara melakukan nada netral membuatnya tampak sebaliknya. Materi sumber, bahkan konten berdasarkan data, bisa menyesatkan tergantung pada kemasan dan presentasi. Pengguna sering kali mencari tanda-tanda keandalan yang cepatPresentasi objektif dari Ikhtisar AI memberikan kesan keandalan tetapi pada akhirnya mengutamakan kenyamanan dan penilaian cepat dibandingkan analisis komprehensif. Pada akhirnya, Ikhtisar AI dirancang untuk mendorong pandangan sekilas dan dangkal dibandingkan eksplorasi mendalam, dan nada netral memastikan bahwa pengguna tidak berlama-lama di satu tempat atau berpikir terlalu keras tentang apa pun karena hasilnya terasa “nyata”.

Rekomendasi

Mengingat potensi dampak signifikan terhadap perilaku pengguna dan dampaknya terhadap ekosistem informasi, saya merekomendasikan hal-hal berikut:

1. Akses peneliti Memperoleh data pengguna yang kuat akan sangat penting untuk memahami bagaimana ekosistem informasi berkembang dan mengubah pola konsumsi informasi yang mempengaruhi segala hal mulai dari perekonomian hingga demokrasi. Membuat data tersebut tersedia secara luas untuk studi ilmiah akan sangat penting untuk memperkuat antarmuka penelitian yang etis, memprioritaskan transparansi, dan meningkatkan alat bagi pengguna untuk mengakses dan mengevaluasi secara kritis bahan sumber asli.
2. Terkait, Sekolah perlu mengembangkan kurikulum yang kuat Yang melibatkan pengajaran siswa bagaimana melakukan penelitian kritis menggunakan alat penemuan informasi yang menggunakan kecerdasan buatan generatif. Literasi informasi diajarkan secara tidak merata hingga saat ini, sehingga mengembangkan kurikulum dengan cepat dan segera akan menjadi hal yang sangat penting dalam membantu pengguna agar dapat menggunakan teknologi ini secara bertanggung jawab.
3. Google harus terus memantau dan mengembangkan desain antarmuka Untuk memastikan pengguna memahami keterbatasan Ikhtisar AI. Google juga harus menganalisis data pengguna dengan fokus membantu pengguna tidak hanya mendapatkan jawaban cepat, namun juga mendorong perilaku penelusuran online yang bijaksana.

Ikhtisar AI hanyalah sebagian kecil dari seberapa produktif AI akan berdampak pada ekosistem informasi online. Karena ini hanyalah permulaan, melakukan diskusi yang bermakna sejak awal tentang bagaimana pengguna akan menyesuaikan perilaku mereka dan apa konsekuensinya terhadap lanskap informasi online sangatlah penting sehingga kita dapat terus memahami cara kerja sistem dan dampaknya yang terus berkembang terhadap orang-orang yang menggunakan sistem tersebut. gunakan mereka.