CEO Google mengakui bahwa fungsi "AI Review" memiliki masalah "penipuan".

Google yang baru-baru ini meluncurkan “Ikhtisar AI”, yang bertujuan untuk memberikan ringkasan singkat di bagian atas hasil pencarian, telah dikritik karena memberikan informasi yang tidak akurat dan aneh. Dalam wawancara baru-baru ini dengan The Verge, CEO Google Sundar Pichai mengakui bahwa ada “ilusi” dalam model AI yang mendukung fitur ini, sebuah masalah yang menurutnya masih belum terselesaikan.

Masalah pencarian AI Google

Gambaran umum tentang AI adalah misinformasi yang menyesatkan dan berbahaya

Pengguna telah melaporkan banyak contoh fitur “Ikhtisar AI” yang memberikan jawaban menyesatkan dan bahkan informasi salah yang berbahaya. Contohnya termasuk penggunaan lem untuk menjaga keju agar tidak terlepas dari pizza dan mengungkap informasi palsu kepada para ahli dan profesional. Karakter tersebut juga kesulitan membedakan fakta dari humor atau sarkasme, sehingga menghasilkan tanggapan yang tidak masuk akal. Klik di sini untuk melihat beberapa masalah ini

Pengakuan Pichai tentang masalah tersebut

Dalam wawancara tersebut, Pichai mengakui bahwa “ilusi” yang diciptakan oleh fitur “peringkasan AI” adalah “kelemahan bawaan” dalam model bahasa skala besar (LLM) yang merupakan inti dari teknologi ini. Meskipun ada upaya dari para insinyur Google untuk menyelesaikan berbagai jawaban aneh dan salah yang dihasilkan oleh fitur tersebut, masalah tersebut masih belum terselesaikan, katanya.

Berita Gizchina minggu ini

Namun, Pichai juga menambahkan, “Hanya karena perilaku ringkasan AI terkadang salah bukan berarti tidak berguna.” Saya pikir itu bukan cara yang tepat untuk melihatnya.” Dibandingkan tahun lalu, Google telah membuat kemajuan dalam meningkatkan metrik realitas fiturnya, dan meskipun masalahnya belum terselesaikan, industri secara keseluruhan mengalami kemajuan, katanya.

Bug yang diciptakan oleh fitur “Ikhtisar AI” menyebabkan kegemparan secara online, dengan banyak pengguna yang membagikan contoh fitur yang merupakan informasi yang salah. Hal ini juga melemahkan kredibilitas mesin pencari Google, yang sebelumnya dikritik karena memberikan hasil berkualitas rendah kepada pengguna.

Konsultan AI dan pakar SEO Brittany Muller mengatakan terkait masalah tersebut

“Orang-orang mengharapkan AI lebih akurat dibandingkan metode tradisional, namun hal tersebut tidak selalu terjadi! Google mengambil risiko dalam penelusuran untuk mengungguli pesaingnya, Perplexity dan OpenAI, namun mereka sebenarnya bisa menggunakan AI untuk kasus penggunaan yang lebih besar dan lebih penting.”

Sentimen ini mencerminkan tingginya penghargaan pengguna terhadap keakuratan AI dan risiko yang dihadapi Google dalam menerapkan teknologi ini sebelum waktunya.

Ringkasan

Terlepas dari permasalahan tersebut, Pichai tetap optimis dengan kegunaan fitur “AI Summarization” dan menyatakan bahwa ada kemajuan yang baik. Namun, masih adanya kesalahan menyoroti perlunya perbaikan lebih lanjut dan tantangan dalam mengembangkan sistem AI yang andal. Saat Google dan raksasa teknologi lainnya berlomba untuk memasukkan AI ke dalam berbagai aspek kehidupan kita, terdapat keseimbangan antara inovasi dan kepercayaan konsumen. Memastikan keakuratan dan keandalan teknologi ini harus menjadi prioritas untuk menghindari penyebaran informasi palsu dan untuk melindungi kepercayaan pengguna terhadap layanan yang mereka berikan.

Penafian: Kami mungkin mendapat kompensasi dari beberapa perusahaan yang produknya kami bicarakan, tetapi artikel dan opini kami selalu merupakan opini jujur kami. Untuk lebih jelasnya, Anda dapat memeriksa pedoman editorial kami dan mempelajari cara kami menggunakan tautan afiliasi.

Link Sumber: https://www.gizchina.com