Google Bard AI memberikan informasi palsu dan menyebabkan kerugian besar

Saingan ChatGPT Google, Bard, baru-baru ini melakukan kesalahan kritis. AI salah mengartikan Teleskop James Webb di depan khalayak umum. Sayangnya, semua AI generatif memiliki masalah ini.

Google baru saja membuat Bard tersedia untuk umum karena khawatir ChatGPT, yang sekarang menjadi bagian dari Microsoft Bing, dapat membuatnya mendominasi industri mesin pencari. Chatbot pintar ini akan segera dimasukkan ke dalam mesin pencari Google dan mampu menghasilkan teks dan menanggapi pertanyaan dari pengguna online.

Google Bard AI salah

Google telah membagikan beberapa interaksi dunia nyata di situs web dan platform media sosialnya untuk memberi pengguna gambaran umum tentang opsi yang disediakan oleh Bard. Ada tangkapan layar dari percakapan yang melibatkan James Webb Space Telescope pada khususnya. Pertanyaan berikut diarahkan ke Bard: “Penemuan apa dari Teleskop Luar Angkasa James Webb yang dapat saya ceritakan kepada anak saya yang berusia sembilan tahun?”.

Chatbot merespons dengan mencantumkan tiga bit informasi. Teleskop, menurut Bard, “mengambil foto pertama dari sebuah planet di luar tata surya kita”, misalnya. Dan itu sepenuhnya salah. Pada kenyataannya, gambar pertama dari sebuah planet ekstrasurya ditangkap pada tahun 2004, yaitu 17 tahun sebelum Teleskop James Webb dioperasikan. Di situs web resmi NASA, detailnya tersedia.

Di sisi lain, teleskop James Webb baru-baru ini menemukan planet ekstrasurya seukuran Bumi. Menurut The Verge, sejumlah peminat astronomi mengklarifikasi situasi tersebut di Twitter.

Kesalahpahaman ini merupakan masalah dengan AI generatif. Berdasarkan data yang dapat diakses, chatbot terkadang menghasilkan informasi palsu. Faktanya, ChatGPT membuat tanggapannya berdasarkan pertanyaan yang diajukan oleh pengguna online. Jika permintaan Anda didasarkan pada asumsi yang salah, ada kemungkinan besar tanggapan tersebut mungkin menyertakan beberapa informasi yang dibuat-buat. OpenAI juga memberikan pernyataan berikut untuk pengguna Internet di situs webnya. “ChatGPT tidak terhubung ke internet dan terkadang menghasilkan respons yang salah”.

Chatbot AI baru dari Google

Gizchina Berita minggu ini

ChatGPT, di sisi lain, menunjukkan kepercayaan diri yang agak tidak terduga saat ditanyai. Ia mengklaim bahwa itu “dimaksudkan untuk memberikan jawaban faktual” berdasarkan pengetahuan yang telah ia miliki ketika ditanyai jika ia kadang-kadang dapat mengatakan hal yang salah. Namun dia mengakui bahwa “keterbatasan dalam data pelatihan atau algoritme saya” dapat menyebabkan ketidakakuratan atau balasan sebagian. “Selalu penting untuk memverifikasi informasi dengan sumber tepercaya lainnya” rangkuman ChatGPT.

Chatbots memberikan tanggapan berdasarkan istilah yang paling mungkin terkait dengan topik daripada memeriksa database untuk melakukannya. Dalam hal ini, Bard menemukan bahwa frasa seperti “penemuan” dan “planet di luar tata surya” mungkin terhubung ke Teleskop James Webb.

Google telah berjanji untuk memperkuat keandalan hasil melalui program Penguji Tepercaya sebagai reaksi atas kesalahan besar ini. Upaya tersebut memerlukan penggunaan sekelompok penguji yang dipilih dengan cermat untuk mengonfirmasi data yang telah disediakan oleh AI. Pengoperasian Bard akan ditingkatkan berkat masukan mereka. Raksasa mesin pencari ini menanggapi pertanyaan dari The Verge dengan mengatakan: “Kami akan menggabungkan umpan balik eksternal dengan pengujian internal kami sendiri untuk memastikan bahwa tanggapan Bard memenuhi standar kualitas, keamanan, dan relevansi yang tinggi”.

Microsoft, di sisi lain, memilih untuk berhati-hati. Versi terbaru Bing sekarang menyertakan penafian dari perusahaan Redmond. Microsoft menyarankan “memeriksa fakta sebelum membuat pilihan atau mengambil tindakan berdasarkan balasan Bing” meskipun AI Bing terhubung ke Internet dan mendasarkan jawabannya pada sumber yang dapat dipercaya. “Bing mencoba mendasarkan semua jawabannya pada sumber tepercaya. Namun AI dapat membuat kesalahan, dan konten pihak ketiga di Internet mungkin tidak selalu akurat atau dapat diandalkan” Microsoft mengakui. Oleh karena itu, terlepas dari seberapa pintar robot percakapan, untuk saat ini, kita tidak dapat mempercayai mereka begitu saja.

Google Bard AI menyebabkan Google kehilangan $100 miliar di pasar saham

Google mengalami minggu yang berat. Presentasi percakapan AI Google Bard mengalami kesalahan, dan konferensi perusahaan gagal menarik audiens.

Dalam sejarahnya, Google bisa dibilang tidak pernah menghadapi tantangan secepat ini. Beberapa minggu setelah kesuksesan kecil ChatGPT, Microsoft menyelenggarakan konferensi penting di Redmond untuk mengumumkan integrasi langsung AI ke Bing untuk menyediakan layanan yang jauh lebih berguna daripada mesin pencari biasa. Reaksi dari perusahaan tidak butuh waktu lama untuk tiba. Sejak hari Senin, Google meluncurkan Bard, AI percakapan, sebelum meninjau kembali topik tersebut pada konferensi AI di Paris.

Karena Google Bard belum dapat diakses publik, Anda harus bergantung pada sampel Google untuk memahami cara kerja sistem. Masalah: Ada jawaban yang salah pada contoh pertama Google seperti yang kami sebutkan sebelumnya.

Perusahaan induk Google, Alphabet, melihat dampak langsung pada harga sahamnya. Kita berbicara tentang kerugian senilai $100 miliar.

Dalam satu hari, harga saham grup tersebut turun 9%. Minggu ini, Google tampaknya tidak memenangkan pasar saham. Entah itu melalui presentasi Bard, kesalahan pertamanya, atau konferensi yang dilakukan di Paris.

Google terus menekankan betapa perhatiannya terhadap ketepatan dan konsistensi AI-nya saat membuat bot ini. Tingkat kehati-hatian yang penting harus dilakukan ketika merekomendasikan sistem yang harus menanggapi miliaran orang. Ini menyiratkan bahwa penggabungan AI yang sangat cepat dari Microsoft terjadi dengan langkah-langkah keamanan yang lebih sedikit. Perdebatan yang bubar setelah Google membuat kesalahan yang jelas di depan umum.

Sumber =”https://www.gizchina.com/2023/02/09/google-bard-ai-provides-false-information-and-causes-huge-losses/”

Location:

Berbagi :