Insinyur Google mengkritik OpenAI karena menunda penelitian AGI
Perkembangan Artificial General Intelligence (AGI) telah menjadi topik yang menarik dan memprihatinkan dalam beberapa tahun terakhir. Seiring dengan kemajuan bidang ini, risiko dan potensi konsekuensi penyalahgunaan juga meningkat. Dalam podcast baru-baru ini, insinyur perangkat lunak Google Francois Cholet mengkritik kondisi penelitian AGI saat ini, khususnya OpenAI, karena memperlambat kemajuan di lapangan.
Dampak OpenAI pada penelitian AGI
Cholet menghubungkan pengaruh OpenAI dengan penelitian terbuka dan kolaborasi. Ia yakin bahwa fokus OpenAI pada model bahasa berskala besar telah mengalihkan sumber daya dan perhatian dari bidang penelitian AGI lainnya, sehingga menghambat kemajuan selama beberapa tahun. Pergeseran ini telah mengarah pada homogenisasi penelitian di mana setiap orang mengerjakan hal yang sama dan bukan mengeksplorasi arah yang berbeda.
Dampak pada penelitian AGI
Dampak perubahan ini terlihat dari kurangnya perbaikan dalam penelitian AGI. Di tahun Pada tahun 2019, Sholay dan Mike Knopp membuat kompetisi berhadiah $1 juta yang disebut ARC-AGI. Kompetisi ini mengukur kemampuan AGI untuk memperoleh keterampilan baru dan secara efektif memecahkan masalah baru dan terbuka. Knopp mengatakan bahwa meskipun 300 tim menguji ARC-AGI tahun lalu, skor state-of-the-art (SOTA) hanya meningkat dari 20% menjadi 34%, sedangkan skor manusia berkisar antara 85% hingga 100%. Stagnasi ini menyoroti perlunya pendekatan yang lebih luas terhadap penelitian AGI daripada hanya berfokus pada model bahasa berukuran besar.
Pentingnya penelitian berbeda
Chollet menekankan pentingnya penelitian yang berbeda di AGI. Ia yakin bahwa tahap awal penelitian AI akan lebih produktif seiring dengan eksplorasi berbagai arah. Keberagaman ini memungkinkan perkembangan yang lebih cepat dan pemahaman yang lebih komprehensif mengenai bidang ini.
Peran OpenAI dalam menunda penelitian AGI
OpenAI saat ini berfokus pada model bahasa besar. Chollet percaya bahwa hal ini telah memperlambat kemajuan menuju AGI dan menciptakan sensasi seputar model ini. Selain itu, pendekatan OpenAI telah “sepenuhnya menutup batasan publikasi penelitian”, sehingga menyulitkan peneliti untuk mengeksplorasi ide-ide baru dan inovatif.
Peran OpenAI dalam memajukan penelitian AGI sangatlah kompleks dan beragam. OpenAI adalah organisasi nirlaba yang didirikan untuk mengembangkan AGI dengan mengutamakan keselamatan dan menghindari risiko yang terkait dengan superintelligence yang tidak terkoordinasi. Namun, kejadian baru-baru ini menimbulkan kekhawatiran tentang prioritas OpenAI. CEO perusahaan telah mengumumkan rencana untuk memperlambat pengembangan AI, yang oleh sebagian orang dianggap sebagai langkah positif untuk memastikan keamanan AGI. Namun, pihak lain merasa skeptis terhadap kelayakan dan efektivitas pendekatan ini, karena hal ini dapat menyebabkan pesaing mengejar ketertinggalan dan kehilangan keunggulan kompetitif.
Berita Gizchina minggu ini
Perdebatan seputar penundaan penelitian AGI masih kontroversial, dengan beberapa ahli berpendapat bahwa hal ini perlu untuk menjamin keamanan, sementara yang lain berpendapat bahwa hal ini tidak mungkin dan tidak diinginkan. Tantangan dalam menyelaraskan AGI dengan nilai-nilai kemanusiaan dan mencegah penyalahgunaan cukup besar, dan peran OpenAI dalam mengatasi tantangan ini masih belum pasti.
Keinginan untuk perubahan
Kritik Cholet terhadap OpenAI menunjukkan perlunya perubahan dalam pendekatan penelitian AGI. Ia yakin bahwa fokus saat ini pada model bahasa besar tidak hanya memperlambat pengembangan namun juga membatasi potensi AGI. Tujuan dari kompetisi ARC-AGI senilai $1 juta adalah untuk meningkatkan jumlah peneliti yang fokus pada penelitian AGI daripada mengikuti model bahasa skala besar.
Buka respons AI terhadap tagihan
Tanggapan OpenAI terhadap tuduhan memperlambat penelitian AGI adalah mereka secara aktif berupaya mengembangkan Artificial General Intelligence (AGI) yang aman dan berguna. Mereka menekankan pentingnya kehati-hatian dan koordinasi dalam pengembangan AGI, khususnya dalam memastikan keselamatan dan mencegah penyalahgunaan. John Shulman, salah satu pendiri OpenAI, menjelaskan bahwa AGI akan hadir dengan cepat dan perusahaan perlu bersiap untuk pengembangan yang andal dan upaya yang terkoordinasi.
Selain itu, Greg Brockman, pendiri dan presiden OpenAI, mengakui pentingnya masalah keamanan dan menekankan keseimbangan antara memberikan potensi manfaat dan mengelola risiko. Hal ini menunjukkan bahwa perusahaan menyadari potensi risiko dan berupaya secara aktif untuk mengatasinya. Namun pembubaran Superalignment Group dan konsolidasi kerjanya ke dalam unit-unit penelitian telah menimbulkan kekhawatiran mengenai prioritas masalah keselamatan. Pimpinan tim, Ilia Sutskever dan Jan Leik, mengkritik kurangnya investasi dalam memahami cara mengarahkan dan mengendalikan sistem AI terbuka yang lebih cerdas daripada manusia, yang menunjukkan bahwa perusahaan tersebut mungkin memprioritaskan pengembangan produk dibandingkan keamanan.
Secara umum, tanggapan OpenAI terhadap tuduhan memperlambat penelitian AGI bersifat kompleks dan terbuka untuk ditafsirkan. Meskipun perusahaan menyadari pentingnya masalah keamanan, praktiknya juga menimbulkan kekhawatiran. Arah masa depan dan komitmen perusahaan terhadap masalah keamanan jangka panjang masih belum pasti.
Ringkasan
Pengembangan AGI adalah permasalahan yang kompleks dan memiliki banyak aspek yang memerlukan pendekatan holistik. Kritik François Cholet terhadap OpenAI berfungsi sebagai pengingat akan pentingnya beragam penelitian dan melampaui fokus saat ini pada model bahasa berskala besar. Namun, OpenAI mengklaim secara aktif mengerjakan Artificial General Intelligence (AGI) yang aman dan berguna. Seiring dengan perkembangan bidang ini, peneliti dan pengembang harus memprioritaskan pengembangan AGI sambil memastikan keamanan dan pengembangan teknologi yang bertanggung jawab. Apa pendapat Anda tentang jalur OpenAI saat ini? Apakah memprioritaskan keamanan cukup untuk melawan kritik? Beri tahu kami pendapat Anda di bagian komentar di bawah
Link Sumber: https://www.gizchina.com
Posting Komentar untuk "Insinyur Google mengkritik OpenAI karena menunda penelitian AGI"