Amazon menjadi sangat khawatir karena ChatGPT

AI membawa banyak perubahan pada cara kita melakukan sesuatu. Alat ini telah menjadi asisten di ponsel dan perangkat lainnya. Namun, pengembangan AI generatif menempuh jalur baru. Pengguna dapat bersantai dan membiarkan AI melakukan “segalanya” untuk mereka. Pada November 2022, OpenAI merilis chatbot AI, ChatGPT. Setelah dirilis, alat ini sangat populer di bidang teknologi. Namun, meskipun merupakan alat bantuan yang hebat bagi banyak orang, ini juga merupakan “ancaman” bagi beberapa orang dan merek. Amazon adalah salah satu merek yang tidak begitu senang dengan ChatGPT. Perusahaan sangat waspada dan dengan tegas memperingatkan stafnya untuk tidak melakukannya berinteraksi dengan ChatGPT. Itu memperingatkan staf untuk tidak menggunakan ChatGPT untuk menulis kode atau membagikan kode yang sudah ditulis dengan ChatGPT untuk penyelesaian.

Saluran Slack internal Amazon memiliki banyak pertanyaan staf tentang cara menggunakan ChatGPT. Beberapa staf bertanya kepada Amazon apakah ada pedoman resmi untuk menggunakan ChatGPT di perangkat kerja. Yang lain bertanya-tanya apakah mereka diizinkan bekerja dengan alat AI. Seorang staf mendesak divisi komputasi awan Amazon, AWS, untuk mengklarifikasi sikapnya dalam menggunakan “alat AI (AIGC) generatif”.

Segera, seorang pengacara perusahaan Amazon bergabung dalam diskusi tersebut. Cuplikan layar komunikasi internal di saluran Slack ditampilkan staf peringatan pengacara untuk tidak memberikan “info rahasia Amazon apa pun” kepada ChatGPT. Info ini termasuk kode Amazon yang sedang ditulis. Dia juga menyarankan staf untuk mengikuti kebijakan kerahasiaan perusahaan yang ada, karena beberapa tanggapan ChatGPT terlihat sangat mirip dengan situasi internal Amazon.

“Ini sangat penting karena masukan Anda dapat digunakan sebagai data pelatihan berulang untuk ChatGPT. WSaya tidak ingin hasilnya mengandung atau menyerupai informasi rahasia kami, ”tulis pengacara itu. Pertukaran ini menunjukkan bahwa kemunculan tiba-tiba ChatGPT telah menimbulkan banyak pertanyaan etis baru.

Apa itu ChatGPT?

ChatGPT adalah alat AI percakapan yang merespons pertanyaan dengan jawaban yang lebih jelas dan terkadang sangat cerdas. Penyebaran ChatGPT yang cepat berpotensi mendisrupsi beberapa industri. Ini termasuk media, akademisi, dan kesehatan. Hal ini mendorong upaya untuk menemukan kasus penggunaan baru untuk chatbots dan kemungkinan dampaknya.

Bagaimana staf perusahaan berbagi informasi rahasia dengan ChatGPT, dan apa yang dilakukan pengembangnya, OpenAI, dapat menjadi masalah pelik. Itu sangat penting bagi Amazon karena saingannya Microsoft telah banyak berinvestasi di OpenAI. Ingatlah bahwa investasi Microsoft di OpenAI dilaporkan mencapai $10 miliar.

Emily Bender, yang mengajar linguistik komputasional di Univ. dari Washington, mengatakan: “OpenAI jauh dari transparan tentang cara menggunakan data. Tetapi jika data itu digunakan untuk pelatihan, saya berharap perusahaan berpikir. Setelah beberapa bulan ChatGPT digunakan secara luas, mungkinkah memperoleh informasi rahasia perusahaan swasta melalui petunjuk yang dibuat dengan hati-hati?”

Amazon melacak staf untuk melihat siapa yang menggunakan ChatGPT

Amazon memiliki sejumlah perlindungan internal untuk staf yang menggunakan ChatGPT. Misalnya, tangkapan layar pertukaran menunjukkan bahwa ketika staf menggunakan perangkat kerja untuk mengakses situs web ChatGPT, muncul pesan peringatan yang mengatakan bahwa mereka akan mengakses layanan pihak ketiga yang “mungkin tidak disetujui untuk digunakan oleh Keamanan Amazon.”

Gizchina Berita minggu ini

Staf yang berpartisipasi dalam obrolan saluran Slack mengatakan bahwa mereka dapat melewati pesan tersebut hanya dengan mengeklik tab “Terima”. Staf berspekulasi bahwa munculan peringatan itu untuk mencegah mereka menempelkan info rahasia ke ChatGPT, terutama karena mereka belum melihat kebijakan perusahaan tentang penggunaan internal.

Karyawan berbagi pandangan mereka

Namun, beberapa staf Amazon sudah menggunakan alat AI sebagai “asisten pengkodean” perangkat lunak untuk membantu meningkatkan baris kode internal. “Saya pikir akan sangat bagus untuk memiliki fungsi ini di luar kotak sekarang, saya pikir! Jadi panduan apa pun akan bagus, ”tulis seorang karyawan Amazon di saluran Slack.

Staf lain mengatakan dia membagikan pertanyaan wawancara Amazon untuk posisi pemrograman terbuka di ChatGPT. Menurut postingan staf Slack, model AI memberikan solusi yang tepat untuk beberapa masalah teknis. “Saya prihatin dan bersemangat untuk melihat dampak apa yang akan terjadi pada cara kami melakukan wawancara pengkodean,” katanya.

Secara keseluruhan, staf Amazon yang berpartisipasi dalam obrolan saluran Slack sangat antusias dengan potensi ChatGPT. Mereka bahkan bertanya-tanya apakah Amazon sedang mengembangkan produk pesaing. Kata pengacara perusahaan yang memperingatkan karyawan agar tidak menggunakan ChatGPT Amazon mempercepat pengembangan “teknologi serupa” Mengutip asisten suara Alexa dan layanan rekomendasi kode CodeWhisperer sebagai contoh.

Seorang karyawan AWS menulis bahwa tim Dukungan Perusahaan baru-baru ini membentuk kelompok kerja internal kecil untuk “memahami dampak AI obrolan tingkat lanjut pada bisnis kami”. Penelitian menunjukkan bahwa ChatGPT “sangat baik” dalam menjawab pertanyaan dukungan AWS, termasuk menyelesaikan masalah database Aurora, antara lain. Pada saat yang sama, ini juga bagus untuk membuat materi pelatihan untuk ujian AWS Certified Cloud Architect, yang menangani tujuan perusahaan klien.

Jauh dari transparan

Itu meningkatnya penggunaan ChatGPT di tempat kerja menimbulkan pertanyaan serius tentang bagaimana OpenAI berencana untuk menggunakan materi yang dibagikan dengan alat AI, kata Bender dari UW. Persyaratan layanan OpenAI mengharuskan pengguna untuk menyetujui bahwa ia dapat menggunakan semua input dan output yang dihasilkan oleh pengguna dan ChatGPT. Juga dikatakan bahwa OpenAI menghapus semua informasi identitas pribadi (PII) dari data yang digunakannya.

Namun Bender mengatakan sulit untuk melihat bagaimana OpenAI dapat mengidentifikasi dan menghapus semua PII, mengingat skala ChatGPT yang berkembang pesat. ChatGPT memiliki lebih dari 1 juta pengguna hanya dalam waktu seminggu setelah peluncurannya. Terlebih lagi, kekayaan intelektual perusahaan tidak boleh menjadi bagian dari definisi PII.

Untuk staf Amazon, privasi data tampaknya menjadi perhatian mereka yang paling kecil. Menggunakan chatbots di tempat kerja telah meningkatkan produktivitas hingga 10 kali lipat, kata mereka. Banyak yang berharap untuk bergabung dengan tim internal yang mengembangkan layanan serupa.

“Jika ada rencana untuk membangun layanan serupa sekarang, saya ingin menjadi bagian darinya dan berkontribusi sedikit jika diperlukan,” tulis salah satu staf di Slack.

Sumber =”https://www.gizchina.com/2023/01/27/amazon-gets-very-worried-because-of-chatgpt/”

Location:

Berbagi :