Bangkitnya Deepfakes: Huawei, Alibaba, dan Lainnya Mencari Persetujuan CAC

Raksasa teknologi Tiongkok Huawei dan Alibaba termasuk di antara banyak merek teknologi Tiongkok yang mencari persetujuan deepfake. Mereka telah mengajukan permohonan kepada regulator dunia maya Tiongkok, Administrasi Ruang Siber Tiongkok untuk mendapatkan persetujuan. Menurut Reuters, CAC telah menerima sekitar 110 permohonan untuk produk yang dapat menghasilkan deepfake. CAC menetapkan aturan pada bulan Desember 2022 yang mengatur penggunaan teknologi deepfake. Merek-merek ini sedang mencari persetujuan untuk mematuhi aturan ini.

Apa itu deepfake?

Deepfake adalah jenis media sintetis yang menggunakan AI untuk membuat hoax yang meyakinkan. Bisa dalam bentuk gambar, audio, atau video palsu. Mereka dibuat dengan menggunakan pembelajaran mendalam, suatu jenis pembelajaran mesin tingkat lanjut. Deepfake dibuat menggunakan jenis struktur jaringan saraf khusus yang disebut autoencoder. Ini terdiri dari dua bagian: encoder dan decoder. Selain itu, encoder memampatkan gambar, audio, atau video asli menjadi representasi yang lebih kecil. Namun, dekoder mencoba membuat ulang versi asli dari versi terkompresi.

Deepfake dapat digunakan untuk berbagai tujuan, termasuk seni, hiburan, dan propaganda politik. Namun, hal tersebut juga dapat menimbulkan bahaya besar, termasuk pemerasan, kerusakan reputasi, dan situasi yang membahayakan hukum. Umumnya mereka legal, dan penegakan hukum tidak bisa berbuat banyak terhadap mereka, meskipun ancaman serius yang mereka timbulkan. Konten tersebut hanya ilegal jika melanggar undang-undang yang ada seperti pornografi anak, pencemaran nama baik, atau perkataan yang mendorong kebencian.

Kurangnya undang-undang yang melarang deepfake disebabkan karena kebanyakan orang tidak menyadari teknologi baru, kegunaannya, dan bahayanya. Korban tidak mendapatkan perlindungan hukum dalam sebagian besar kasus pemalsuan mendalam. Deepfake dapat dilakukan untuk tujuan jahat, seperti menyesatkan masyarakat dengan menyebarkan berita palsu.

Mengapa Huawei dan Alibaba mencari persetujuan deepfake?

Huawei dan Alibaba termasuk di antara merek yang meminta persetujuan deepfake untuk mematuhi aturan yang ditetapkan oleh CAC. Aturan ini mengharuskan merek untuk mendapatkan persetujuan sebelum menggunakan teknologi deepfake. Undang-undang menyatakan bahwa merek-merek ini harus dengan jelas menandai konten apa pun dari produk palsu mereka. Kegagalan untuk mematuhi peraturan ini dapat mengakibatkan denda dan hukuman lainnya.

Selain Huawei dan Alibaba, beberapa perusahaan teknologi Tiongkok lainnya juga telah mengajukan permohonan ke CAC untuk membangun teknologi deepfake. Ini termasuk Tencent, Baidu, dan ByteDance. Merek-merek ini berupaya mengembangkan teknologi deepfake untuk berbagai tujuan. Ini termasuk hiburan, periklanan, dan pendidikan. Berikut beberapa alasan lain mengapa perusahaan-perusahaan ini memerlukan persetujuan CAC

Alasan

1. Jika merek-merek ini tidak mendapat persetujuan dari CAC, kemungkinan besar merek-merek tersebut akan menjalani pemeriksaan serius. Penyelidikan ini bisa berakhir dengan larangan atau hukuman besar seperti yang dinyatakan dalam undang-undang CAC. Oleh karena itu, untuk menghindari hal ini, merek-merek ini meminta persetujuan sebelum mengembangkan teknologinya.

2. Perusahaan-perusahaan seperti Huawei, Alibaba, Baidu Inc, SenseTime Group, dan merek-merek lain berupaya meningkatkan teknologi palsu mereka. Ini adalah alasan lain mengapa mereka memerlukan persetujuan. Percuma saja mengembangkan teknologi yang sangat besar dan tidak bisa merilisnya ke publik. Oleh karena itu, merek-merek tersebut ingin memastikan inovasinya dapat menjangkau pasar. Oleh karena itu perlunya persetujuan sebelum mengembangkan teknologi lebih lanjut.

3. Teknologi deepfake dapat digunakan untuk membuat konten pemasaran yang realistis dan menarik. Misalnya, Alibaba menggunakan teknologi deepfake untuk menciptakan influencer virtual bernama Xiaobao. Dengan mencari persetujuan deepfake, merek seperti Alibaba mungkin ingin memperluas penggunaan teknologi ini dalam pemasaran.

4. Teknologi deepfake juga dapat digunakan untuk menciptakan efek khusus yang realistis dalam film dan acara TV. Dengan mencari persetujuan deepfake, merek seperti Huawei mungkin ingin menggunakan teknologi ini dalam produk hiburan mereka.

5. Teknologi deepfake dapat digunakan untuk membuat simulasi realistis untuk pelatihan dan pengujian keamanan. Dengan mencari persetujuan deepfake, perusahaan seperti Huawei mungkin ingin menggunakan teknologi ini dalam produk keamanan mereka.

Tokoh masyarakat di Deepfakes

Deepfake telah digunakan untuk berbagai tujuan, terutama untuk hiburan dan parodi. Namun, seiring dengan kemajuan teknologi dan kemudahan akses, kami melihat beberapa orang menyalahgunakan teknologi tersebut. Berikut adalah beberapa pemalsuan mendalam yang terkenal dari tokoh masyarakat populer dan tujuan dari pemalsuan mendalam ini adalah untuk menyebarkan berita palsu

1.Morgan Freeman:

Salah satu deepfake yang paling meyakinkan dan menakutkan adalah deepfake Morgan Freeman. Video tersebut pertama kali dibagikan oleh Saluran YouTube Deepfake Belanda Diep. Video yang sebenarnya bukan Morgan Freeman itu menjadi viral dan memicu kekhawatiran akan penggunaan teknologi. Kepalsuan mendalam diciptakan oleh ahli AI Bob de Jong, seorang pembuat film yang bekerja untuk SingularityNET. Video tersebut juga merupakan contoh bagaimana teknologi deepfake dapat digunakan untuk membuat video palsu yang meyakinkan tentang orang-orang yang mengatakan atau melakukan hal-hal yang tidak pernah mereka lakukan.

2. Mark Zuckerberg:

Dalam video yang dimanipulasi, Mark Zuckerberg dari Facebook memuji betapa hebatnya memiliki miliaran data orang. Video palsu tersebut dibuat oleh artis Bill Posters dan Daniel Howe. Video tersebut mereka buat bekerja sama dengan perusahaan iklan, Canny dan diunggah ke Instagram. Video tersebut dibuat dengan mengambil cuplikan Mark tahun 2017 dan menggunakan AI untuk memanipulasi wajah Mark agar tampak bahwa dia mengatakan sesuatu yang tidak dia katakan. Suara Zuckerberg juga digantikan oleh suara aktor. Video tersebut juga memperlihatkan Mark duduk di depan meja, tampak memberikan pidato yang menyeramkan tentang kekuatan Facebook. Selain itu, video tersebut dibingkai dengan chyron siaran yang bertuliskan “Kami meningkatkan transparansi pada iklan”, agar terlihat seperti bagian dari segmen berita. Meskipun videonya terlihat nyata, itu palsu.

3. Barak Obama:

Barack Obama telah menjadi subjek beberapa video palsu, termasuk iklan layanan masyarakat yang dibuat oleh Jordan Peele pada tahun 2018. Peele menggunakan teknologi deepfake untuk mensimulasikan wajah dan suara Obama. Dalam video tersebut, Obama terlihat memperingatkan masyarakat tentang bahaya berita palsu.

Selain itu, tokoh masyarakat terkenal lainnya yang telah digunakan untuk melakukan pemalsuan besar-besaran adalah Perdana Menteri Belgia, Donald Trump, Dalí dan banyak lainnya.

Kesimpulan

Huawei dan Alibaba termasuk di antara merek yang meminta persetujuan deepfake dari regulator dunia maya Tiongkok, CAC. Persetujuan ini diperlukan untuk mematuhi aturan yang ditetapkan oleh CAC yang mengatur penggunaan teknologi deepfake. Perusahaan teknologi Tiongkok lainnya, termasuk Tencent, Baidu, dan ByteDance, juga meminta persetujuan deepfake karena berbagai alasan. Deepfake juga semakin menjadi perhatian karena dapat digunakan untuk menyebarkan berita palsu dan sulit dideteksi.

Sumber =”https://www.gizchina.com/2023/09/02/the-rise-of-deepfakes-huawei-alibaba-and-more-seek-cac-approvals/”

Location:

Berbagi :