TIDAK ADA orang pada gambar di atas artikel ini yang dapat dipercaya.
Mereka terlihat seperti siapa pun yang Anda lihat di toko, dan hampir tidak dapat dibedakan dari orang sungguhan.
Tapi mereka tidak pernah dilahirkan – mereka hanyalah wajah yang diciptakan oleh alat AI “thispersondoesnotexist.com“.
Setiap klik menghasilkan gambar unik dan fotorealistik dari miliaran kemungkinan kombinasi.
Itu berakhir dengan wajah yang unik setiap saat – sebagian besar hampir tidak dapat dibedakan dari orang sungguhan setelah beberapa kesalahan kecil.
Anda tidak akan terkejut jika melihat mereka berjalan di jalan atau wajahnya muncul di feed media sosial Anda.
Teknologi ini juga berkembang pesat, dan para ahli mengatakan kepada The Sun Online bahwa teknologi tersebut sudah tidak dapat dibedakan dari foto asli.
Dengan maraknya gambar-gambar yang dihasilkan AI, video dan audio deepfake yang semakin canggih, chatbots yang berkembang pesat, dan data yang dihasilkan komputer – apa selanjutnya?
“Kita sedang berada dalam perlombaan senjata – kita berada dalam perlombaan senjata, dimana kedua belah pihak menggunakan AI yang canggih,” kata pakar teknologi Dr Mike Seymour kepada The Sun Online.
Ada kekhawatiran bahwa teknologi ini dapat digunakan untuk menyebarkan misinformasi berbahaya dan berpotensi digunakan oleh penipu yang dapat menciptakan identitas baru dengan bantuan AI.
Dr Seymour baru-baru ini menunjukkan kekuatan teknologi ini – berkonsultasi dengan tim VFK dari Adapt Entertainment untuk mengubah setiap aktor dalam film The Champion dari berbicara bahasa Jerman ke bahasa Inggris menggunakan AI untuk menampilkan wajah mereka.
“Ini sudah tidak bisa dibedakan. Sepertinya film tersebut dibuat dalam bahasa Inggris,” katanya kepada The Sun Online.
Dia memperingatkan bahwa masyarakat perlu lebih mendapat informasi untuk memastikan mereka skeptis terhadap apa yang mereka temui di dunia maya di tengah maraknya AI.
Namun kemudahan akses terhadap teknologi AI ini semakin meningkatkan penyebarannya — dan hal ini akan menjadi semakin umum.
“Masalahnya dengan hal ini adalah semakin mudahnya menghasilkan produk palsu yang kredibel, sehingga menurunkan batasan bagi siapa yang dapat melakukan tindakan tersebut,” kata Dr Seymour.
Dan satu studi mengungkapkan bahwa orang-orang menganggap wajah yang dihasilkan AI sudah tidak dapat dibedakan dari manusia dan “lebih dapat dipercaya” dibandingkan wajah aslinya.
Eksperimen yang dikumpulkan oleh University of California menemukan bahwa wajah AI 7,7 persen lebih dapat dipercaya.
“Ini mungkin karena wajah-wajah yang disintesis cenderung lebih mirip wajah-wajah rata-rata yang dianggap lebih dapat dipercaya,” kata studi tersebut.
“Terlepas dari alasan yang mendasarinya, wajah-wajah yang dihasilkan secara sintetis telah muncul di sisi lain lembah yang luar biasa ini.”
Cassidy Bereskin, seorang peneliti doktoral di Oxford Internet Institute, mengatakan kepada The Sun Online bahwa kita sekarang hidup di dunia di mana “melihat tidak lagi percaya”.
“Deepfake dan model AI generatif menjadi semakin canggih dan dapat diakses oleh banyak orang,” katanya.
“Mereka sangat realistis dan tidak lagi hanya tersedia bagi programmer.
“Perkembangan ganda ini mengancam peningkatan pasokan, skala, distribusi, dan kredibilitas misinformasi online.”
Dia melanjutkan: “Deepfake telah menyebabkan kerusakan reputasi dan psikologis yang signifikan dalam pornografi.
“Mereka juga dipersenjatai untuk melemahkan demokrasi, keamanan nasional dan perekonomian kita, seperti digunakan dalam penipuan keuangan.
“Peningkatan volume dan kredibilitas mereka mengancam memperburuk risiko terburuk di dunia digital kita.”
Dr Seymour dan Ms Bereskin mendesak masyarakat untuk menjadi lebih terinformasi guna membantu mereka menavigasi dunia informasi online yang semakin menantang.
“Penting bagi pengguna untuk mencari informasi dari sumber berkualitas tinggi dan ingat bahwa melihat bukan berarti percaya,” kata Bereskin.
“Teknologi ini meyakinkan, jadi tentu saja pelaku kejahatan akan mencoba menggunakannya, tapi pertahanan terbaik yang kita miliki adalah masyarakat yang terinformasi, lagipula kita sudah mampu membuat gambar diam visual yang brilian dengan Photoshop selama bertahun-tahun, tapi karena orang-orang Ketahuilah bahwa, secara alamiah, skeptisisme yang sehat akan berkembang ketika gambaran tampak mustahil atau aneh,” kata Dr Seymour.
Dia mengatakan kesadaran yang paling penting untuk dikembangkan adalah kemampuan untuk mengenali video palsu – karena foto dan cerita tertulis sudah menjadi hal yang umum.
Dr Seymour melanjutkan: “Kami perlu memperbarui undang-undang kami saat ini untuk mengejar ketertinggalan, tetapi kami sudah memiliki undang-undang pencemaran nama baik dan hak cipta.
“Menyamar sebagai seseorang atau menggunakan kemiripannya tanpa izin adalah hal yang ilegal.
“Undang-undang yang ada saat ini merupakan awal yang baik, namun teknologi berkembang begitu cepat sehingga perlu dilakukan lebih banyak upaya untuk mengejar ketertinggalan tersebut.”
Jyothsna Gurumurthy, peneliti doktoral di Universitas Oxford, mengatakan kepada The Sun Online bahwa perlu lebih banyak fokus pada pengaturan AI generator algoritmik.
“Mungkin ada bentuk-bentuk baru media sintetik selain deepfake yang membawa permasalahan tersendiri, namun penggunaan data yang dihasilkan secara artifisial akan terus menciptakan perang informasi baru karena semakin canggih dan sulit dibedakan dari kenyataan,” katanya.
Dr Seymour menambahkan: “Kami perlu memperbarui undang-undang kami saat ini untuk mengejar ketertinggalan, tetapi kami sudah memiliki undang-undang pencemaran nama baik dan hak cipta. Meniru identitas seseorang atau menggunakan kemiripannya tanpa izin adalah tindakan ilegal.
“Undang-undang yang ada saat ini merupakan awal yang baik, namun teknologi berkembang begitu cepat sehingga perlu dilakukan lebih banyak upaya untuk mengejar ketertinggalan tersebut.”
Dia menambahkan bahwa pertarungan AI sebenarnya bisa terjadi sebaliknya – dengan foto asli dianggap “palsu”.
“Kita harus mewaspadai orang-orang yang mengklaim hal sebaliknya,” katanya.
“Sudah ada politisi Amerika Selatan yang mengklaim bahwa video mereka yang menampilkan beberapa pelacur adalah ‘sangat palsu’ – padahal sebagian besar ahli setuju bahwa video tersebut asli.
“Tapi seperti kata pepatah ‘kebohongan bisa menyebar ke seluruh dunia dua kali sebelum kebenaran terungkap’.”
Dia memperingatkan konstruksi AI pada dokumen hukum dan dokumen bank juga bisa menjadi perkembangan yang mengkhawatirkan di dunia online.
“Dokumen yang benar-benar masuk akal dan berisi cukup banyak informasi nyata yang dijalin bersama untuk membuat Anda percaya bahwa dokumen tersebut 100% asli dan autentik,” dia memperingatkan.
Dunia telah menyaksikan beberapa berita palsu tersebar – AI seperti itu menghasilkan video yang sangat palsu. Presiden Ukraina Volodymyr Zelensky memerintahkan pasukannya untuk meletakkan senjata pada Maret lalu.
Malformasi seperti itu bisa sangat menghancurkan dan mendatangkan malapetaka jika hal itu berhasil mendapat perhatian.
Namun untungnya, upaya amatir untuk meniru Zelensky ditertawakan karena penampilannya yang buruk.
