Manakah dari wajah berikut yang nyata?

Orang-orang ini mungkin terlihat familier. Mereka mungkin terlihat seperti pengguna yang pernah Anda lihat di Facebook, Twitter atau Tinder, atau mungkin orang yang ulasan produknya Anda baca di Amazon. Mereka terlihat sangat nyata pada pandangan pertama, tetapi mereka tidak ada. Mereka lahir dari pikiran komputer.

Sekarang ada bisnis yang menjual orang palsu. Di situs web Generated.Photos, Anda dapat membeli orang palsu “unik, bebas khawatir” seharga $ 2,99, atau 1.000 orang seharga $ 1.000. Jika Anda hanya memerlukan beberapa orang palsu, untuk karakter dalam video game atau untuk membuat situs web perusahaan Anda tampil lebih beragam, Anda bisa mendapatkan foto mereka secara gratis di ThisPersonDoesNotExist.com. Sesuaikan kemiripannya sesuai kebutuhan. Jadikan mereka tua, muda atau etnis yang Anda pilih. Jika Anda ingin orang palsu Anda dianimasikan, perusahaan bernama Rosebud.AI dapat melakukannya dan bahkan membuat mereka berbicara.

Orang-orang yang disimulasikan ini mulai muncul di internet, digunakan sebagai topeng oleh orang-orang sungguhan dengan maksud jahat: mata-mata yang memasang wajah menarik dalam upaya menyusup ke komunitas intelijen; propagandis sayap kanan yang bersembunyi di balik profil palsu, foto dan semuanya; peleceh online yang menjebak target mereka dengan wajah ramah.

Kreasi ini menjadi mungkin hanya dalam beberapa tahun terakhir berkat jenis kecerdasan buatan baru yang disebut jaringan adversarial generatif, atau GAN. Intinya, Anda memberi program komputer setumpuk foto orang sungguhan. Ia mempelajari mereka dan mencoba menghasilkan foto orang-orangnya sendiri, sementara bagian lain dari sistem mencoba mendeteksi mana di antara foto-foto itu yang merupakan orang palsu. Bolak-balik membuat produk akhir semakin tidak bisa dibedakan dari yang asli.

Mengingat kecepatan peningkatan, mudah untuk membayangkan masa depan yang tidak terlalu lama di mana kita dihadapkan pada tidak hanya potret tunggal orang palsu tetapi seluruh koleksi mereka – di pesta dengan teman palsu, bergaul dengan anjing palsu mereka, memegang bayi palsu mereka. Akan semakin sulit untuk mengetahui siapa yang daring dan siapa yang merupakan khayalan imajinasi komputer.

“Ketika teknologi pertama kali muncul pada 2014, itu buruk; itu terlihat seperti Sims, ”kata Camille Francois, peneliti disinformasi yang tugasnya menganalisis manipulasi jejaring sosial. “Ini adalah pengingat betapa cepatnya teknologi dapat berkembang. Deteksi hanya akan semakin sulit seiring waktu. “

Kemajuan dalam pemalsuan wajah dimungkinkan sebagian karena teknologi sekarang jauh lebih baik dalam mengidentifikasi fitur-fitur utama wajah. Anda dapat menggunakan wajah Anda untuk membuka kunci ponsel cerdas Anda, atau memberi tahu perangkat lunak foto Anda untuk menyortir ribuan gambar Anda dan hanya menampilkan foto anak Anda.

Program pengenalan wajah digunakan oleh penegak hukum untuk mengidentifikasi dan menangkap tersangka kriminal (dan juga oleh beberapa aktivis untuk mengungkap identitas petugas polisi yang menutupi label nama mereka dalam upaya untuk tetap anonim). Sebuah perusahaan bernama Clearview AI mengikis web dari miliaran foto publik, dengan santai dibagikan secara online oleh pengguna sehari-hari, untuk membuat aplikasi yang mampu mengenali orang asing dari satu foto. Teknologi ini menjanjikan kekuatan super untuk mengatur dan memproses dunia dengan cara yang sebelumnya tidak mungkin dilakukan.

Tetapi algoritma pengenalan wajah, seperti sistem AI lainnya, tidaklah sempurna. Berkat bias yang mendasari data yang digunakan untuk melatih mereka, beberapa sistem ini tidak sebaik, misalnya, dalam mengenali orang kulit berwarna. Pada tahun 2015, sistem pendeteksian gambar awal yang dikembangkan oleh Google memberi label pada dua orang berkulit hitam sebagai “gorila”, kemungkinan besar karena sistem tersebut telah memberi makan lebih banyak foto gorila daripada orang berkulit gelap.

Selain itu, kamera – mata sistem pengenalan wajah – tidak begitu baik dalam menangkap orang berkulit gelap. Standar yang tidak menguntungkan itu berasal dari hari-hari awal pengembangan film, ketika foto-foto dikalibrasi untuk menunjukkan wajah orang-orang berkulit terang. Konsekuensinya bisa sangat parah. Pada bulan Januari, seorang pria kulit hitam di Detroit bernama Robert Williams ditangkap, dituduh melakukan kejahatan yang tidak dilakukannya karena pencocokan pengenalan wajah yang salah.

Kecerdasan buatan dapat membuat hidup kita lebih mudah, tetapi pada akhirnya itu sama cacatnya dengan kita, karena kita ada di balik semua itu. Manusia memilih bagaimana sistem AI dibuat dan data apa yang diekspos. Kami memilih suara yang mengajarkan asisten virtual untuk mendengar, mengarahkan sistem ini untuk tidak memahami orang dengan aksen. Kami memberi label gambar yang melatih komputer untuk melihat; mereka kemudian mengasosiasikan kacamata dengan “dweebs” atau “nerd”. Kami merancang program komputer untuk memprediksi perilaku kriminal seseorang dengan memberikan data tentang putusan masa lalu yang dibuat oleh hakim manusia – dan dalam prosesnya membuat bias hakim tersebut.

Kecerdasan buatan juga membuat kesalahan pada orang-orang palsu yang dibayangkannya. Ada beberapa kelemahan umum yang dapat dideteksi: anting-anting yang tidak cocok, kurangnya simetri, atau latar belakang yang terdistorsi atau cacat yang mengerikan.

Dan manusia salah. Kami mengabaikan atau mengabaikan kekurangan dalam sistem ini, terlalu cepat untuk percaya bahwa komputer sangat rasional, objektif, selalu benar. Penelitian telah menunjukkan bahwa, dalam situasi di mana manusia dan komputer harus bekerja sama untuk membuat keputusan – untuk mengidentifikasi sidik jari atau wajah manusia – orang secara konsisten membuat identifikasi yang salah ketika komputer mendorong mereka untuk melakukannya. Pada masa-masa awal sistem GPS dasbor, pengemudi terkenal mengikuti petunjuk perangkat ke suatu kesalahan, mengirim mobil ke danau, dari tebing, dan ke pepohonan.

Apakah ini kerendahan hati atau keangkuhan? Apakah kita menempatkan terlalu sedikit nilai pada kecerdasan manusia, atau apakah kita melebih-lebihkannya, dengan asumsi kita begitu pintar sehingga kita masih dapat menciptakan sesuatu dengan lebih pintar?

Algoritme Google dan Bing menyortir pengetahuan dunia untuk kami. Umpan berita Facebook memfilter pembaruan dari lingkaran sosial kami dan memutuskan mana yang cukup penting untuk ditunjukkan kepada kami. Dengan fitur mengemudi sendiri di mobil, kami menempatkan keamanan di tangan (dan mata) perangkat lunak.

Kami menaruh banyak kepercayaan pada sistem ini, tetapi mereka bisa sama salahnya dengan kami.

© 2020 The New York Times Company
Baca lebih lanjut di nytimes.com