Seorang remaja 'deepfake' vaping berada di tengah-tengah kasus pelecehan — tapi bagaimana jika itu tidak dipalsukan?

Seorang remaja 'deepfake' vaping berada di tengah-tengah kasus pelecehan — tapi bagaimana jika itu tidak dipalsukan?

Para ahli meningkatkan keraguan bahwa kecerdasan buatan digunakan untuk membuat video yang oleh polisi disebut sebagai 'deepfake' dan berada di tengah pertempuran hukum yang sedang berlangsung di Pennsylvania.

Insiden tersebut menjadi berita internasional bulan lalu setelah ibu seorang pemandu sorak sekolah menengah dituduh memanipulasi gambar dan video dalam upaya untuk membuatnya seolah-olah saingan putrinya sedang minum, merokok, dan berpose telanjang.

Sang ibu, Raffaela Spone yang berusia 50 tahun, dilaporkan mengirim konten yang telah dimodifikasi dari nomor tak dikenal ke tiga pemandu sorak dan pelatih mereka.

Kantor Kejaksaan Distrik Bucks County, yang mendakwa Spone dengan tiga dakwaan pelecehan dunia maya terhadap seorang anak dan tiga dakwaan pelecehan, merujuk istilah deepfake saat mendiskusikan gambar serta video yang menggambarkan salah satu korban yang diduga melakukan vaping.

Namun tuduhan tersebut menimbulkan pertanyaan serius tentang pemahaman penegak hukum tentang teknologi deepfake, dan kesediaan media untuk mengulangi klaim mereka tanpa verifikasi.

Sementara jaksa belum memberikan rinciannya, alat yang dirancang untuk membuat wanita tampak telanjang dalam gambar dengan bantuan kecerdasan buatan (AI). memang ada . Sebaliknya, video yang diduga vaping telah mendorong penolakan yang signifikan dari pakar deepfake.

Meskipun dugaan deepfake awalnya tidak tersedia untuk umum, rekaman ponsel dari perangkat lain yang memutar rekaman vaping diberikan kepada NBC News bulan lalu setelah salah satu korban yang diduga melapor.

Madi Hame, seorang pemandu sorak berusia 17 tahun dengan pasukan Victory Vipers, membantah kepada NBC News bahwa rekaman itu benar-benar menunjukkan vapingnya. Hame mengatakan dia mengetahui video itu setelah dikirim, diduga oleh Spone, ke pelatih pemandu soraknya.

“Saya pikir jika saya mengatakannya, tidak ada yang akan percaya kepada saya karena jelas, ada buktinya, ada video — tapi jelas video itu dimanipulasi,” kata Hame kepada NBC News.

The Daily Dot menghubungi ibu Hame, Jennifer, yang muncul bersama Hame dalam wawancara NBC News, untuk menanyakan tentang video vaping, tetapi tidak menerima balasan pada saat pers.

Henry Ajder, pakar media sintetis dan deepfake yang berbasis di Inggris, adalah salah satu orang pertama yang mengajukan pertanyaan tentang video vaping setelah ABC News menayangkan laporan serupa.

'Saya ragu tentang kisah tentang seorang ibu yang melakukan deepfake saingan pemandu sorak putrinya,' cuit Ajder bulan lalu. 'Salah satu video yang dirilis oleh ABC tampaknya bukan video palsu, tetapi mereka masih melabeli video itu tanpa bukti atau analisis yang substansial.'

Pakar deepfake lainnya tampaknya memiliki kekhawatiran yang sama. Pembuat deepfake populer yang dikenal secara online dengan nama panggilannya Dr Fakenstein —Yang saat ini bekerja sebagai artis AI untuk acara komedi Keadilan yang Sassy dikembangkan oleh pencipta South Park Trey Parker dan Matt Stone — memberi tahu Daily Dot bahwa video vaping tampaknya tidak dibuat secara artifisial.

Secara khusus, Dr. Fakenstein mencatat bahwa video tersebut tidak memiliki gangguan tertentu yang hampir selalu muncul di deepfake saat wajah terhalang oleh objek lain.

“Sulit untuk melihatnya karena ini adalah video, tetapi bagi saya itu tidak terlihat seperti deepfake,” kata mereka. “Cahaya bergeser seperti biasanya, tidak ada gangguan di sekitar tempat tangan menutupi wajah, tidak ada gangguan saat awan vape masuk ke depan wajah, yang sangat sulit jika bukan tidak mungkin dilakukan tanpa gangguan.”

Daily Dot menjangkau Departemen Kepolisian Kotapraja Hilltown , yang menyelidiki dan kemudian melakukan penangkapan terhadap Spone, untuk menanyakan tentang video vaping tersebut.

Kepala Polisi Christopher Engelhart menyatakan bahwa dia yakin dokumen dakwaan terhadap Spone tidak secara pasti menyebut video itu sebagai deepfake.

“Pemahaman saya apakah itu terdaftar sebagai deepfake atau teknologi serupa,” kata Engelhart.

Dalam pengaduan pidana terhadap Spone, petugas Polisi Kotapraja Hilltown, Matthew Reiss, menyebut video vaping sebagai 'hasil kerja program yang atau mirip dengan 'Deep Fakes'.'

Ketika didesak tentang apakah departemen telah menerima kemungkinan bahwa video vaping sama sekali bukan deepfake, Engelhart menyatakan bahwa dia tidak yakin apakah terminologi yang digunakan untuk menggambarkan video tersebut telah diperkenalkan oleh tersangka korban atau polisi.

Engelhart kemudian mengklaim bahwa penyelidik telah melakukan analisis forensik terhadap video tersebut untuk menentukan bahwa video tersebut telah dimanipulasi.

“Tegasnya, korban itu bukan vaping,” tambah Engelhart. “Pernyataannya adalah bahwa dia [Spone] mampu memanipulasinya agar terlihat seperti dia sedang vaping.”

Tetapi para ahli skeptis bahwa bahkan pembuat deepfake terbaik pun bisa menghasilkan video yang begitu meyakinkan, apalagi Spone. Ketika ditanya apakah ibu berusia 50 tahun itu berpotensi mendapatkan bantuan dari pencipta deepfake, Engelhart menyatakan bahwa meskipun itu mungkin, tidak ada bukti saat ini yang menunjukkan bahwa Spone memiliki kaki tangan.

Derpfakes, seniman deepfake terkenal lainnya yang kreasinya telah dikumpulkan jutaan tampilan online, juga melihat video vaping yang disajikan oleh NBC News dan memberi tahu Daily Dot bahwa mereka tidak dapat memastikan bahwa video tersebut telah dimanipulasi.

'Saya cenderung mengatakan itu asli,' kata Derpfakes. “Jika ini adalah deepfake maka itu pasti membutuhkan tingkat keterampilan efek visual tertentu daripada perangkat lunak deepfake out-of-the-box.”

Selama a konferensi pers Bulan lalu, Jaksa Wilayah Bucks County, Matt Weintraub, tampaknya menyarankan bahwa video vaping tersebut berdasarkan rekaman yang ada dari akun media sosial korban.

“Video atau gambar tersebut sudah ada dalam beberapa bentuk dan kemudian tuduhan kami — ini tentu saja dapat dibuktikan di persidangan, dia tidak bersalah sampai terbukti bersalah — tetapi dugaan kami adalah bahwa Bu Spone mengambil gambar yang ada dari media sosial yang ada dari ketiganya. akun media sosial korban yang ada dan memanipulasinya, ”kata Weintraub.

Pernyataan tersebut serupa dengan klaim yang dibuat oleh Engelhart kepada Daily Dot bahwa Spone diduga menggunakan video yang sah sebagai dasar deepfake tersebut. Polisi tidak tahu apakah wajah korban ditambahkan ke video vaping wanita muda lainnya atau apakah pena vaping dan asap ditambahkan secara digital ke video sah dari korban yang diduga.

Terlepas dari itu, para ahli skeptis bahwa skenario mana pun merupakan representasi akurat dari rekaman tersebut.

Pencipta deepfake terkemuka yang dikenal sebagai Shamook , yang videonya telah ditonton lebih dari 21 juta kali di YouTube saja, berpendapat bahwa meskipun resolusi video vaping 'sangat rendah, terlalu bersih untuk dijadikan deepfake'.

“Dari sudut pandang saya, ini bukan deepfake,” kata Shamook kepada Daily Dot. 'Asap dari vape akan terlalu sulit untuk dibuat ... Saya tidak bisa melihat bukti yang masuk akal bahwa itu adalah deepfake.'

Weintraub juga menyatakan selama konferensi pers bahwa penyelidik menentukan bahwa video vaping telah dimanipulasi setelah menganalisis 'metadatanya', istilah yang mengacu pada informasi yang disematkan di media digital yang dapat mengungkapkan bagaimana dan kapan terakhir diedit.

Tetapi setelah menghubungi Reiss, petugas yang menyelidiki Spone, Daily Dot mengetahui bahwa polisi tidak pernah benar-benar mendapatkan video vaping asli. Sebaliknya, seperti yang terlihat di NBC News, polisi hanya memiliki akses ke rekaman ponsel yang diambil oleh Spone dari video vaping yang diputar di perangkat terpisah. Oleh karena itu, analisis metadata apa pun akan gagal untuk memasukkan informasi pada video sumber.

Menanggapi pertanyaan tentang bagaimana bisa ditentukan bahwa rekaman vaping dimanipulasi tanpa akses ke video aslinya, Reiss berpendapat bahwa dia bisa melihat dengan 'mata telanjang' elemen yang 'tidak masuk akal.'

'Sumber dari mana Nyonya Spone membuat video itu masih menjadi pertanyaan,' kata Reiss. “Dan kami berharap bahwa Nyonya Spone selama sidang pendahuluan atau persidangan akan memberikan pencerahan kepada kami sejauh apa sumber dan maksudnya.”

Reiss menyatakan dengan pasti bahwa 'kecerdasan buatan digunakan' dalam foto yang membuat beberapa pemandu sorak tampak telanjang, yang akan sejalan dengan teknologi saat ini yang dirancang untuk melakukan hal itu. Namun keberadaan foto-foto yang diubah tersebut, selain bantahan dari tersangka korban terkait dengan keterlibatannya dalam video vaping, tampaknya menjadi dasar kepercayaan bahwa rekaman tersebut dimanipulasi, meskipun sejauh ini tidak ada bukti teknis yang mendukung. klaim.

Kata 'deepfake', seperti yang disebutkan dalam dokumen tuntutan, tampaknya telah menjadi istilah yang umum di kalangan polisi, kejaksaan, dan media saat membahas setiap dan semua konten digital terkait peristiwa tersebut.

Sidang pengadilan Spone berikutnya akan berlangsung pada 14 Mei, di mana Reiss mengatakan lebih banyak informasi tentang penyelidikan akan dipublikasikan.

Meskipun bukti baru dapat mengubah kasus ini, anggapan bahwa polisi mungkin salah merujuk ke video otentik sebagai dimanipulasi bukanlah hal yang mustahil.

Yang lebih merepotkan, tampaknya tidak ada media yang mencoba memverifikasi bahwa rekaman vaping sebenarnya palsu sebelum menyiarkan klaim tersebut kepada jutaan orang Amerika.

Kemungkinan salah langkah oleh media, dan kemungkinan bahwa sistem peradilan pidana dapat salah menerapkan undang-undang terhadap video yang salah dikarakteristikkan sebagai deepfake, adalah hal yang paling mengkhawatirkan para ahli.

“Namun menakutkan jika itu bukan deepfake,” tambah Shamook. 'Ini bisa menjadi awal dari orang-orang yang dapat mendiskreditkan bukti nyata hanya dengan mengatakan 'deepfake'.'

Selain video vaping, tuduhan lain terhadap Spone, jika benar, masih sarat dan menakutkan. Tetapi akibat dari kasus terhadapnya, jika bergantung bahkan pada sebagian informasi yang tidak akurat, dapat menimbulkan konsekuensi berbahaya di dunia media yang dimanipulasi (dan tidak dimanipulasi).


Kisah teknologi teratas minggu ini

'Bosan melihat penjahat dimuliakan': Polisi di seluruh negeri menyumbang untuk penggalangan dana bagi petugas yang membunuh Breonna Taylor
FCC menemui jalan buntu. Kapan Biden akhirnya akan memperbaikinya?
Pencuri meme F * ck Jerry mengambil hampir $ 1 juta dalam bantuan virus korona
Selamat datang di dunia teori konspirasi paspor vaksin yang terus berkembang
Seorang remaja 'deepfake' vaping berada di tengah-tengah kasus pelecehan — tapi bagaimana jika itu tidak dipalsukan?
Daftar untuk menerima Dot Harian Internet Insider buletin untuk berita penting dari garis depan online.