Gambar yang dihasilkan oleh kecerdasan buatan menjadi lebih meyakinkan dan lazim, dan dapat menyebabkan kasus pengadilan yang lebih rumit jika media sintetis diajukan sebagai bukti, kata pakar hukum.

“Deepfakes” sering melibatkan pengeditan video atau foto orang agar terlihat seperti orang lain dengan menggunakan AI pembelajaran mendalam. Teknologi ini secara luas menghantam radar publik pada tahun 2017 setelah pengguna Reddit memposting pornografi selebriti yang tampak realistis ke platform tersebut.

Pornografi terungkap telah direkayasa, tetapi teknologi revolusioner hanya menjadi lebih realistis dan lebih mudah dibuat di tahun-tahun sesudahnya.

Bagi pakar hukum, deepfake dan gambar serta video yang dihasilkan AI kemungkinan akan menyebabkan sakit kepala besar di pengadilan – yang telah menguatkan teknologi ini selama bertahun-tahun. The ABA Journal, publikasi unggulan dari American Bar Association, menerbitkan sebuah postingan pada tahun 2020 yang memperingatkan bagaimana pengadilan di seluruh dunia sedang berjuang dengan proliferasi gambar dan video deepfake yang diajukan sebagai bukti.

BAGAIMANA DEEPFAKE SEDANG MENGHANCURKAN AKUNTABILITAS POLITIK

Gambar yang dihasilkan oleh kecerdasan buatan menjadi lebih meyakinkan dan lazim, dan dapat menyebabkan kasus pengadilan yang lebih rumit jika media sintetis diajukan sebagai bukti, kata pakar hukum. (Reuters / Dado Ruvic / Ilustrasi)

“Jika sebuah gambar bernilai ribuan kata, video atau audio bisa bernilai satu juta,” Jason Lichter, anggota Komite E-Discovery dan Bukti Digital ABA, mengatakan kepada ABA Journal pada saat itu. “Karena banyaknya bobot yang diberikan pada video oleh pencari fakta, risiko yang terkait dengan deepfake menjadi jauh lebih besar.”

Deepfake yang diajukan sebagai bukti dalam kasus pengadilan telah muncul. Di Inggris, seorang wanita yang menuduh suaminya melakukan kekerasan selama pertarungan hak asuh ditemukan telah memalsukan audio yang dia serahkan sebagai bukti kekerasannya.

RUU CALIFORNIA AKAN MENGIMINALISASI PORNO YANG DIHASILKAN AI TANPA PERSETUJUAN

Dua pria yang didakwa berpartisipasi dalam kerusuhan Capitol 6 Januari 2021 mengklaim bahwa video insiden tersebut mungkin dibuat oleh AI. Dan pengacara untuk Elon Musk Tesla baru-baru ini berpendapat bahwa video Musk dari tahun 2016, yang tampaknya menunjukkan dia menggembar-gemborkan fitur self-driving dari mobil, bisa menjadi deepfake setelah keluarga seorang pria yang meninggal di Tesla menggugat perusahaan tersebut.

Seorang profesor di Universitas Newcastle di Inggris berpendapat dalam sebuah esai tahun lalu bahwa deepfake bisa menjadi masalah bagi pelanggaran tingkat rendah yang berhasil melalui pengadilan.

“Meskipun deepfake politik menjadi berita utama, bukti yang dipalsukan dalam kasus hukum tingkat rendah – seperti banding parkir, klaim asuransi, atau perselisihan keluarga – mungkin menjadi masalah dengan sangat cepat,” tulis profesor hukum Lillian Edwards pada bulan Desember. “Kita sekarang berada di awal hidup di masa depan itu.”

Edwards menunjukkan bagaimana deepfake yang digunakan dalam kasus kriminal kemungkinan juga akan menjadi lebih umum, mengutip laporan BBC tentang bagaimana penjahat dunia maya menggunakan audio deepfake untuk menipu tiga eksekutif bisnis yang tidak menaruh curiga untuk mentransfer jutaan dolar pada tahun 2019.

MESIN MISINFORMASI? AI CHATBOT ‘HALLUCINATIONS’ BISA MENIMBULKAN BAHAYA POLITIK, INTELEKTUAL, KELEMBAGAAN

Kecerdasan Buatan meretas data dalam waktu dekat. (iStock)

Di AS tahun ini, ada beberapa peringatan dari departemen kepolisian setempat tentang penjahat yang menggunakan AI untuk mencoba mendapatkan uang tebusan dari keluarga. Di Arizona, seorang ibu mengatakan bulan lalu bahwa penjahat menggunakan AI untuk meniru suara putrinya untuk menuntut $1 juta.

Jurnal ABA melaporkan pada tahun 2020 bahwa ketika teknologi menjadi lebih kuat dan meyakinkan, ahli forensik akan dibebani dengan tugas yang sulit untuk menguraikan apa yang nyata. Ini dapat memerlukan analisis foto video untuk ketidakkonsistenan, seperti adanya bayangan atau mengautentikasi gambar langsung dari sumber kamera.

MUSK PERINGATAN TENTANG DAMPAK AI PADA PEMILU, SERUKAN UNTUK PENGAWASAN AS: ‘HAL-HAL MENJADI ANEH… CEPAT’

Dengan munculnya teknologi baru juga muncul kekhawatiran bahwa orang akan lebih mudah mengklaim bukti apa pun yang dihasilkan oleh AI.

Mahkamah Agung (Foto AP / Jacquelyn Martin / File)

PIDANA CRYPTO WASPADALAH: AI MENGEJAR ANDA

“Itulah yang kami khawatirkan: Bahwa ketika kita memasuki era deepfake ini, siapa pun dapat menyangkal kenyataan,” kata Hany Farid, pakar forensik digital dan profesor di University of California, Berkeley, kepada NPR minggu ini.

Awal tahun ini, ribuan pakar dan pemimpin teknologi menandatangani surat terbuka yang menyerukan penghentian penelitian di laboratorium AI sehingga pembuat kebijakan dan pemimpin industri dapat menyusun tindakan pencegahan keselamatan untuk teknologi tersebut. Surat tersebut berpendapat bahwa sistem AI yang kuat dapat menimbulkan ancaman bagi umat manusia, dan juga mencatat bahwa sistem tersebut mengancam penyebaran “propaganda”.

KLIK DI SINI UNTUK MENDAPATKAN APLIKASI FOX NEWS

“Sistem AI kontemporer sekarang menjadi persaingan manusia dalam tugas-tugas umum, dan kita harus bertanya pada diri sendiri: Haruskah kita membiarkan mesin membanjiri saluran informasi kita dengan propaganda dan kebohongan?” menyatakan surat itu, yang ditandatangani oleh para pemimpin teknologi seperti Musk dan salah satu pendiri Apple Steve Wozniak.