Penipu memasukkan data dari Snapchat, TikTok, Facebook, dan situs media sosial lainnya ke program kecerdasan buatan sebagai bagian dari skema untuk melakukan kejahatan tebusan menggunakan suara dan gambar palsu, kata seorang penasihat keamanan kepada Fox News.

“Media sosial sekarang adalah alat pengintaian untuk kelompok kriminal transnasional, untuk orang yang melakukan perdagangan manusia, hal-hal seperti itu,” kata Morgan Wright, kepala penasihat keamanan SentinelOne. “Mereka mengintai Anda, mereka mencari tahu apa yang Anda lakukan dan begitulah cara penipuan ini bekerja.”

Memposting lokasi real-time di media sosial membantu penjahat menargetkan korban ketika mereka terpisah dari keluarga mereka, kata Wright. (Beata Zawrzel/NurPhoto melalui Getty Images)

Dua penipuan pemerasan yang melibatkan AI terjadi di Arizona pada bulan lalu. Dalam kedua kasus tersebut, penjahat meminta uang tebusan menggunakan suara anggota keluarga yang dihasilkan oleh AI.

“Putriku berkata, ‘Bu, orang-orang jahat ini memilikiku. Bantu aku, bantu aku, bantu aku,'” kata Jennifer DeStefano, salah satu korban Arizona, kepada Fox News. “Itu suara putriku.”

TIKTOK DAN FACEBOOK ADALAH ALAT PENGINTAIAN BAGI PARA KRIMINAL MENGGUNAKAN AI SCAM: SECURITY ADVISER

TONTON LEBIH BANYAK FOX NEWS DIGITAL ASLI DI SINI

“Saya tidak pernah ragu sedetik pun itu adalah putri saya,” katanya. “Faktanya, itu sangat nyata bagiku.”

Penculik palsu yang menuntut uang tebusan memberi tahu DeStefano, “Jika Anda menelepon siapa pun, jika Anda tidak melakukan apa yang diperintahkan, saya akan memberinya begitu banyak obat-obatan, mengambil jalan saya dengannya dan kemudian menjatuhkannya di Meksiko. Dan kau tidak akan pernah melihat putrimu lagi.”

Jennifer DeStefano adalah korban penipuan menggunakan suara putrinya yang dihasilkan AI. (Berita Fox Digital/Jon Michael Raasch)

IBU ARIZONA MENJELASKAN PENIPUAN AI TELEPON PALSU MENCURI PUTRI: ‘ITU SEPENUHNYA SUARANYA’

Kecepatan penipuan dan kepercayaan suara deepfake bertenaga AI memberi penjahat keunggulan atas korbannya, menurut Wright.

“Mereka menemukan suara – apakah itu di TikTok, Facebook, apa pun itu – suara yang cukup untuk menciptakan kembali suara anak perempuan itu,” katanya. “Tidak masalah bahwa itu bukan anak, itu yang diyakini orang tua.”

Aplikasi di ponsel (Gambar Getty)

“Mereka mengisolasi Anda,” kata Wright, seorang mantan detektif, kepada Fox News. “Mereka tidak akan memberi orang tua waktu untuk merespons.”

Para scammer juga kemungkinan tahu bahwa DeStefano dan putrinya, 15 tahun, berpisah pada saat itu, kata mantan detektif itu.

“Anda mendengar suara yang Anda yakini adalah anak Anda,” lanjut Wright. “Dan sekarang mereka mendapat pengaruh sekarang karena Anda tidak tahu di mana anak Anda.”

SNAPCHAT MEMPERLUAS CHATBOT YANG DIDUKUNG OLEH CHATGPT KE SEMUA PENGGUNA, MENCIPTAKAN GAMBAR YANG DIHASILKAN AI

TikTok dan platform media sosial lainnya digunakan oleh penjahat sebagai alat pengintaian untuk penipuan, kata Wright kepada Fox News. (CyberGuy.com)

DeStefano dapat menemukan dan memastikan keselamatan putrinya selama panggilan tebusan tetapi memperingatkan bahwa pengalaman itu membuat dia dan keluarganya ketakutan. Dia mengatakan ceritanya harus meningkatkan kesadaran tentang bagaimana AI digunakan dalam kejahatan.

Penipuan menggunakan AI menjadi lebih umum karena alat menjadi lebih mudah diakses dan digunakan, bahkan oleh aktor jahat dengan sedikit keterampilan teknis, kata Wright.

KLIK DI SINI UNTUK MENDAPATKAN APLIKASI FOX NEWS

Ada garis di mana beberapa alat AI merambah “kebebasan pribadi dan ruang pribadi,” kata DeStefano kepada Fox News. “Itu bisa digunakan untuk banyak kejahatan.

“Itu pasti sesuatu yang perlu kita bicarakan, dan perlu ada batasan.”

Untuk menyaksikan wawancara lengkap dengan DeStefano dan Wright, klik di sini.