TEMPO.CO, Jakarta -Tindak kejahatan seksual dengan memanfaatkan teknologi deepfake tengah menjadi sorotan di Korea Selatan. Korban dari kasus ini mencakup berbagai kalangan, mulai dari remaja hingga tentara.

Deepfake merupakan jenis kecerdasan buatan yang digunakan untuk menciptakan foto, audio, hingga video palsu. Kasus ini menjadi perhatian publik setelah sejumlah ruang obrolan di Telegram diduga terlibat dalam pembuatan dan distribusi materi pornografi deepfake. Berikut adalah penjelasan tentang bagaimana deepfake dibuat dan cara kerjanya.

Deepfake adalah video palsu yang dihasilkan menggunakan perangkat lunak digital, pembelajaran mesin, dan teknologi pertukaran wajah. Video ini menggabungkan gambar untuk menciptakan rekaman baru yang seolah-olah menggambarkan peristiwa, pernyataan, atau tindakan yang sebenarnya tidak pernah terjadi.

Menurut situs laman TechTarget, istilah "deepfake" pertama kali muncul pada akhir 2017 dari seorang pengguna Reddit yang membuat ruang untuk berbagi video menggunakan teknologi pertukaran wajah open source. Meskipun deepfake seringkali memiliki konotasi negatif, ada juga potensi penggunaan positifnya, terutama dalam bidang bisnis, pemasaran, dan periklanan, seperti yang diungkapkan oleh Henry Ajder, kepala intelijen di perusahaan pendeteksi deepfake, Deeptrace.

Teknologi deepfake didasarkan pada konsep pengenalan wajah yang mirip dengan filter dalam Instagram Story, Snapchat, atau TikTok, tetapi jauh lebih realistis. Video deepfake dibuat menggunakan teknik pembelajaran mesin yang disebut Generative Adversarial Network (GAN). Teknologi ini memetakan wajah berdasarkan titik landmark, seperti sudut mata, mulut, lubang hidung, dan garis rahang, untuk menciptakan representasi visual yang sangat realistis. GAN juga bisa digunakan untuk menghasilkan audio dan teks baru dari yang sudah ada.

Seperti yang dilansir dari BBC, meskipun banyak video atau gambar deepfake yang terlihat aneh dan mudah dikenali sebagai tiruan, ada juga yang begitu realistis hingga sulit dibedakan dari yang asli. Ini menunjukkan seberapa cepat teknologi deepfake berkembang.

Teknologi ini terus mengalami kemajuan, dan kemampuan AI untuk menciptakan gambar atau video palsu yang realistis semakin meningkat. Hal ini tidak hanya menimbulkan tantangan baru dalam hal keamanan dan privasi, tetapi juga dalam hal bagaimana kita memverifikasi keaslian konten digital.

Di sisi lain, teknologi deepfake juga sering digunakan untuk tujuan hiburan. Banyak orang menggunakan AI untuk membuat video lucu yang memanipulasi wajah atau suara selebriti dan tokoh terkenal, menciptakan momen yang menghibur. Misalnya, ada video deepfake yang mengganti wajah aktor dalam film atau membuat tokoh publik menyanyikan lagu-lagu populer. Video-video seperti ini biasanya dibuat hanya untuk bersenang-senang dan sering kali menjadi viral karena kelucuan dan kreativitasnya.

Dikutip dari laman .techtarget.com, video deepfake juga memiliki kecenderungan negatif, seperti:

1. Pemerasan dan Merusak Reputasi: Deepfake dapat digunakan untuk menempatkan gambar target dalam situasi ilegal, tidak pantas, atau membahayakan, seperti menyebarkan kebohongan kepada publik. Video ini dapat digunakan untuk memeras korban, merusak reputasi seseorang, membalas dendam, atau sekadar menindas korban di dunia maya.

2. Layanan Respons Penelepon: Deepfake dapat digunakan untuk memberikan tanggapan yang dipersonalisasi terhadap permintaan penelepon, termasuk penerusan panggilan dan layanan resepsionis lainnya.

3. Seni dan Hiburan: Deepfake digunakan dalam industri hiburan untuk menghasilkan musik baru, memanipulasi suara pemeran dalam film atau video game, atau menggantikan aktor dalam adegan yang sulit diambil gambarnya.

4. Penipuan: Deepfake bisa digunakan untuk menyamar sebagai seseorang dengan tujuan mendapatkan informasi pribadi, seperti nomor rekening bank atau kartu kredit. Ini juga bisa mencakup peniruan identitas eksekutif perusahaan atau karyawan lain yang memiliki akses ke informasi sensitif, yang menimbulkan ancaman keamanan siber yang serius.

MYESHA FATINA RACHMAN I BBC

Pilihan Editor: Presiden Korea Selatan Tindak tegas Pornografi Deepfake, Apa Itu?