Waspada Penipuan Deepfake, Komdigi Dorong Foto dan Video AI Punya Jejak Keaslian

KebonCinta.com — Kemampuan kecerdasan artifisial dalam meniru wajah dan suara manusia semakin berkembang.

Kondisi tersebut membawa manfaat dalam berbagai bidang, tetapi sekaligus meningkatkan risiko penipuan menggunakan teknologi deepfake.

Kementerian Komunikasi dan Digital menilai masyarakat membutuhkan sistem yang dapat membantu membedakan konten asli dengan konten yang telah dimanipulasi.

Wakil Menteri Komunikasi dan Digital Nezar Patria mendorong penerapan provenance and authenticity atau jejak keaslian pada konten digital.

“Harus ada yang namanya jejak otentisitas dari satu konten yang dihasilkan,” ujar Nezar.

Ia kemudian menjelaskan jejak tersebut dapat membantu pengguna mengetahui asal maupun perubahan yang terjadi pada sebuah foto atau video.

Deepfake sendiri merupakan teknologi yang dapat menghasilkan maupun memanipulasi wajah dan suara sehingga tampak seperti seseorang yang sebenarnya tidak pernah melakukan atau mengatakan sesuatu.

Kemampuannya kini semakin sulit dikenali hanya menggunakan mata.

Penipu dapat mencatut sosok terkenal, pejabat maupun orang yang dikenal korban.

Konten kemudian digunakan untuk membuat permintaan uang, promosi investasi palsu maupun bentuk manipulasi lainnya.

Komdigi menilai kelompok lanjut usia dan anak-anak menjadi bagian dari masyarakat yang rentan.

Namun orang dengan tingkat pendidikan tinggi sekalipun masih dapat menjadi korban apabila konten dibuat sangat meyakinkan.

Nezar mencontohkan kasus-kasus sebelumnya ketika video manipulasi mencatut tokoh publik untuk mengarahkan masyarakat melakukan transaksi.

Karena itu, tanggung jawab penanganan deepfake tidak semestinya hanya dibebankan kepada pengguna.

Platform digital dan pengembang teknologi AI juga didorong menyediakan sistem pendeteksi.

Baca Juga: Beasiswa Garuda S1 Segera Dibuka! Skor IQ 120 dan SAT 1.200 Jadi Syarat, Cek Daftarnya 

Salah satu pendekatan yang berkembang secara global adalah menyematkan informasi asal-usul konten melalui metadata.

Informasi tersebut dapat menunjukkan kapan sebuah gambar dibuat serta apakah file mengalami manipulasi menggunakan teknologi tertentu.

Beberapa perangkat digital modern mulai menyediakan kemampuan serupa.

Ketika sebuah foto diedit menggunakan AI, perubahan tersebut diharapkan tetap meninggalkan jejak yang dapat diperiksa.

Namun teknologi deteksi saja belum cukup.

Literasi digital masyarakat tetap menjadi bagian penting untuk mengurangi korban penipuan.

Pengguna sebaiknya tidak langsung percaya terhadap sebuah video hanya karena wajah dan suara di dalamnya terlihat meyakinkan.

Jika konten berisi permintaan transfer uang maupun informasi keuangan, pengguna perlu melakukan verifikasi melalui kanal lain.

Menghubungi orang yang bersangkutan secara langsung dapat menjadi salah satu cara sederhana.

Masyarakat juga sebaiknya tidak memberikan OTP, PIN, kata sandi atau data pribadi hanya berdasarkan instruksi melalui video maupun pesan yang belum terverifikasi.

Perkembangan deepfake menunjukkan bahwa prinsip “melihat berarti percaya” semakin tidak dapat digunakan di ruang digital.

Foto, video dan rekaman suara kini dapat dibuat menggunakan teknologi generatif dalam waktu relatif singkat.

Karena itu, kebiasaan memeriksa sumber menjadi semakin penting.

Komdigi berharap platform, pengembang AI dan masyarakat dapat bersama-sama membangun ruang digital yang lebih aman.

Di tengah perkembangan AI yang sangat cepat, kemampuan memeriksa keaslian informasi dapat menjadi salah satu keterampilan digital paling penting bagi masyarakat.