Kemenkominfo: Waspada AI Deepfake Digunakan untuk Pemerasan

Jakarta (SIB)

Kementerian Komunikasi dan Informatika (Kemenkominfo) mengimbau agar masyarakat mewaspadai kejahatan siber seperti deepfake, seiring dengan adanya teknologi kecerdasan buatan (Artificial Intelligence/AI).

Direktur Jenderal Aplikasi Informatika (Dirjen Aptika) Kemenkominfo Semuel Abrijani Pangerapan menjelaskan bahwa deepfake adalah media yang dimodifikasi secara sintetis untuk mengimitasi seseorang sebagai manusia nyata di dalam suatu perangkat.

Baca Juga:

• Kendala e-Meterai CPNS 2024 Tuntas, Kemenkominfo Beri Kepastian
• Diduga Lakukan Pemerasan, Mantan Kades Mandalasena dan Seorang Mantan Pegawai Kejaksaan Terjaring OTT

"Sehingga menyebabkan kita untuk sulit mengetahui apakah video ini benar, atau ini adalah AI. Ini yang perlu kita pahami," kata Semuel di Jakarta, Rabu (24/4).

Semuel menuturkan bahwa deepfake menghadirkan ancaman dan kerugian bagi individu maupun bisnis. Untuk itu, dia mengimbau agar masyarakat mengantisipasi kasus deeptalk.

Baca Juga:

• Usman Kansong Mundur Sebagai Dirjen IKP Kemenkominfo
• Walau Sudah Ditangguhkan, Polrestabes Medan Tegaskan Kasus OTT 4 Oknum Mahasiswa Tetap Lanjut

Dari segi keamanan individu, Semuel menuturkan bahwa banyak terjadi kasus yang menggunakan deepfake untuk menyebarkan konten dari seseorang dan mengirimkan blackmail (pemerasan).

Meski demikian, Semuel mengatakan bahwa hingga saat ini pihaknya belum menemukan adanya kerugian secara materil akibat deepfake.

"Tetapi tentunya kita tidak perlu menunggu sampai terjadi. Kita harus selalu waspada terhadap fenomena ini dan kita menyiapkan diri agar kita ready terhadap tantangan yang akan terjadi," jelasnya.

Di samping itu, Semuel juga menyoroti pentingnya dukungan edukasi serta kesadaran untuk memperbaharui teknologi keamanan digital yang digunakan. Sebab, sambung dia, deepfake merupakan bentuk kejahatan siber baru dan masih terus berkembang.

"Maka para pelaku industri juga harus memperbaharui teknologi keamanan digital yang digunakan," pungkasnya.

Perangi
Pemerintah diminta menjadi pengambil komando untuk memerangi konten deepfake yang meresahkan di Internet. Konten ini banyak diproduksi untuk kejahatan pornografi dan konten hitam pemilu.

Dikutip dari Cloud Computing Indonesia, Rabu (24/4), deepfake merupakan teknologi manipulasi audio dan video yang menggunakan kecerdasan buatan atau lebih dikenal dengan sebutan AI untuk menciptakan konten yang membuat orang terlihat atau terdengar melakukan hal-hal yang sebenarnya tidak dilakukan.

Direktur Ekonomi Digital dan Ekonom Center of Economic and Law Studies (Celios) Nailul Huda mengatakan bahwa deepfake berupa manipulasi gambar atau video pornografi yang disertai ancaman terhadap korban pornografi sering kali terjadi. Bahkan, tambah Huda, sering berujung pada depresi berkelanjutan.

"Kasus lainnya terjadi ketika pemilu, di mana video pejabat kita banyak yang 'dipalsukan' menggunakan deepfake dengan suara dan wajah pejabat namun isinya berbeda," kata Huda, Rabu (24/4).

Huda menambahkan, konten deepfake lain yang sering ditemukan adalah artis yang dipalsukan mengiklankan judi online.

Padahal, yang dibicarakan di video asli berbeda dari konten deepfake. Berkaca dari sejumlah kasus tersebut, Huda memandang bahwa teknologi ini sangat berbahaya jika deepfake digunakan oleh orang yang tidak bertanggung jawab.

Huda menuturkan bahwa untuk mencegah penipuan deepfake, maka dibutuhkan peran sentral dari pemerintah untuk memerangi teknologi ini.

"Salah satunya adalah bekerja sama dengan media sosial untuk mendeteksi ada konten deepfake. Sekarang banyak tools yang melihat originalitas konten, tinggal pemerintah dan pelaku media sosial mau melakukan kerja sama pemberantasan deepfake atau tidak," ujarnya.

Dia mengatakan bahwa di negara lain juga melakukan hal yang sama untuk memberantas penipuan deepfake, yaitu pemerintah menjadi komando untuk pemberantasan deepfake. Di samping itu, sambung dia, penyedia media sosial juga harus membantu menyisir konten bermuatan deepfake.(**)