Penyalahgunaan Deepfake yang Masif dan Regulasi terkait Penggunaannya

Abstract

Artificial Intelligence (AI) sebagai instrumen teknologi modern mengalami perkembangan pesat, terutama pasca pandemi Covid-19. Salah satu manifestasi dari kemajuan AI adalah deepfake, sebuah teknologi berbasis deep learning yang mampu memanipulasi audio visual hingga menghasilkan konten seolah-olah nyata. Teknologi ini awalnya dikembangkan untuk kepentingan akademik dan perfilman, namun sejak 2017 telah banyak disalahgunakan, khususnya dalam pembuatan konten pornografi nonseksual, penipuan daring, hingga pencurian identitas. Fenomena deepfake menghadirkan problem serius dalam ranah hukum  karena tidak hanya merusak batas antara realitas dan simulasi sebagaimana dikemukakan Baudrillard, tetapi juga mencederai hakikat kemanusiaan, terutama aspek kensensual individu. Peneltian ini menggunakan metode yuridis normatif dengan menelaah peraturan perundang-undangan, doktrin hukum, dan asas hukum terkait, guna mengkaji perlindungan korban atas kejahatan yang melibatkan deepfake. Hasil kajian menunjukan bahwa perkembangan deepfake di indonesia berdampak signifikan, dengan kenaikan kasus 1550% antara 2022-2023, yang melibatkan modus social engineering, account takeover, identity theft, dan pemalsuan dokumen. Perlindungan korban dalam konteks ini masih mengahadapi tantangan karena belum adanya aturan ataupun regulasi spesifik yang mengatur tentang deepfake. Oleh karena itu, urgensi regulasi menjadi penting, tidak hanya untuk memberikan kepastian hukum, tetapi juga sebagai instrumen perlindungan hak korban, pencegahan penyalahgunaan teknologi, serta penguatan keamanan siber terutama di Indonesia.