Implikasi Hukum Pidana terhadap Penyebaran Konten Pornografi Non-Konsensual Menggunakan Bot Telegram Berbasis Kecerdasan Buatan

Authors

  • Masyithoh Yumna Aristawati Universitas Islam Indonesia

DOI:

https://doi.org/10.47134/ijlj.v3i4.5977

Keywords:

Deepfake, Kekerasan Digital, Hukum pidana

Abstract

Penelitian ini bertujuan untuk menganalisis karakteristik penyebaran konten pornografi non-konsensual berbasis deepfake melalui bot Telegram dan mengkaji pengaturan hukum positif Indonesia dalam merespons permasalahan tersebut. Penelitian menggunakan metode yuridis normatif dengan pendekatan perundang-undangan dan pendekatan konseptual. Bahan hukum yang digunakan terdiri atas bahan hukum primer dan sekunder yang diperoleh melalui studi kepustakaan, meliputi  Undang- undang Informasi dan Transaksi Elektronik, Undang-Undang Pornografi, dan Undang-Undang Perlindungan Data Pribadi, serta berbagai literatur yang relevan. Hasil penelitian menunjukan bahwa Penggunaan bot Telegram memfasilitasi penyebaran konten pornografi non-konsensual berbasis deepfake dilakuakn secara secara otomatis, cepat, dan masif sehingga memperluas jangkauan distribusi serta meningkaykan resiko pelanggaran privasi, penyalahgunaan identias digital, dan kerugian psikologis bagi koerban. Penelitian ini juga menunjukan bahwa mekanisme penyebaran konten melalui bot Telegram menyulitkan proses identifikasi pelaku karena dapat beroprasi secara anonim, memanfaatkan fitur otomatis, serta menjangkau pengguna lintas wilayah bahkan lintas negara dalam waktu singkat. Selain itu, katrakteristik teknologi tersebut menyebabkan proses pengawsan dan penegakan hukum menjadi lebih kompleks dibandingkan dengan penyebaran konten yang dilakukan sevara langsung oleh penggun. Di sisi lain, hukum positif indonesia belum mengatur secara khusus pembuuatan maupun penyebaran konten pornografi non-konsesnsual berbasis deepfake. Meskipun beberapa ketentuan dalam Undang-Undang  Informasi dan Transaksi Elektronik, Undang-Undang Pornografi, dan Undang-Undang Perlindungan Data Pribadi dapat digunakan sebagai dasar penegakan hukum, pengaturan tersebut masih tersebar dalam berbagai ketentuan hukum dan belum sepenuhnya mampu menjangkau karakteristik kejahatan yang memanfaatkan teknologi kecerdasan buatan. Kondisi ini menimbulkan kesenjangan hukum yang berdampak pada belum optimalnya perlindungan korban dan efektivitas penegakan hukum. Kasus yang melibatkan mahasiswa Universitas Udayana menunjukan bahwa penyalahgunaan teknologi AI telah menjadi persoalan nyata yang memerlukan perhatian serius. Oleh karena itu diperlukan pembaruan hukum pidana yang mempu menjangkau penyalahgunaan teknologi deepfake sekaligus memberikan perlindungan yang lebih efektif terhadap hak privasi dan identitas digital korban.

References

Adriyansyah, A., & Layang, I. W. B. S. (2023). Pertanggungjawaban Pidana Pada Pelaku Penyebaran Dan Jual Beli Konten Pornografi Pada Media Telegram. Jurnal Hukum, Politik Dan Ilmu Sosial, 2(3), 276–289.

Ariyani, A. P., Priowirjanto, E. S., & Haffas, M. (2024). Pertanggungjawaban Hukum Penyelenggara Sistem Elektronik Telegram dalam Kegiatan Produksi Konten Pornografi Menggunakan Fitur Bot yang Terintegrasi Deepfake Ditinjau dari Hukum Positif Indonesia. Jurnal Multidisipliner West Science, 3(12), 1851–1860.

Arvitto, R. S. (2025). Implikasi hukum deepfake: Telaah terhadap UU ITE dan UU PDP. JIHHAM, 4(2), 73–82.

Chesney, R., & Citron, D. K. (2019). Deep fakes: A looming challenge for privacy, democracy, and national security. California Law Review, 107(6), 1753–1820.

Citron, D. K. (2019). Sexual privacy. Yale Law Journal, 128(7), 1870–1960.

Daulay, R. M. L. H., Rosmalinda, & Agusmidah. (2026). Fenomena kejahatan deepfake pornografi dalam perspektif Roscoe Pound. Jurnal Pengabdian Masyarakat Dan Riset Pendidikan, 4(3), 16295–16304.

Eriana, E. S., & Zein, A. (2023). Artificial Intelligence (AI). CV Eureka Media Aksara.

Faqih, M., & Soerjati, E. P. (2022). Pengaturan Pertanggungjawaban Pelaku Penyalahgunaan Deepfakes dalam Teknologi Kecerdasan Buatan pada Konten Pornografi Berdasarkan Hukum Positif Indonesia. Jurnal Indonesia Sosial Teknologi, 1161.

Franco, M., Gaggi, O., & Palazzi, C. E. (2024). Characterizing non-consensual intimate image abuse on Telegram groups and channels. Proceedings of the 4th International Workshop on Open Challenges in Online Social Networks (OASIS ’24) (pp. 1–7). Association for Computing Machinery.

Fuadi, I. (2024). Deepfake Pornography: How criminal liability of perpetrators in the Indonesian criminal law framework. Jurnal Magister Hukum Udayana, 13(3), 113–2025.

Hall, M., Pester, A., & Atanasov, A. (2022). AI threats to women’s rights: Implications and legislations. Journal of Law and Emerging Technology, 2(2), 51–88.

Isnawan, F. (2024). Deepfake pornography: How criminal liability of perpetrators in the Indonesian criminal law framework. Jurnal Magister Hukum Udayana (Udayana Master Law Journal), 13(3), 566–581.

Liu, Q., McDonald, A., & Haimson, O. L. (2024). The sociotechnical stack: Opportunities for social computing research in non-consensual intimate media. ACM Transactions on Social Computing.

McGlynn, C., Rackley, E., & Houghton, R. (2017). Beyond ‘revenge porn’: The continuum of image-based sexual abuse. Feminist Legal Studies, 25(1), 25–46.

Novera, O. (2024). Analisis pengaturan hukum pidana terhadap penyalahgunaan teknologi manipulasi gambar (deepfake) dalam penyebaran konten pornografi melalui akun media sosial. El-Faqih: Jurnal Pemikiran Dan Hukum Islam, 10(2), 460–474.

Pakerti, A., Sanjaya, F., & Eryke, H. (2025). Criminal liability in artificial intelligence-based crimes: An analysis of the norms in Indonesian criminal law. Bengkulu Law Journal, 10(1), 123–132.

Palindria, A. E., Thufail, M. S., & Febrian, M. R. (2024). Ancaman deepfake buatan AI dan implikasinya terhadap keamanan data biometrik di Indonesia. Spektrum Hukum, 21(2), 110–125.

Komnas Perempuan. (2024). Catatan Tahunan (CATAHU) 2024 Komnas Perempuan. Komnas Perempuan.

Putra, A. B. (2026). The Legal Standing of Deepfake Digital Evidence in Criminal Proceedings: Challenges of Evidentiary Integrity in the AI Era. Fox Justi: Jurnal Ilmu Hukum, 16(1), 283–290.

Rohimi, U. E. (2025). Artificial intelligence and cybersecurity regulation in Indonesia: Towards an adaptive legal framework. Indonesia Cyber Law Review, 2(1), 29–38.

Semenzin, S., & Bainotti, L. (2020). The Use Telegram for Non-Consensual Dissemination of Intimate Image: Gendered Affordances and the Constructions of Masculinities. Social Media + Society, 6(4), 1–12.

Sijabat, S. A. U., & Lukitasari, D. (2024). Konten Gambar dan Videografi Deepfake sebagai Bentuk Tindak Pidana Pencemaran Nama Baik. Recidive: Jurnal Hukum Pidana Dan Penanggulangan Kejahatan, 13(2), 179–194.

Sugandi, J., Aulia, R., Arsant, A. F., Fajri, M. A. A., Salsabiila, & Veromika. (2026). Faktor-Faktor Risiko dan Protektif Kekerasan Berbasis Gender Online (KBGO) di Indonesia: Sebuah Studi Literatur. Causalita: Journal of Psychology, 3(3), 396–402.

UNESCO. (2021). Recommendation on the Ethics of Artificial Intelligence. United Nations Educational, Scientific and Cultural Organization.

Utomo, S. (2025). The Digital Age and Human Rights Protection in Indonesia: Legal Framework, Challenges, and Reform Directions. Yustisia Jurnal Hukum, 14(2), 225–241.

Viola, M., & Voto, C. (2023). Designed to Abuse? Deepfake and the Non-Consensual Diffusion of Intimate Image. Synthese, 201(30), 1–20.

Wibowo, A., Wangsajaya, Y., & Surahmat, A. (2023). Pemolisian Digital dengan Artificial Intelligence. Depok: Rajawali Pers.

Widyawati, A., Pujiyono, Rochaeti, N., Ompoy, G., & Zaki, N. N. B. M. (2022). Urgency of the Legal Structure Reformation for Law in Execution of Criminal Sanctions. Lex Scientia Law Review, 6(20).

Downloads

Published

2026-06-29

How to Cite

Aristawati, M. Y. (2026). Implikasi Hukum Pidana terhadap Penyebaran Konten Pornografi Non-Konsensual Menggunakan Bot Telegram Berbasis Kecerdasan Buatan. Indonesian Journal of Law and Justice, 3(4), 46–57. https://doi.org/10.47134/ijlj.v3i4.5977

Issue

Section

Articles

Similar Articles

<< < 12 13 14 15 16 17 18 19 20 21 > >> 

You may also start an advanced similarity search for this article.