Implementation of Artificial Intelligence by Kominfo in the enforcement of pornographic content on social media Twitter (X)

Abstract

This research examines the implementation of Artificial Intelligence (AI) by the Ministry of Communication and Digital in law enforcement of pornographic content on Twitter (X). The problem is motivated by the increasing spread of pornographic content that has a broad impact on the psychological, social, and economic aspects of Indonesian society. Using a descriptive qualitative method with a case study approach, this research involved in-depth interviews with 15 key informants. The results show that Kominfo's AI system uses a multi-layer approach that combines computer vision and natural language processing with an accuracy rate of 85% for visual content and 75% for textual content. The main challenges include high false positives, differences in content moderation standards, and limitations in understanding local cultural contexts. The research recommends the development of more adaptive AI algorithms with comprehensive datasets according to the Indonesian context, strengthening coordination with social media platforms, and the involvement of related institutions for a more integrated handling of pornographic content. Penelitian ini mengkaji penerapan Kecerdasan Buatan (AI) oleh Kementerian Komunikasi dan Digital dalam penegakan hukum konten pornografi di Twitter (X). Permasalahan tersebut dilatarbelakangi oleh semakin merebaknya konten pornografi yang berdampak luas terhadap aspek psikologis, sosial, dan ekonomi masyarakat Indonesia. Menggunakan metode kualitatif deskriptif dengan pendekatan studi kasus, penelitian ini melibatkan wawancara mendalam terhadap 15 informan kunci. Hasil penelitian menunjukkan bahwa sistem AI Kominfo menggunakan pendekatan multi-layer yang menggabungkan computer vision dan natural language processing dengan tingkat akurasi sebesar 85% untuk konten visual dan 75% untuk konten tekstual. Tantangan utamanya meliputi tingginya false positive, perbedaan standar moderasi konten, dan keterbatasan dalam memahami konteks budaya setempat. Penelitian ini merekomendasikan pengembangan algoritma AI yang lebih adaptif dengan dataset yang komprehensif sesuai konteks Indonesia, penguatan koordinasi dengan platform media sosial, dan pelibatan lembaga terkait untuk penanganan konten pornografi yang lebih terintegrasi.