Melola Discovery

← Melola Discovery

Akses terbuka Jurnal SINTA 2

Pengembangan Model IDS Berbasis Deep Reinforcement Learning untuk Prediksi dan Mitigasi Serangan Siber Dalam Network Traffic Analysis

Jurnal Teknologi Informasi dan Ilmu Komputer (JTIIK) · Vol. 13 No. 3 (2026) · hlm. 545–558

DOI
10.25126/jtiik.2026133
ISSN
2528-6579, 2355-7699
Terbit
2026-06-30
Penerbit
Fakultas Ilmu Komputer, Universitas Brawijaya
Bahasa
id
Lisensi
creativecommons.org/licenses/by-sa/4.0

Abstrak

Bahasa Indonesia

Intrusion Detection System (IDS) merupakan komponen krusial dalam pertahanan jaringan modern, berfungsi mendeteksi dan merespons ancaman siber secara cepat dan akurat. Penelitian ini menawarkan kontribusi baru melalui perancangan lingkungan Markov Decision Process (MDP) yang lebih realistis, integrasi reward shaping adaptif, serta evaluasi komprehensif multi-algoritma Deep Reinforcement Learning (DRL) yaitu Proximal Policy Optimization (PPO), Deep Q-Network (DQN), Advantage Actor-Critic (A2C) dan perbandingannya dengan model supervised learning mutakhir. Dataset CICIDS2017 dan UNSW-NB15 digunakan sebagai sumber data lalu lintas jaringan, mencakup berbagai jenis serangan dan lalu lintas normal. Lingkungan pelatihan dirancang khusus untuk memungkinkan agen DRL belajar melalui interaksi langsung dengan data, dengan reward function yang memandu agen untuk meningkatkan akurasi deteksi dan meminimalkan kesalahan. Metodologi penelitian meliputi perancangan arsitektur model DRL, proses pelatihan selama 200.000 time steps, serta evaluasi kinerja model berdasarkan metrik akurasi, presisi, recall, dan F1-score. Hasil evaluasi menunjukkan DQN mencapai akurasi tertinggi pada pendekatan DRL (89–92%), namun secara keseluruhan model supervised learning seperti Random Forest dan CNN masih melampaui DRL dengan akurasi 98–99%. Temuan ini mengonfirmasi bahwa DRL memiliki potensi kuat dalam adaptasi dinamis, tetapi masih memerlukan optimasi lebih lanjut untuk menyaingi metode supervised pada klasifikasi statis. Penelitian ini juga menghadirkan blueprint integrasi IDS–DRL dengan SOC dan firewall adaptif, yang memberikan landasan implementatif pada sistem keamanan nyata. Penelitian ini berkontribusi pada pengembangan IDS adaptif yang mampu melakukan deteksi dan mitigasi secara real-time dengan tingkat akurasi tinggi. Keterbatasan penelitian mencakup kebutuhan komputasi yang tinggi dan potensi ketidakstabilan pelatihan, yang membuka peluang untuk penelitian lanjutan dengan optimasi arsitektur dan integrasi teknik transfer learning. Abstract An Intrusion Detection System (IDS) is a crucial component of modern network defense, detecting and responding to cyber threats quickly and accurately. This research proposes the development of a Deep Reinforcement Learning (DRL)-based IDS for cyberattack prediction and mitigation using three main algorithms, namely Proximal Policy Optimization (PPO), Deep Q-Network (DQN), and Advantage Actor-Critic (A2C). The CICIDS2017 dataset is used as a source of network traffic data, covering various types of attacks and normal traffic. The training environment is specifically designed to allow DRL agents to learn through direct interaction with the data, with a reward function that guides the agent to improve detection accuracy and minimize errors. The research methodology includes designing the DRL model architecture, training for 20,000 time steps, and evaluating model performance based on accuracy, precision, recall, and F1-score metrics. The experimental results show that DQN has the best performance with an accuracy of 92.39%, a precision of 91.04%, a recall of 92.39%, and an F1-score of 91.50%, followed by A2C and PPO. Confusion matrix analysis and performance visualization show that DQN excels in detecting majority and minority classes with a low number of false positives and false negatives. Theoretical discussions link the results of this study to the fundamental principles of DRL, where agents learn adaptive detection strategies to attack dynamics, and their relevance to real-world applications such as Security Operation Centers (SOCs) and adaptive firewalls. Comparisons with previous research confirm that the DRL approach can offer significant improvements over traditional IDS and supervised learning methods. This research contributes to the development of an adaptive IDS capable of real-time detection and mitigation with high accuracy. Limitations include high computational requirements and potential training instability, which opens up opportunities for further research with architecture optimization and the integration of transfer learning techniques.

Inggris

Intrusion Detection System (IDS) merupakan komponen krusial dalam pertahanan jaringan modern, berfungsi mendeteksi dan merespons ancaman siber secara cepat dan akurat. Penelitian ini menawarkan kontribusi baru melalui perancangan lingkungan Markov Decision Process (MDP) yang lebih realistis, integrasi reward shaping adaptif, serta evaluasi komprehensif multi-algoritma Deep Reinforcement Learning (DRL) yaitu Proximal Policy Optimization (PPO), Deep Q-Network (DQN), Advantage Actor-Critic (A2C) dan perbandingannya dengan model supervised learning mutakhir. Dataset CICIDS2017 dan UNSW-NB15 digunakan sebagai sumber data lalu lintas jaringan, mencakup berbagai jenis serangan dan lalu lintas normal. Lingkungan pelatihan dirancang khusus untuk memungkinkan agen DRL belajar melalui interaksi langsung dengan data, dengan reward function yang memandu agen untuk meningkatkan akurasi deteksi dan meminimalkan kesalahan. Metodologi penelitian meliputi perancangan arsitektur model DRL, proses pelatihan selama 200.000 time steps, serta evaluasi kinerja model berdasarkan metrik akurasi, presisi, recall, dan F1-score. Hasil evaluasi menunjukkan DQN mencapai akurasi tertinggi pada pendekatan DRL (89–92%), namun secara keseluruhan model supervised learning seperti Random Forest dan CNN masih melampaui DRL dengan akurasi 98–99%. Temuan ini mengonfirmasi bahwa DRL memiliki potensi kuat dalam adaptasi dinamis, tetapi masih memerlukan optimasi lebih lanjut untuk menyaingi metode supervised pada klasifikasi statis. Penelitian ini juga menghadirkan blueprint integrasi IDS–DRL dengan SOC dan firewall adaptif, yang memberikan landasan implementatif pada sistem keamanan nyata. Penelitian ini berkontribusi pada pengembangan IDS adaptif yang mampu melakukan deteksi dan mitigasi secara real-time dengan tingkat akurasi tinggi. Keterbatasan penelitian mencakup kebutuhan komputasi yang tinggi dan potensi ketidakstabilan pelatihan, yang membuka peluang untuk penelitian lanjutan dengan optimasi arsitektur dan integrasi teknik transfer learning. Abstract An Intrusion Detection System (IDS) is a crucial component of modern network defense, detecting and responding to cyber threats quickly and accurately. This research proposes the development of a Deep Reinforcement Learning (DRL)-based IDS for cyberattack prediction and mitigation using three main algorithms, namely Proximal Policy Optimization (PPO), Deep Q-Network (DQN), and Advantage Actor-Critic (A2C). The CICIDS2017 dataset is used as a source of network traffic data, covering various types of attacks and normal traffic. The training environment is specifically designed to allow DRL agents to learn through direct interaction with the data, with a reward function that guides the agent to improve detection accuracy and minimize errors. The research methodology includes designing the DRL model architecture, training for 20,000 time steps, and evaluating model performance based on accuracy, precision, recall, and F1-score metrics. The experimental results show that DQN has the best performance with an accuracy of 92.39%, a precision of 91.04%, a recall of 92.39%, and an F1-score of 91.50%, followed by A2C and PPO. Confusion matrix analysis and performance visualization show that DQN excels in detecting majority and minority classes with a low number of false positives and false negatives. Theoretical discussions link the results of this study to the fundamental principles of DRL, where agents learn adaptive detection strategies to attack dynamics, and their relevance to real-world applications such as Security Operation Centers (SOCs) and adaptive firewalls. Comparisons with previous research confirm that the DRL approach can offer significant improvements over traditional IDS and supervised learning methods. This research contributes to the development of an adaptive IDS capable of real-time detection and mitigation with high accuracy. Limitations include high computational requirements and potential training instability, which opens up opportunities for further research with architecture optimization and the integration of transfer learning techniques.

Jaringan kolaborasi para penulis

4 penulis · 6 tautan kepenulisan bersama

Arahkan kursor atau ketuk sebuah nama untuk menyorot rekan penulisnya. Klik dua kali untuk membuka halaman penulis.

  • Afiliasi tidak diketahui
  • Organisasi berbeda
  • Organisasi sama
  • Afiliasi tidak diketahui
  • Garis lebih tebal = lebih banyak artikel bersama · lingkaran lebih besar = lebih banyak artikel
Tampilkan sebagai tabel
Rekan penulisOrganisasiArtikel bersama

Afiliasi berasal dari OpenAlex; metadata OAI-PMH jurnal tidak memuatnya. Penulis tanpa ID OpenAlex dicocokkan berdasarkan nama, sehingga dua orang bisa tergabung atau satu orang bisa terpisah.

Sumber metadata: OAI-PMH (metadata jurnal) https://jtiik.ub.ac.id/index.php/jtiik/en/oai, pertama di-harvest 27 Okt 2026, terakhir terlihat 15 Nov 2026.
Metadata asli (oai_dc)
<oai_dc:dc xmlns="http://www.openarchives.org/OAI/2.0/" xmlns:dc="http://purl.org/dc/elements/1.1/" xmlns:oai_dc="http://www.openarchives.org/OAI/2.0/oai_dc/" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLocation="http://www.openarchives.org/OAI/2.0/oai_dc/  http://www.openarchives.org/OAI/2.0/oai_dc.xsd">
	<dc:title xml:lang="id">Pengembangan Model IDS Berbasis Deep Reinforcement Learning untuk Prediksi dan Mitigasi Serangan Siber Dalam Network Traffic Analysis</dc:title>
	<dc:title xml:lang="en">Pengembangan Model IDS Berbasis Deep Reinforcement Learning untuk Prediksi dan Mitigasi Serangan Siber Dalam Network Traffic Analysis</dc:title>
	<dc:creator xml:lang="en">Martanto</dc:creator>
	<dc:creator xml:lang="en">Suarna, Nana</dc:creator>
	<dc:creator xml:lang="en">Kurnia Putri, Dede</dc:creator>
	<dc:creator xml:lang="en">Mardiana, Ana</dc:creator>
	<dc:creator xml:lang="id">Martanto</dc:creator>
	<dc:creator xml:lang="id">Suarna, Nana </dc:creator>
	<dc:creator xml:lang="id">Kurnia Putri, Dede </dc:creator>
	<dc:creator xml:lang="id">Mardiana, Ana </dc:creator>
	<dc:description xml:lang="id">Intrusion Detection System (IDS) merupakan komponen krusial dalam pertahanan jaringan modern, berfungsi mendeteksi dan merespons ancaman siber secara cepat dan akurat. Penelitian ini menawarkan kontribusi baru melalui perancangan lingkungan Markov Decision Process (MDP) yang lebih realistis, integrasi reward shaping adaptif, serta evaluasi komprehensif multi-algoritma Deep Reinforcement Learning (DRL) yaitu Proximal Policy Optimization (PPO), Deep Q-Network (DQN), Advantage Actor-Critic (A2C) dan perbandingannya dengan model supervised learning mutakhir . Dataset CICIDS2017 dan UNSW-NB15 digunakan sebagai sumber data lalu lintas jaringan, mencakup berbagai jenis serangan dan lalu lintas normal. Lingkungan pelatihan dirancang khusus untuk memungkinkan agen DRL belajar melalui interaksi langsung dengan data, dengan reward function yang memandu agen untuk meningkatkan akurasi deteksi dan meminimalkan kesalahan. Metodologi penelitian meliputi perancangan arsitektur model DRL, proses pelatihan selama 200.000 time steps, serta evaluasi kinerja model berdasarkan metrik akurasi, presisi, recall, dan F1-score. Hasil evaluasi menunjukkan DQN mencapai akurasi tertinggi pada pendekatan DRL (89–92%), namun secara keseluruhan model supervised learning seperti Random Forest dan CNN masih melampaui DRL dengan akurasi 98–99%. Temuan ini mengonfirmasi bahwa DRL memiliki potensi kuat dalam adaptasi dinamis, tetapi masih memerlukan optimasi lebih lanjut untuk menyaingi metode supervised pada klasifikasi statis. Penelitian ini juga menghadirkan blueprint integrasi IDS–DRL dengan SOC dan firewall adaptif, yang memberikan landasan implementatif pada sistem keamanan nyata. Penelitian ini berkontribusi pada pengembangan IDS adaptif yang mampu melakukan deteksi dan mitigasi secara real-time dengan tingkat akurasi tinggi. Keterbatasan penelitian mencakup kebutuhan komputasi yang tinggi dan potensi ketidakstabilan pelatihan, yang membuka peluang untuk penelitian lanjutan dengan optimasi arsitektur dan integrasi teknik transfer learning.
 
Abstract
An Intrusion Detection System (IDS) is a crucial component of modern network defense, detecting and responding to cyber threats quickly and accurately. This research proposes the development of a Deep Reinforcement Learning (DRL)-based IDS for cyberattack prediction and mitigation using three main algorithms, namely Proximal Policy Optimization (PPO), Deep Q-Network (DQN), and Advantage Actor-Critic (A2C). The CICIDS2017 dataset is used as a source of network traffic data, covering various types of attacks and normal traffic. The training environment is specifically designed to allow DRL agents to learn through direct interaction with the data, with a reward function that guides the agent to improve detection accuracy and minimize errors. The research methodology includes designing the DRL model architecture, training for 20,000 time steps, and evaluating model performance based on accuracy, precision, recall, and F1-score metrics. The experimental results show that DQN has the best performance with an accuracy of 92.39%, a precision of 91.04%, a recall of 92.39%, and an F1-score of 91.50%, followed by A2C and PPO. Confusion matrix analysis and performance visualization show that DQN excels in detecting majority and minority classes with a low number of false positives and false negatives. Theoretical discussions link the results of this study to the fundamental principles of DRL, where agents learn adaptive detection strategies to attack dynamics, and their relevance to real-world applications such as Security Operation Centers (SOCs) and adaptive firewalls. Comparisons with previous research confirm that the DRL approach can offer significant improvements over traditional IDS and supervised learning methods. This research contributes to the development of an adaptive IDS capable of real-time detection and mitigation with high accuracy. Limitations include high computational requirements and potential training instability, which opens up opportunities for further research with architecture optimization and the integration of transfer learning techniques.</dc:description>
	<dc:description xml:lang="en">Intrusion Detection System (IDS) merupakan komponen krusial dalam pertahanan jaringan modern, berfungsi mendeteksi dan merespons ancaman siber secara cepat dan akurat. Penelitian ini menawarkan kontribusi baru melalui perancangan lingkungan Markov Decision Process (MDP) yang lebih realistis, integrasi reward shaping adaptif, serta evaluasi komprehensif multi-algoritma Deep Reinforcement Learning (DRL) yaitu Proximal Policy Optimization (PPO), Deep Q-Network (DQN), Advantage Actor-Critic (A2C) dan perbandingannya dengan model supervised learning mutakhir . Dataset CICIDS2017 dan UNSW-NB15 digunakan sebagai sumber data lalu lintas jaringan, mencakup berbagai jenis serangan dan lalu lintas normal. Lingkungan pelatihan dirancang khusus untuk memungkinkan agen DRL belajar melalui interaksi langsung dengan data, dengan reward function yang memandu agen untuk meningkatkan akurasi deteksi dan meminimalkan kesalahan. Metodologi penelitian meliputi perancangan arsitektur model DRL, proses pelatihan selama 200.000 time steps, serta evaluasi kinerja model berdasarkan metrik akurasi, presisi, recall, dan F1-score. Hasil evaluasi menunjukkan DQN mencapai akurasi tertinggi pada pendekatan DRL (89–92%), namun secara keseluruhan model supervised learning seperti Random Forest dan CNN masih melampaui DRL dengan akurasi 98–99%. Temuan ini mengonfirmasi bahwa DRL memiliki potensi kuat dalam adaptasi dinamis, tetapi masih memerlukan optimasi lebih lanjut untuk menyaingi metode supervised pada klasifikasi statis. Penelitian ini juga menghadirkan blueprint integrasi IDS–DRL dengan SOC dan firewall adaptif, yang memberikan landasan implementatif pada sistem keamanan nyata. Penelitian ini berkontribusi pada pengembangan IDS adaptif yang mampu melakukan deteksi dan mitigasi secara real-time dengan tingkat akurasi tinggi. Keterbatasan penelitian mencakup kebutuhan komputasi yang tinggi dan potensi ketidakstabilan pelatihan, yang membuka peluang untuk penelitian lanjutan dengan optimasi arsitektur dan integrasi teknik transfer learning.
 
Abstract
An Intrusion Detection System (IDS) is a crucial component of modern network defense, detecting and responding to cyber threats quickly and accurately. This research proposes the development of a Deep Reinforcement Learning (DRL)-based IDS for cyberattack prediction and mitigation using three main algorithms, namely Proximal Policy Optimization (PPO), Deep Q-Network (DQN), and Advantage Actor-Critic (A2C). The CICIDS2017 dataset is used as a source of network traffic data, covering various types of attacks and normal traffic. The training environment is specifically designed to allow DRL agents to learn through direct interaction with the data, with a reward function that guides the agent to improve detection accuracy and minimize errors. The research methodology includes designing the DRL model architecture, training for 20,000 time steps, and evaluating model performance based on accuracy, precision, recall, and F1-score metrics. The experimental results show that DQN has the best performance with an accuracy of 92.39%, a precision of 91.04%, a recall of 92.39%, and an F1-score of 91.50%, followed by A2C and PPO. Confusion matrix analysis and performance visualization show that DQN excels in detecting majority and minority classes with a low number of false positives and false negatives. Theoretical discussions link the results of this study to the fundamental principles of DRL, where agents learn adaptive detection strategies to attack dynamics, and their relevance to real-world applications such as Security Operation Centers (SOCs) and adaptive firewalls. Comparisons with previous research confirm that the DRL approach can offer significant improvements over traditional IDS and supervised learning methods. This research contributes to the development of an adaptive IDS capable of real-time detection and mitigation with high accuracy. Limitations include high computational requirements and potential training instability, which opens up opportunities for further research with architecture optimization and the integration of transfer learning techniques.</dc:description>
	<dc:publisher xml:lang="en">Fakultas Ilmu Komputer, Universitas Brawijaya</dc:publisher>
	<dc:date>2026-06-30</dc:date>
	<dc:type>info:eu-repo/semantics/article</dc:type>
	<dc:type>info:eu-repo/semantics/publishedVersion</dc:type>
	<dc:format>application/pdf</dc:format>
	<dc:identifier>https://jtiik.ub.ac.id/index.php/jtiik/article/view/10653</dc:identifier>
	<dc:identifier>10.25126/jtiik.2026133</dc:identifier>
	<dc:source xml:lang="id">Jurnal Teknologi Informasi dan Ilmu Komputer; Vol 13 No 3: Juni 2026; 545-558</dc:source>
	<dc:source xml:lang="en">Jurnal Teknologi Informasi dan Ilmu Komputer; Vol. 13 No. 3: Juni 2026; 545-558</dc:source>
	<dc:source>2528-6579</dc:source>
	<dc:source>2355-7699</dc:source>
	<dc:source>10.25126/jtiik.2026133</dc:source>
	<dc:language>id</dc:language>
	<dc:relation>https://jtiik.ub.ac.id/index.php/jtiik/article/view/10653/1589</dc:relation>
	<dc:rights xml:lang="en">Copyright (c) 2026 Martanto, Nana Suarna, Dede Kurnia Putri, Ana Mardiana</dc:rights>
	<dc:rights xml:lang="en">https://creativecommons.org/licenses/by-sa/4.0</dc:rights>
</oai_dc:dc>