Melola Discovery

← Melola Discovery

Open access Jurnal SINTA 2

Penerapan Feature Engineering dan Hyperparameter Tuning untuk Meningkatkan Akurasi Model Random Forest pada Klasifikasi Risiko Kredit

Jurnal Teknologi Informasi dan Ilmu Komputer (JTIIK) · Vol. 12 No. 2 (2025) · pp. 251–262

DOI
10.25126/jtiik.2025128472
ISSN
2528-6579, 2355-7699
Published
2025-04-24
Publisher
Fakultas Ilmu Komputer, Universitas Brawijaya
Language
id
License
creativecommons.org/licenses/by-sa/4.0

Abstract

Bahasa Indonesia

Risiko kredit adalah hal yang penting untuk dianalisis di awal pengajuan kredit guna mengurangi nilai Non-Performing Loan (NPL) atau risiko gagal bayar. Pola pengetahuan risiko kredit bisa diketahui dari data-data historikal sehingga data pengajuan kredit baru bisa ketahui risikonya lebih awal. Pada penelitian-penelitian terdahulu, model klasifikasi untuk risiko kredit menggunakan Random Forest banyak ditemukan namun tidak mendalam dalam penerapan preprocessing dan akurasinya masih rendah. Maka penelitian ini bertujuan meningkatkan akurasi model klasifikasi algoritma Random Forest dengan menerapkan tuning parameter dan feature engineering yang lebih dalam. Metodologi penelitian yang digunakan adalah Sample, Explore, Modify, Models, dan Assess (SEMMA). Penelitian ini menerapkan berbagai kombinasi parameter dan menerapkan feature engineering untuk memperbaiki kualitas data. Feature engineering yang digunakan meliputi oversampling dan standardisasi. Hyperparameter tuning model Random Forest menggunakan metode Random Search dan Grid Search untuk mencari parameter paling optimal. Dataset penelitian adalah data sekunder (Credit Risk) yang terdiri dari 32.581 baris, 11 variabel prediktor dan 1 variabel respon. Hasil penelitian menunjukkan penerapan feature engineering signifikan meningkatkan akurasi model Random Forest, meningkat dari 92,56% menjadi 97,94% setelah menerapkan oversampling dan standarisasi. Sedangkan hyperparameter tuning tidak begitu signifikan meningkatkan akurasi model yang dibangun menggunakan dataset yang sudah dikenakan preprocessing maupun feature engineering dengan baik. Abstract Credit risk analysis is essential for minimizing the value of non-performing loans (NPL). Using historical data to understand credit risk patterns can help identify risks early in new credit applications. Previous research has often used Random Forest classification models for credit risk but found the need for more comprehensive preprocessing of applications and higher accuracy. This research aims to improve the accuracy of the Random Forest algorithm classification model by implementing parameter tuning and feature engineering. The SEMMA (Sample, Explore, Modify, Model, and Assess) methodology is used, which explores different parameters and feature engineering combinations to enhance data quality. Feature engineering techniques, such as oversampling and standardization, are applied. Hyperparameter tuning of the Random Forest model involves using Random Search and Grid Search methods to identify the optimal parameters. The research dataset, consisting of 32.581 lines, 11 predictor variables, and one response variable, is secondary data on Credit Risk. Results show that the application of feature engineering significantly improves the accuracy of the Random Forest model, increasing from 92,56% to 97,94% after applying oversampling and standardization. However, hyperparameter tuning does not significantly increase the accuracy of models built using well-preprocessed datasets or feature engineering.

English

Risiko kredit adalah hal yang penting untuk dianalisis di awal pengajuan kredit guna mengurangi nilai Non-Performing Loan (NPL) atau risiko gagal bayar. Pola pengetahuan risiko kredit bisa diketahui dari data-data historikal sehingga data pengajuan kredit baru bisa ketahui risikonya lebih awal. Pada penelitian-penelitian terdahulu, model klasifikasi untuk risiko kredit menggunakan Random Forest banyak ditemukan namun tidak mendalam dalam penerapan preprocessing dan akurasinya masih rendah. Maka penelitian ini bertujuan meningkatkan akurasi model klasifikasi algoritma Random Forest dengan menerapkan tuning parameter dan feature engineering yang lebih dalam. Metodologi penelitian yang digunakan adalah Sample, Explore, Modify, Models, dan Assess (SEMMA). Penelitian ini menerapkan berbagai kombinasi parameter dan menerapkan feature engineering untuk memperbaiki kualitas data. Feature engineering yang digunakan meliputi oversampling dan standardisasi. Hyperparameter tuning model Random Forest menggunakan metode Random Search dan Grid Search untuk mencari parameter paling optimal. Dataset penelitian adalah data sekunder (Credit Risk) yang terdiri dari 32.581 baris, 11 variabel prediktor dan 1 variabel respon. Hasil penelitian menunjukkan penerapan feature engineering signifikan meningkatkan akurasi model Random Forest, meningkat dari 92,56% menjadi 97,94% setelah menerapkan oversampling dan standarisasi. Sedangkan hyperparameter tuning tidak begitu signifikan meningkatkan akurasi model yang dibangun menggunakan dataset yang sudah dikenakan preprocessing maupun feature engineering dengan baik. Abstract Credit risk analysis is essential for minimizing the value of non-performing loans (NPL). Using historical data to understand credit risk patterns can help identify risks early in new credit applications. Previous research has often used Random Forest classification models for credit risk but found the need for more comprehensive preprocessing of applications and higher accuracy. This research aims to improve the accuracy of the Random Forest algorithm classification model by implementing parameter tuning and feature engineering. The SEMMA (Sample, Explore, Modify, Model, and Assess) methodology is used, which explores different parameters and feature engineering combinations to enhance data quality. Feature engineering techniques, such as oversampling and standardization, are applied. Hyperparameter tuning of the Random Forest model involves using Random Search and Grid Search methods to identify the optimal parameters. The research dataset, consisting of 32.581 lines, 11 predictor variables, and one response variable, is secondary data on Credit Risk. Results show that the application of feature engineering significantly improves the accuracy of the Random Forest model, increasing from 92,56% to 97,94% after applying oversampling and standardization. However, hyperparameter tuning does not significantly increase the accuracy of models built using well-preprocessed datasets or feature engineering.

Keywords

Collaboration network of the authors

10 authors · 17 co-authorship links · 1 across different organisations

Hover or tap a name to highlight its co-authors. Double-click to open the author's page.

  • Institut Teknologi Telkom Purwokerto
  • Universitas Gadjah Mada
  • Affiliation unknown
  • Different organisations
  • Same organisation
  • Affiliation unknown
  • Thicker line = more joint articles · bigger circle = more articles
Show as table
Co-authorOrganisationJoint articles
Edi WinarkoUniversitas Gadjah Mada1
Mohammad Teddy SyamkallaInstitut Teknologi Telkom Purwokerto1
Yohani Setiya Rafika NurInstitut Teknologi Telkom Purwokerto1
Fadilla Zundina UlyaAffiliation unknown1
Nia Annisa Ferani TanjungAffiliation unknown1

Affiliations come from OpenAlex; journal OAI-PMH metadata carries none. Authors without an OpenAlex ID are matched by name, which can merge or split people.

Metadata source: OAI-PMH (metadata jurnal) https://jtiik.ub.ac.id/index.php/jtiik/en/oai, first harvested 27 Okt 2026, last seen 27 Okt 2026.
Original metadata (oai_dc)
<oai_dc:dc xmlns="http://www.openarchives.org/OAI/2.0/" xmlns:dc="http://purl.org/dc/elements/1.1/" xmlns:oai_dc="http://www.openarchives.org/OAI/2.0/oai_dc/" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLocation="http://www.openarchives.org/OAI/2.0/oai_dc/  http://www.openarchives.org/OAI/2.0/oai_dc.xsd">
	<dc:title xml:lang="id">Penerapan Feature Engineering dan Hyperparameter Tuning untuk Meningkatkan Akurasi Model Random Forest pada Klasifikasi Risiko Kredit</dc:title>
	<dc:title xml:lang="en">Penerapan Feature Engineering dan Hyperparameter Tuning untuk Meningkatkan Akurasi Model Random Forest pada Klasifikasi Risiko Kredit</dc:title>
	<dc:creator xml:lang="id">Nur Fauzi, Nadea Putri</dc:creator>
	<dc:creator xml:lang="id">Khomsah, Siti</dc:creator>
	<dc:creator xml:lang="id">Putra Wicaksono, Aditya Dwi</dc:creator>
	<dc:creator xml:lang="en">Nur Fauzi, Nadea Putri</dc:creator>
	<dc:creator xml:lang="en">Khomsah, Siti</dc:creator>
	<dc:creator xml:lang="en">Putra Wicaksono, Aditya Dwi</dc:creator>
	<dc:subject xml:lang="id">Random Forest</dc:subject>
	<dc:subject xml:lang="id">Feature Engineering</dc:subject>
	<dc:subject xml:lang="id">Machine Learning</dc:subject>
	<dc:subject xml:lang="id">Hyperparameter-Tuning</dc:subject>
	<dc:subject xml:lang="id">Random Search</dc:subject>
	<dc:subject xml:lang="id">Grid Search</dc:subject>
	<dc:subject xml:lang="id">Klasifikasi Risiko Kredit</dc:subject>
	<dc:subject xml:lang="id">Credit Risk</dc:subject>
	<dc:description xml:lang="id"> 
Risiko kredit adalah hal yang penting untuk dianalisis di awal pengajuan kredit guna mengurangi nilai Non-Performing Loan (NPL) atau risiko gagal bayar. Pola pengetahuan risiko kredit bisa diketahui dari data-data historikal sehingga data pengajuan kredit baru bisa ketahui risikonya lebih awal. Pada penelitian-penelitian terdahulu, model klasifikasi untuk risiko kredit menggunakan Random Forest banyak ditemukan namun tidak mendalam dalam penerapan preprocessing dan akurasinya masih rendah. Maka penelitian ini bertujuan meningkatkan akurasi model klasifikasi algoritma Random Forest dengan menerapkan tuning parameter dan feature engineering yang lebih dalam. Metodologi penelitian yang digunakan adalah Sample, Explore, Modify, Models, dan Assess (SEMMA). Penelitian ini menerapkan berbagai kombinasi parameter dan menerapkan feature engineering untuk memperbaiki kualitas data. Feature engineering yang digunakan meliputi oversampling dan standardisasi. Hyperparameter tuning model Random Forest menggunakan metode Random Search dan Grid Search untuk mencari parameter paling optimal. Dataset penelitian adalah data sekunder (Credit Risk) yang terdiri dari 32.581 baris, 11 variabel prediktor dan 1 variabel respon. Hasil penelitian menunjukkan penerapan feature engineering signifikan meningkatkan akurasi model Random Forest, meningkat dari 92,56% menjadi 97,94% setelah menerapkan oversampling dan standarisasi. Sedangkan hyperparameter tuning tidak begitu signifikan meningkatkan akurasi model yang dibangun menggunakan dataset yang sudah dikenakan preprocessing maupun feature engineering dengan baik.
 
Abstract
Credit risk analysis is essential for minimizing the value of non-performing loans (NPL). Using historical data to understand credit risk patterns can help identify risks early in new credit applications. Previous research has often used Random Forest classification models for credit risk but found the need for more comprehensive preprocessing of applications and higher accuracy. This research aims to improve the accuracy of the Random Forest algorithm classification model by implementing parameter tuning and feature engineering. The SEMMA (Sample, Explore, Modify, Model, and Assess) methodology is used, which explores different parameters and feature engineering combinations to enhance data quality. Feature engineering techniques, such as oversampling and standardization, are applied. Hyperparameter tuning of the Random Forest model involves using Random Search and Grid Search methods to identify the optimal parameters. The research dataset, consisting of 32.581 lines, 11 predictor variables, and one response variable, is secondary data on Credit Risk. Results show that the application of feature engineering significantly improves the accuracy of the Random Forest model, increasing from 92,56% to 97,94% after applying oversampling and standardization. However, hyperparameter tuning does not significantly increase the accuracy of models built using well-preprocessed datasets or feature engineering.</dc:description>
	<dc:description xml:lang="en"> 
Risiko kredit adalah hal yang penting untuk dianalisis di awal pengajuan kredit guna mengurangi nilai Non-Performing Loan (NPL) atau risiko gagal bayar. Pola pengetahuan risiko kredit bisa diketahui dari data-data historikal sehingga data pengajuan kredit baru bisa ketahui risikonya lebih awal. Pada penelitian-penelitian terdahulu, model klasifikasi untuk risiko kredit menggunakan Random Forest banyak ditemukan namun tidak mendalam dalam penerapan preprocessing dan akurasinya masih rendah. Maka penelitian ini bertujuan meningkatkan akurasi model klasifikasi algoritma Random Forest dengan menerapkan tuning parameter dan feature engineering yang lebih dalam. Metodologi penelitian yang digunakan adalah Sample, Explore, Modify, Models, dan Assess (SEMMA). Penelitian ini menerapkan berbagai kombinasi parameter dan menerapkan feature engineering untuk memperbaiki kualitas data. Feature engineering yang digunakan meliputi oversampling dan standardisasi. Hyperparameter tuning model Random Forest menggunakan metode Random Search dan Grid Search untuk mencari parameter paling optimal. Dataset penelitian adalah data sekunder (Credit Risk) yang terdiri dari 32.581 baris, 11 variabel prediktor dan 1 variabel respon. Hasil penelitian menunjukkan penerapan feature engineering signifikan meningkatkan akurasi model Random Forest, meningkat dari 92,56% menjadi 97,94% setelah menerapkan oversampling dan standarisasi. Sedangkan hyperparameter tuning tidak begitu signifikan meningkatkan akurasi model yang dibangun menggunakan dataset yang sudah dikenakan preprocessing maupun feature engineering dengan baik.
 
Abstract
Credit risk analysis is essential for minimizing the value of non-performing loans (NPL). Using historical data to understand credit risk patterns can help identify risks early in new credit applications. Previous research has often used Random Forest classification models for credit risk but found the need for more comprehensive preprocessing of applications and higher accuracy. This research aims to improve the accuracy of the Random Forest algorithm classification model by implementing parameter tuning and feature engineering. The SEMMA (Sample, Explore, Modify, Model, and Assess) methodology is used, which explores different parameters and feature engineering combinations to enhance data quality. Feature engineering techniques, such as oversampling and standardization, are applied. Hyperparameter tuning of the Random Forest model involves using Random Search and Grid Search methods to identify the optimal parameters. The research dataset, consisting of 32.581 lines, 11 predictor variables, and one response variable, is secondary data on Credit Risk. Results show that the application of feature engineering significantly improves the accuracy of the Random Forest model, increasing from 92,56% to 97,94% after applying oversampling and standardization. However, hyperparameter tuning does not significantly increase the accuracy of models built using well-preprocessed datasets or feature engineering.</dc:description>
	<dc:publisher xml:lang="en">Fakultas Ilmu Komputer, Universitas Brawijaya</dc:publisher>
	<dc:date>2025-04-24</dc:date>
	<dc:type>info:eu-repo/semantics/article</dc:type>
	<dc:type>info:eu-repo/semantics/publishedVersion</dc:type>
	<dc:format>application/pdf</dc:format>
	<dc:identifier>https://jtiik.ub.ac.id/index.php/jtiik/article/view/8472</dc:identifier>
	<dc:identifier>10.25126/jtiik.2025128472</dc:identifier>
	<dc:source xml:lang="id">Jurnal Teknologi Informasi dan Ilmu Komputer; Vol 12 No 2: April 2025; 251-262</dc:source>
	<dc:source xml:lang="en">Jurnal Teknologi Informasi dan Ilmu Komputer; Vol. 12 No. 2: April 2025; 251-262</dc:source>
	<dc:source>2528-6579</dc:source>
	<dc:source>2355-7699</dc:source>
	<dc:source>10.25126/jtiik.122</dc:source>
	<dc:language>id</dc:language>
	<dc:relation>https://jtiik.ub.ac.id/index.php/jtiik/article/view/8472/1404</dc:relation>
	<dc:rights xml:lang="en">Copyright (c) 2025 Jurnal Teknologi Informasi dan Ilmu Komputer</dc:rights>
	<dc:rights xml:lang="en">https://creativecommons.org/licenses/by-sa/4.0</dc:rights>
</oai_dc:dc>