Perbandingan Metode Hyperparameter Tuning Pada Model XGBoost Untuk Prediksi Multioutput

Lukman Handyanto; Willdan Aprizal Arifin; Herman Syafri

doi:10.30872/jurti.v10i1.22958

Perbandingan Metode Hyperparameter Tuning Pada Model XGBoost Untuk Prediksi Multioutput

Lukman Handyanto, Willdan Aprizal Arifin, Herman Syafri

Abstract

Prediksi parameter atmosfer-oseanografi yang akurat sangat penting untuk mitigasi risiko di wilayah pesisir dan aktivitas kelautan. Penelitian ini membandingkan efektivitas Grid Search dan Randomized Search dalam optimasi hyperparameter XGBoost untuk prediksi multioutput lima parameter cuaca dan laut, yaitu kecepatan angin, arah angin, kelembaban relatif, suhu permukaan laut, dan tinggi muka air menggunakan data Automatic Weather Station BMKG periode 2022-2025 pada stasiun Merak, Ciwandan, dan Bakauheni. Penelitian meliputi tahapan pengumpulan data, ekstraksi fitur temporal, pembersihan data, pemisahan fitur-target, pembagian data latih-uji, normalisasi, pelatihan model, hyperparameter tuning, dan evaluasi menggunakan metrik R². Hasil menunjukkan kedua metode menghasilkan akurasi tinggi dengan nilai R² berada pada rentang 0,7214 hingga 0,9916. Perbedaan akurasi antar metode relatif kecil, dengan selisih R² terbesar 0,0152 pada variabel arah angin. Meskipun demikian, Randomized Search menunjukkan keunggulan signifikan dari sisi efisiensi komputasi dengan waktu eksekusi hingga 7,5 kali lebih cepat dibandingkan Grid Search, yaitu 38,3 detik dibandingkan 285,6 detik pada variabel kecepatan angin. Selain itu, proses optimasi hyperparameter terbukti meningkatan kinerja model dibandingan konfigurasi baseline, dengan peningkatan nilai R² arah angin dari 0,6137 menjadi 0,7366. Berdasarkan keseimbangan antara akurasi dan efisiensi komputasi, Randomized Search direkomendasikan sebagai optimasi hyperparameter untuk model XGBoost multioutput pada data kompleks dan berdimensi tinggi.

Keywords

XGBoost; prediksi multioutput; hyperparameter tuning; Grid Search; Randomized Search

Full Text:

PDF

References

N. N. B. Marscelina, I. G. L. Wijayakusuma, and P. V. Swastika, “Perbandingan Metode LSTM dan TCN untuk Prediksi Gelombang Laut Berdasarkan Enam Parameter Oseanografi,” JST (Jurnal Sains dan Teknol., vol. 14, no. 1, pp. 56–66, May 2025, doi: 10.23887/jstundiksha.v14i1.92590.

S. Emami and G. Martinez-Munoz, “Deep Learning for Multi-Output Regression Using Gradient Boosting,” IEEE Access, vol. 12, pp. 17760–17772, 2024, doi: 10.1109/ACCESS.2024.3359115.

H. S. Wicaksana, M. Putra, and D. P. Djenal, “Evaluasi Kinerja Automatic Weather Station Berdasarkan Pengamatan Paralel di Stasiun Meteorologi Kemayoran,” in Prosiding Seminar Nasional Teknik Elektro, 2021.

Z. Mustaffa and M. H. Sulaiman, “Advanced forecasting of building energy loads with XGBoost and metaheuristic algorithms integration,” Energy Storage Sav., Aug. 2025, doi: 10.1016/j.enss.2025.03.005.

I. Maulita and A. M. Wahid, “Prediksi Magnitudo Gempa Menggunakan Random Forest, Support Vector Regression, XGBoost, LightGBM, dan Multi-Layer Perceptron Berdasarkan Data Kedalaman dan Geolokasi,” J. Pendidik. dan Teknol. Indones., vol. 4, no. 5, pp. 221–232, May 2024, doi: 10.52436/1.jpti.470.

J. A. Ilemobayo et al., “Hyperparameter Tuning in Machine Learning: A Comprehensive Review,” J. Eng. Res. Reports, vol. 26, no. 6, pp. 388–395, Jun. 2024, doi: 10.9734/jerr/2024/v26i61188.

Y. Zhao, W. Zhang, and X. Liu, “Grid search with a weighted error function: Hyper-parameter optimization for financial time series forecasting,” Appl. Soft Comput., vol. 154, Mar. 2024, doi: 10.1016/j.asoc.2024.111362.

S. A. Tiastama and I. Budi, “Perbandingan Random Search dan Algoritma Genetika dalam Penyetelan Hyperparameter XGBoost pada Retail Sales Forecasting,” Indones. J. Comput. Sci., vol. 13, no. 4, Aug. 2024, doi: 10.33022/ijcs.v13i4.4285.

D. A. Anggoro and S. S. Mukti, "Performance Comparison of Grid Search and Random Search Methods for Hyperparameter Tuning in Extreme Gradient Boosting Algorithm to Predict Chronic Kidney Failure," Int. J. Intell. Eng. Syst., vol. 14, no. 6, pp. 198-207, 2021.

G. Abdurrahman, H. Oktavianto, and M. Sintawati, "Optimasi Algoritma XGBoost Classifier Menggunakan Hyperparameter GrideSearch dan Random Search pada Klasifikasi Penyakit Diabetes," INFORMAL: Informatics J., vol. 7, no. 3, pp. 193-198, 2022.

S. Sugiarto, I. G. S. M. Diyasa, D. S. Alhamda, R. L. Aryananda, A. R. F. Sari, H. Sukri, and D. A. Dewi, "Optimizing The XGBoost Model with Grid Search Hyperparameter Tuning for Maximum Temperature Forecasting," J. Appl. Data Sci., vol. 6, no. 4, pp. 2517–2529, 2025.

W. Jia, M. Sun, J. Lian, and S. Hou, “Feature dimensionality reduction: a review,” Complex Intell. Syst., vol. 8, no. 3, pp. 2663–2693, Jun. 2022, doi: 10.1007/s40747-021-00637-x.

D. Rohadi, “Skripsi Pengaruh Ensemble Feature Selection pada Prediksi Data Time Series Menggunakan Gated Recurrent Unit (GRU) dan Bidirectional Long Short-Term Memory (Bi-LSTM) (Studi Kasus: Walmart) Diususun oleh,” UIN Syarif HIdayatullah Jakarta, 2024.

C. Fan, M. Chen, X. Wang, J. Wang, and B. Huang, “A Review on Data Preprocessing Techniques Toward Efficient and Reliable Knowledge Discovery From Building Operational Data,” Front. Energy Res., vol. 9, Mar. 2021, doi: 10.3389/fenrg.2021.652801.

F. J. López-Andreu, J. A. López-Morales, Z. Hernández-Guillen, J. A. Carrero-Rodrigo, M. Sánchez-Alcaraz, J. F. Atenza-Juárez, and M. Erena, "Deep learning-based time series forecasting models evaluation for the forecast of chlorophyll a and dissolved oxygen in the Mar Menor," J. Mar. Sci. Eng., vol. 11, no. 7, July 2023, art. no. 1473, doi: 10.3390/jmse11071473.

Q. H. Nguyen et al., “Influence of data splitting on performance of machine learning models in prediction of shear strength of soil,” Math. Probl. Eng., vol. 2021, 2021, doi: 10.1155/2021/4832864.

S. Prayudani, Y. Sibarani, A. Salam, and A. R. Lubis, “Perbandingan Kinerja Model Pembelajaran Mesin Random Forest dan K-Nearest Neighbor (KNN) untuk Prediksi Risiko Kredit pada Layanan Pinjaman Online,” J. Software, Hardw. Inf. Technol., vol. 5, no. 2, pp. 118–127, Jun. 2025, doi: 10.24252/shift.v5i2.204.

H. Karmila and S. Yuliyatini, “Systematic Literature Review: Effective Data Normalization Method in Detecting Diabetes Using Machine Learning (K-Nearest Neighbors Algorithm),” J. Sci. Res. Dev., vol. 6, no. 1, 2024, [Online]. Available: https://idm.or.id/JSCR/inde

P. P. Allorerung, A. Erna, M. Bagussahrir, and S. Alam, “Analisis Performa Normalisasi Data untuk Klasifikasi K-Nearest Neighbor pada Dataset Penyakit,” J. Inform. Sunan Kalijaga), vol. 9, no. 3, pp. 178–191, Sep. 2024.

F. I. Sari, E. L. Gunawan, C. A. Adhigiadany, and A. Lisanthoni, “Model Prediksi Kepadatan Lalu Lintas: Perbandingan Antara Algoritma Random Forest dan XGBoost,” Semin. Nas. Sains Data, vol. 2023, 2023.

R. Winurputra and D. E. Ratnawati, “Peramalan Penjualan Produk Menggunakan Extreme Gradient Boosting (XGBoost) dan Kerangka Kerja CRISP-DM untuk Pengoptimalan Manajemen Persediaan (Studi Kasus: UB Mart),” J. Teknol. Inf. dan Ilmu Komput., vol. 12, no. 2, pp. 417–428, Apr. 2025, doi: 10.25126/jtiik.2025129451.

A. Amalia, M. Radhi, D. R. H. Sitompul, S. H. Sinurat, and E. Indra, “Prediksi Harga Mobil Menggunakan Algoritma Regressi dengan Hyper-Parameter Tuning,” J. Sist. Inf. dan Ilmu Komput. Prima, vol. 4, no. 2, Feb. 2021.

A. D. Rachmatsyah, T. Sugihartono, and K. Irfan, “Perbandingan Teknik Optimasi Grid Search dan Randomized Search dalam Meningkatkan Akurasi Metode Klasifikasi SVM Pada Sentimen Ulasan Pengguna Aplikasi JKN Mobile,” SKANIKA Sist. Komput. dan Tek. Inform., vol. 8, no. 1, pp. 13–22, Jan. 2025.

S. R. Sidiq and A. Salam, “SciBERT Optimisation for Named Entity Recognition on NCBI Disease Corpus with Hyperparameter Tuning,” J. Appl. Informatics Comput., vol. 9, no. 2, p. 432, Apr. 2025, [Online]. Available: http://jurnal.polibatam.ac.id/index.php/JAIC

M. Fajri and A. Primajaya, “Komparasi Teknik Hyperparameter Optimization pada SVM untuk Permasalahan Klasifikasi dengan Menggunakan Grid Search dan Random Search,” J. Appl. Informatics Comput., vol. 7, no. 1, pp. 2548–6861, Jul. 2023, [Online]. Available: http://jurnal.polibatam.ac.id/index.php/JAIC

H. Mulyo and A. K. Zyen, “Pengaruh Hyperparameter Tuning Gradient Boosting Terhadap Prediksi Pemilihan Program Studi Mahasiswa Baru,” Bull. Comput. Sci. Res., vol. 5, no. 2, pp. 131–137, Feb. 2025, doi: 10.47065/bulletincsr.v5i2.454.

M. F. R. Aditya, N. L. Azizah, and U. Indahyanti, “Prediksi Penyakit Hipertensi Menggunakan Metode Decison Tree dan Random Forest,” J. Ilm. Komputasi, vol. 23, no. 1, Mar. 2024, doi: 10.32409/jikstik.23.1.3503.

A. B. Fawait, M. Jamil, S. Rahmah, and S. Sugiarto, “Penerapan Metode LSTM untuk Prediksi Harga Ethereum,” J. Rekayasa Teknol. Inf., vol. 9, no. 3, pp. 243–252, 2025.

D. Chicco, M. J. Warrens, and G. Jurman, "The coefficient of determination R-squared is more informative than SMAPE, MAE, MAPE, MSE and RMSE in regression analysis evaluation," PeerJ Comput. Sci., vol. 7, July 2021, art. no. e623, doi: 10.7717/peerj-cs.623

G. Chairunisa et al., “Life Expectancy Prediction Using Decision Tree, Random Forest, Gradient Boosting, and XGBoost Regressions,” J. Sintak, vol. 2, no. 2, Mar. 2024.

E. J. Sudarman and S. Budi, “Pengembangan Model Kecerdasan Mesin Extreme Gradient Boosting untuk Prediksi Keberhasilan Studi Mahasiswa,” J. Strateg., vol. 5, Nov. 2023.

M. B. Ilmi and K. Kusrini, “Perbandingan Kinerja Algoritma Machine Learning dalam Deteksi Potensi Risiko HIV,” J. BUFFER Inform., vol. 11, no. 1, Apr. 2025, [Online]. Available: https://journal.fkom.uniku.ac.id/buffer

DOI: http://dx.doi.org/10.30872/jurti.v10i1.22958

Refbacks

There are currently no refbacks.

This work is licensed under a Creative Commons Attribution-ShareAlike 4.0 International License.

Alamat Redaksi :
Program Studi Informatika
Fakultas Teknik
Jl. Sambaliung No. 9 Kampus Gunung Kelua Samarinda 75119 - Kalimantan Timur
e-mail : jurti.unmul@fkti.unmul.ac.id
Url : http://e-journals.unmul.ac.id/index.php/INF
Contact Person : Medi Taruk [08195075640]

This work is licensed under a Creative Commons Attribution-ShareAlike 4.0 International License.

Username
Password
Remember me