Systematic Literature Review: Optimasi Model Klasifikasi pada Imbalanced Data Menggunakan SMOTE, Hyperparameter Tuning, dan Ensemble Learning
DOI:
https://doi.org/10.25077/TEKNOSI.v12i2.2026.350-362Keywords:
Systematic Literature Review, Imbalanced Data, SMOTE, Hyperparameter Tuning, Ensemble LearningAbstract
Imbalanced Data merupakan salah satu permasalahan utama dalam pengembangan model klasifikasi karena menyebabkan model cenderung mempelajari kelas mayoritas sehingga kemampuan mendeteksi kelas minoritas menjadi menurun. Berbagai pendekatan, seperti Synthetic Minority Oversampling Technique (SMOTE), Hyperparameter Tuning, dan Ensemble Learning, telah dikembangkan untuk meningkatkan performa model pada kondisi tersebut. Penelitian ini bertujuan menganalisis karakteristik penelitian, mengkaji penerapan SMOTE, Hyperparameter Tuning, dan Ensemble Learning, serta mengidentifikasi Research Gap dalam optimasi model klasifikasi pada Imbalanced Data. Penelitian menggunakan metode Systematic Literature Review (SLR) dengan mengacu pada pedoman PRISMA 2020. Proses kajian meliputi penyusunan Research Question, pencarian literatur pada basis data Scopus, seleksi artikel berdasarkan kriteria inklusi dan eksklusi, Quality Assessment, ekstraksi data, serta sintesis hasil. Sebanyak 14 artikel yang memenuhi kriteria ditetapkan sebagai Primary Studies. Hasil sintesis menunjukkan bahwa SMOTE merupakan teknik yang paling banyak digunakan untuk menangani Imbalanced Data, sedangkan Hyperparameter Tuning berperan dalam memperoleh konfigurasi model yang optimal melalui pendekatan seperti Optuna dan Bayesian Optimization. Selain itu, Ensemble Learning, khususnya Stacking dan Soft Voting, banyak diintegrasikan dengan teknik optimasi lainnya untuk meningkatkan akurasi, stabilitas, dan kemampuan generalisasi model. Penelitian ini menyimpulkan bahwa integrasi SMOTE, Hyperparameter Tuning, dan Ensemble Learning menjadi pendekatan yang dominan dalam optimasi model klasifikasi pada Imbalanced Data. Penelitian juga mengidentifikasi peluang pengembangan pada aspek interpretabilitas model, efisiensi komputasi, serta pengembangan kerangka optimasi yang lebih terintegrasi.References
E. Traka, G. Papageorgiou, G. Mantzavinis, and C. Tjortjis, “Comparative Forecasting and Misclassification Analysis Using Health Survey Data,” AI, vol. 7, no. 4, pp. 1–27, 2026, doi: 10.3390/ai7040148.
S. A. Salloum, A. Almomani, K. M. Alomari, T. Khdour, and M. Alauthman, “Predicting Thyroid Dysfunction Using Classical Machine Learning with Rigorous Statistical Evaluation,” IEEE Access, vol. 14, no. February, pp. 28852–28866, 2026, doi: 10.1109/ACCESS.2026.3666210.
D. W. Brata, A. Djunaidy, D. O. Siahaan, and S. Handoyo, “The Acquiring Optimal Models of Random Forest and Support Vector Machine Through Tuning Hyperparameters in Classifying the Imbalanced Data,” Int. J. Adv. Comput. Sci. Appl., vol. 17, no. 2, pp. 739–749, 2026, doi: 10.14569/IJACSA.2026.0170273.
A. Arabiat, O. Almomani, and M. Altayeb, “Machine Learning-Driven Prediction of EV Charging Behavior for Renewable and Grid Optimization,” J. Robot. Control, vol. 7, no. 1, pp. 3462–3471, 2026, doi: 10.18196/jrc.v7i1.26225.
R. Ahmed, N. Fahad, M. S. U. Miah, M. J. Hossen, and K. Bhattacharjee, HyOPTEnsemble: custom-weighted Soft Voting Hyperparameter Optimization ensemble model, explainable-AI for predicting mental state among university students, vol. 6, no. 1. 2026. doi: 10.1007/s44163-025-00708-9.
N. Uddin, P. Mahmud, M. Ahammed, M. A. Uddin, M. Kazi, and M. A. Talukder, “Explainable Ensemble Learning model for cardiovascular disease prediction with feature optimization and data balancing,” Discov. Comput., vol. 29, no. 1, 2026, doi: 10.1007/s10791-026-09930-0.
M. Kumbhar, S. Bandaru, and A. Karlsson, Imbalanced Data Oversampling through subspace optimization with Bayesian reinforcement, vol. 59, no. 1. 2026. doi: 10.1007/s10462-025-11417-1.
R. Fadhilah, H. Kuswanto, and D. D. Prastyo, “Performance Evaluation of Classification Methods Utilizing Resampling Techniques for Water Quality Prediction on Imbalanced Data,” Eng. Technol. Appl. Sci. Res., vol. 15, no. 4, pp. 26091–26099, 2025, doi: 10.48084/etasr.11832.
S. Seo, D. Oh, K. Kang, H. J. Park, and J. H. Jeon, “Construction Accident Prediction via Generative AI and AutoML Approaches,” Appl. Sci., vol. 16, no. 5, pp. 1–17, 2026, doi: 10.3390/app16052412.
P. Rahi, M. R. Hussain, S. Alqahtani, M. Husain, A. P. Singh, and I. Singh, “A Novel Random Forest-SMOTE Framework With Polynomial Feature Engineering for Early Detection of Gastrointestinal Disorders,” IEEE Access, vol. 13, no. September, pp. 188577–188604, 2025, doi: 10.1109/ACCESS.2025.3626072.
D. Priyanto, H. Hairani, K. Marzuki, and M. Innuddin, “Optimization of Random Forest for Health Data Classification Using PCA and K-Means SMOTE-ENN,” Eng. Technol. Appl. Sci. Res., vol. 15, no. 5, pp. 27646–27652, 2025, doi: 10.48084/etasr.12976.
S. Karthik, S. Kaliraj, and M. D. Lydia, “Cascade framework for software fault prediction using ABC-based Feature Selection and SMOTE,” Discov. Artif. Intell., vol. 6, no. 1, 2026, doi: 10.1007/s44163-026-01125-2.
M. Pratiwi, S. Defit, and M. Tajuddin, “Adaptive Integration of Optuna Optimization and Stacking Ensemble Learning for Automated Work Competency Classification,” J. Appl. Data Sci., vol. 7, no. 2, pp. 1108–1119, 2026, doi: 10.47738/jads.v7i2.1228.
Q. Wu, B. Dai, D. Li, H. Jia, and P. Li, “Classification of Rockburst Intensity Grades: A Method Integrating k-Medoids-SMOTE and BSLO-RF,” Appl. Sci., vol. 15, no. 16, pp. 1–23, 2025, doi: 10.3390/app15169045.
K. Abnoosian, R. Farnoosh, and M. H. Behzadi, “Prediction of diabetes disease using an ensemble of Machine Learning multi-classifier models,” BMC Bioinformatics, vol. 24, no. 1, pp. 1–24, 2023, doi: 10.1186/s12859-023-05465-z.
R. Srivastava, K. Sinha, D. Samanta, R. Alsabet, W. El-Shafai, and A. T. Azar, “Ensemble Machine Learning for Reliable Water Potability Prediction with Optimized Physicochemical Feature Engineering,” Eng. Technol. Appl. Sci. Res., vol. 16, no. 2, pp. 33647–33659, 2026, doi: 10.48084/etasr.16495.
T. M. Lam, S. N. Prova, T. e. Mustafa, and N. A. Khan, “Improving Lung Cancer Prediction Using Advanced Hyperparameter Optimization and Nested Cross-Validation,” Eng. Reports, vol. 7, no. 11, pp. 1–10, 2025, doi: 10.1002/eng2.70486.
J. Biswas et al., “Performance-optimized Alzheimer’s detection using Machine Learning with SMOTE and Randomized Hyperparameter Tuning,” Discov. Artif. Intell., 2026, doi: 10.1007/s44163-025-00758-z.
F. Hassan, M. A. Deif, A. Zaghloul, R. Elgohary, and M. Khishe, “Explainable stacked-ensemble prediction of ABL1 tyrosine-kinase inhibitor resistance: A metaheuristic-optimized pipeline,” Intell. Med., vol. 13, no. October 2025, p. 100341, 2026, doi: 10.1016/j.ibmed.2025.100341.
P. Parmar, N. Shah, and V. P. Jariwala, “Enhancing Prediction Accuracy for Cardiovascular Heart Diseases through Optimized Ensembled Classifiers,” SSRG Int. J. Electron. Commun. Eng., vol. 13, no. 3, pp. 203–212, 2026, doi: 10.14445/23488549/IJECE-V13I3P117.
M. Alamri and M. Ykhlef, “A novel Hybrid Machine Learning model for credit card fraud detection using anomaly detection and optimised classification,” PeerJ Comput. Sci., vol. 12, 2026, doi: 10.7717/peerj-cs.3748.
M. J. Page et al., “The PRISMA 2020 statement: An updated guideline for reporting systematic reviews,” Bmj, vol. 372, 2021, doi: 10.1136/bmj.n71.
Downloads
Submitted
Accepted
Published
How to Cite
Issue
Section
License
Copyright (c) 2026 Jurnal Nasional dan Sistem Informasi
This work is licensed under a Creative Commons Attribution-ShareAlike 4.0 International License.
Hak cipta untuk artikel ini ditransfer ke Jurnal Nasional Teknologi dan Sistem Informasi (TEKNOSI) jika dan ketika artikel diterima untuk publikasi. Yang bertanda tangan di bawah ini dengan ini mentransfer setiap dan semua hak di dalam dan ke kertas termasuk tanpa batasan semua hak cipta untuk TEKNOSI. Yang bertanda tangan di bawah ini dengan ini menyatakan dan menjamin bahwa makalah tersebut asli dan bahwa ia adalah pembuat makalah, kecuali untuk bahan yang secara jelas diidentifikasi sebagai sumber aslinya, dengan pemberitahuan izin dari pemilik hak cipta jika diperlukan. Yang bertanda tangan di bawah ini menyatakan bahwa ia memiliki kekuatan dan wewenang untuk membuat dan melaksanakan penugasan ini.
Kami menyatakan bahwa:
- Makalah ini belum diterbitkan dalam bentuk yang sama di tempat lain.
- Makalah ini tidak akan dikirimkan di tempat lain untuk publikasi sebelum penerimaan/penolakan oleh Jurnal ini
- Izin hak cipta diperoleh untuk materi yang diterbitkan di tempat lain dan yang memerlukan izin ini untuk reproduksi.
Selanjutnya, Saya/kami dengan ini mentransfer hak publikasi yang tidak terbatas dari makalah yang disebutkan di atas secara keseluruhan kepada TEKNOSI. Transfer hak cipta mencakup hak untuk mereproduksi dan mendistribusikan artikel, termasuk cetak ulang, terjemahan, reproduksi foto, mikroform, bentuk elektronik (offline, online) atau reproduksi lain yang serupa.
Penulis yang sesuai menandatangani dan menerima tanggung jawab untuk merilis materi ini atas nama setiap dan semua penulis bersama. Perjanjian ini harus ditandatangani oleh setidaknya salah satu penulis yang telah memperoleh persetujuan dari rekan penulis jika berlaku. Setelah pengajuan perjanjian ini ditandatangani oleh penulis yang sesuai, perubahan kepengarangan atau dalam urutan penulis yang tercantum tidak akan diterima.
Hak / Syarat dan Ketentuan yang dipertahankan :
- Penulis memiliki semua hak kepemilikan dalam setiap proses, prosedur, atau artikel manufaktur yang dijelaskan dalam Karya ini.
- Penulis dapat mereproduksi atau mengotorisasi orang lain untuk mereproduksi karya ini atau karya turunannya untuk penggunaan pribadi penulis atau untuk penggunaan perusahaan, dengan ketentuan bahwa sumber dan menyatakan hak cipta dimiliki TEKNOSI, salinan tidak digunakan dengan cara apa pun yang menyiratkan pengesahan TEKNOSI atas suatu produk atau layanan dari pihak mana pun, dan salinannya sendiri tidak ditawarkan untuk dijual.
- Meskipun penulis diizinkan untuk menggunakan kembali semua atau sebagian dari karya ini dalam karya lain, ini tidak termasuk mengabulkan permintaan pihak ketiga untuk mencetak ulang, menerbitkan ulang, atau jenis penggunaan ulang lainnya.
This work is licensed under a 