Design Science Research on Human–AI Collaboration in Decision Support Systems: A Hybrid Decision-Making Framework
DOI:
https://doi.org/10.25077/TEKNOSI.v12i2.2026.327-339Keywords:
Sistem Pendukung Keputusan, Kolaborasi Manusia dan AI, Design Science Research, Pengambilan Keputusan Hibrida, Explainable AIAbstract
Sistem Pendukung Keputusan (Decision Support Systems/DSS) mengalami perkembangan yang pesat seiring kemajuan teknologi kecerdasan buatan (Artificial Intelligence/AI), yang memungkinkan organisasi mengolah data dalam jumlah besar dan menghasilkan rekomendasi secara lebih efisien. Meskipun demikian, pengambilan keputusan yang sepenuhnya berbasis AI masih menghadapi berbagai tantangan, seperti kurangnya transparansi, keterbatasan pemahaman konteks, bias algoritmik, serta rendahnya kepercayaan pengguna. Di sisi lain, pengambilan keputusan yang sepenuhnya dilakukan manusia juga rentan terhadap keterbatasan kognitif, kelebihan informasi, dan bias penilaian. Penelitian ini mengusulkan suatu Human–AI Collaboration Framework untuk DSS menggunakan pendekatan Design Science Research (DSR). Fokus penelitian adalah merancang dan mengembangkan kerangka konseptual yang mengintegrasikan kemampuan analitis AI dengan keahlian manusia, penalaran kontekstual, dan pertimbangan etis. Framework yang diusulkan terdiri atas tiga lapisan utama, yaitu AI Layer, Human Layer, dan Interaction Layer yang didukung mekanisme Explainable Artificial Intelligence (XAI) serta proses umpan balik berkelanjutan. Framework didemonstrasikan secara konseptual melalui skenario pengambilan keputusan dan dievaluasi berdasarkan analisis literatur. Model yang diusulkan memberikan kontribusi terhadap pengembangan kajian Human–AI Collaboration dengan menyediakan arsitektur terstruktur untuk pengambilan keputusan hibrida sekaligus memberikan panduan praktis bagi pengembangan DSS yang adaptif, transparan, dan berpusat pada manusiaReferences
D. J. Power, “A Brief History of Decision Support Systems,” DSSResources.com, ver. 4.0, Mar. 10, 2007. [Online]. Available: https://dssresources.com/history/dsshistory.html. Accessed: Jun. 19, 2026.
E. Turban, C. Pollard, and G. Wood, Information Technology for Management: Driving Digital Transformation to Increase Local and Global Performance, Growth and Sustainability, 12th ed. Hoboken, NJ, USA: Wiley, 2021.
T. H. Davenport and J. G. Harris, Competing on Analytics, Updated, with a New Introduction: The New Science of Winning. Boston, MA, USA: Harvard Business Review Press, 2017.
N. Mehrabi, F. Morstatter, N. Saxena, K. Lerman, and A. Galstyan, “A survey on bias and fairness in machine learning,” ACM Comput. Surv., vol. 54, no. 6, pp. 1–35, 2021.
S. Barocas, M. Hardt, and A. Narayanan, Fairness and Machine Learning: Limitations and Opportunities. Cambridge, MA, USA: MIT Press, 2023.
D. Gunning and D. Aha, “DARPA’s Explainable Artificial Intelligence (XAI) program,” AI Mag., vol. 40, no. 2, pp. 44–58, 2019.
M. T. Ribeiro, S. Singh, and C. Guestrin, “Why should I trust you?: Explaining the predictions of any classifier,” in Proc. 22nd ACM SIGKDD Int. Conf. Knowledge Discovery and Data Mining, 2016, pp. 1135–1144.
D. Kahneman, O. Sibony, and C. R. Sunstein, Noise: A Flaw in Human Judgment. New York, NY, USA: Little, Brown Spark, 2021.
A. Tversky and D. Kahneman, “Judgment under uncertainty: Heuristics and biases,” Science, vol. 185, no. 4157, pp. 1124–1131, 1974.
C. J. Cai et al., “Hello AI: Uncovering the onboarding needs of medical practitioners for human-AI collaborative decision-making,” Proc. ACM Hum.-Comput. Interact., vol. 3, no. CSCW, pp. 1–24, 2019.
B. Shneiderman, Human-Centered AI. New York, NY, USA: Oxford University Press, 2022.
A. B. Arrieta et al., “Explainable Artificial Intelligence (XAI): Concepts, taxonomies, opportunities and challenges toward responsible AI,” Inf. Fusion, vol. 58, pp. 82–115, 2020.
Q. Yang, A. Steinfeld, C. Rosé, and J. Zimmerman, “Re-examining whether, why, and how human-AI interaction is uniquely difficult to design,” in Proc. CHI Conf. Human Factors in Computing Systems, 2020.
V. Lai, C. Chen, Q. V. Liao, A. Smith-Renner, and C. Tan, “Towards a science of human-AI decision making: An overview of design space in empirical human-subject studies,” in Proc. 2023 ACM Conf. Fairness, Accountability, and Transparency, 2023.
J. D. Lee and K. A. See, “Trust in automation: Designing for appropriate reliance,” Hum. Factors, vol. 46, no. 1, pp. 50–80, 2004.
B. J. Dietvorst, J. P. Simmons, and C. Massey, “Algorithm aversion: People erroneously avoid algorithms after seeing them err,” J. Exp. Psychol. Gen., vol. 144, no. 1, pp. 114–126, 2015.
A. R. Hevner, S. T. March, J. Park, and S. Ram, “Design science in information systems research,” MIS Q., vol. 28, no. 1, pp. 75–105, 2004.
K. Peffers, T. Tuunanen, M. A. Rothenberger, and S. Chatterjee, “A design science research methodology for information systems research,” J. Manag. Inf. Syst., vol. 24, no. 3, pp. 45–77, 2007.
M. J. Page et al., “The PRISMA 2020 statement: An updated guideline for reporting systematic reviews,” BMJ, vol. 372, p. n71, 2021.
Z. Buçinca, M. B. Malaya, and K. Z. Gajos, “To trust or to think: Cognitive forcing functions can reduce overreliance on AI in AI-assisted decision making,” Proc. ACM Hum.-Comput. Interact., vol. 5, no. CSCW1, 2021.
Downloads
Submitted
Accepted
Published
How to Cite
Issue
Section
License
Copyright (c) 2026 Jurnal Nasional dan Sistem Informasi
This work is licensed under a Creative Commons Attribution-ShareAlike 4.0 International License.
Hak cipta untuk artikel ini ditransfer ke Jurnal Nasional Teknologi dan Sistem Informasi (TEKNOSI) jika dan ketika artikel diterima untuk publikasi. Yang bertanda tangan di bawah ini dengan ini mentransfer setiap dan semua hak di dalam dan ke kertas termasuk tanpa batasan semua hak cipta untuk TEKNOSI. Yang bertanda tangan di bawah ini dengan ini menyatakan dan menjamin bahwa makalah tersebut asli dan bahwa ia adalah pembuat makalah, kecuali untuk bahan yang secara jelas diidentifikasi sebagai sumber aslinya, dengan pemberitahuan izin dari pemilik hak cipta jika diperlukan. Yang bertanda tangan di bawah ini menyatakan bahwa ia memiliki kekuatan dan wewenang untuk membuat dan melaksanakan penugasan ini.
Kami menyatakan bahwa:
- Makalah ini belum diterbitkan dalam bentuk yang sama di tempat lain.
- Makalah ini tidak akan dikirimkan di tempat lain untuk publikasi sebelum penerimaan/penolakan oleh Jurnal ini
- Izin hak cipta diperoleh untuk materi yang diterbitkan di tempat lain dan yang memerlukan izin ini untuk reproduksi.
Selanjutnya, Saya/kami dengan ini mentransfer hak publikasi yang tidak terbatas dari makalah yang disebutkan di atas secara keseluruhan kepada TEKNOSI. Transfer hak cipta mencakup hak untuk mereproduksi dan mendistribusikan artikel, termasuk cetak ulang, terjemahan, reproduksi foto, mikroform, bentuk elektronik (offline, online) atau reproduksi lain yang serupa.
Penulis yang sesuai menandatangani dan menerima tanggung jawab untuk merilis materi ini atas nama setiap dan semua penulis bersama. Perjanjian ini harus ditandatangani oleh setidaknya salah satu penulis yang telah memperoleh persetujuan dari rekan penulis jika berlaku. Setelah pengajuan perjanjian ini ditandatangani oleh penulis yang sesuai, perubahan kepengarangan atau dalam urutan penulis yang tercantum tidak akan diterima.
Hak / Syarat dan Ketentuan yang dipertahankan :
- Penulis memiliki semua hak kepemilikan dalam setiap proses, prosedur, atau artikel manufaktur yang dijelaskan dalam Karya ini.
- Penulis dapat mereproduksi atau mengotorisasi orang lain untuk mereproduksi karya ini atau karya turunannya untuk penggunaan pribadi penulis atau untuk penggunaan perusahaan, dengan ketentuan bahwa sumber dan menyatakan hak cipta dimiliki TEKNOSI, salinan tidak digunakan dengan cara apa pun yang menyiratkan pengesahan TEKNOSI atas suatu produk atau layanan dari pihak mana pun, dan salinannya sendiri tidak ditawarkan untuk dijual.
- Meskipun penulis diizinkan untuk menggunakan kembali semua atau sebagian dari karya ini dalam karya lain, ini tidak termasuk mengabulkan permintaan pihak ketiga untuk mencetak ulang, menerbitkan ulang, atau jenis penggunaan ulang lainnya.
This work is licensed under a 