Kohesi: Jurnal Sains dan Teknologi

Articles

Vol. 10 No. 7 (2025): Kohesi: Jurnal Sains dan Teknologi, ISSN 3025-1311

STUDI KRITIS EROSI AGENSI MORAL DALAM ARSITEKTUR ALGORITMA MELALUI IMPLEMENTASI VALUE SENSITIVE DESIGN DAN MITIGASI MORAL DESKILLING PADA SISTEM PENDUKUNG KEPUTUSAN DI INDONESIA

Submitted
December 22, 2025
Published
2025-12-22

Abstract

Integrasi pesat Sistem Pendukung Keputusan (SPK) ke dalam sektor kritikal di Indonesia mulai dari distribusi bantuan sosial (Bansos) hingga penilaian kredit finansial telah memprioritaskan efisiensi dan akurasi, namun sering kali mengabaikan implikasi etika orde kedua yang mendalam. Studi ini berargumen bahwa adopsi pengambilan keputusan otomatis tanpa kritik mempercepat fenomena moral deskilling, di mana profesional manusia kehilangan kapasitas kognitif untuk pertimbangan etis akibat ketergantungan berlebih pada perantara algoritma. Menggunakan pendekatan kualitatif dengan metode studi kasus ganda (multiple case study) terhadap infrastruktur digital Indonesia (DTKS, Fintech lending, dan PeduliLindungi), penelitian ini mengungkap bagaimana antarmuka pengguna yang "mulus" (seamless) memperparah bias otomatisasi (automation bias) dan penyangga moral (moral buffering). Temuan menunjukkan bahwa kode etik profesi saat ini (PII dan IPKIN) belum memadai untuk menjawab tantangan sosio-teknis ini. Artikel ini mengusulkan pergeseran paradigma menuju Ethical Friction dan Contestability by Design, serta menyarankan penyisipan fungsi pemaksaan kognitif (cognitive forcing functions) secara sengaja untuk menginterupsi ketergantungan heuristik pada AI. Dengan mereframing peran insinyur dari sekadar pembuat alat menjadi penjaga agensi moral, studi ini menawarkan kerangka kerja Value Sensitive Design (VSD) yang dikontekstualisasikan untuk Indonesia guna mencegah erosi tanggung jawab manusia di era digital.

References

  1. Almada, M. (2018). Contesting automated decisions: Limits to the right to human intervention in automated Decision-Making. SSRN Electronic Journal. https://doi.org/10.2139/ssrn.3264189
  2. Cummings, M. (2004). Automation Bias in Intelligent Time Critical Decision Support Systems. AIAA 1st Intelligent Systems Technical Conference. https://doi.org/10.2514/6.2004-6313
  3. Chanh, N. H. (2025). Book Review: The AI-Savvy Leader- Nine Ways to Take back control and Make AI work. ABAC Journal, 45(3), 200–202. https://doi.org/10.59865/abacj.2025.23
  4. Friedman, B., Kahn, P. H., Borning, A., & Huldtgren, A. (2013). Value sensitive design and information systems. In Philosophy of engineering and technology (pp. 55–95). https://doi.org/10.1007/978-94-007-7844-3_4
  5. IPKIN. (2020). Kode Etik Profesi Ikatan Profesi Komputer dan Informatika Indonesia. IPKIN.
  6. Jobin, A., Ienca, M., & Vayena, E. (2019). The global landscape of AI ethics guidelines. Nature Machine Intelligence, 1(9), 389–399. https://doi.org/10.1038/s42256-019-0088-2
  7. Krämer, W. (2013). Kahneman, D. (2011): Thinking, Fast and Slow. Statistical Papers, 55(3), 915. https://doi.org/10.1007/s00362-013-0533-y
  8. Kementerian Sosial Republik Indonesia. (2021). Laporan Kinerja Pengelolaan Data Terpadu Kesejahteraan Sosial (DTKS). Kemensos RI.
  9. Mitchell, M., Wu, S., Zaldivar, A., Barnes, P., Vasserman, L., Hutchinson, B., Spitzer, E., Raji, I. D., Gebru, T., Mitchell, M., Wu, S., Zaldivar, A., Barnes, P., Vasserman, L., Hutchinson, B., Spitzer, E., Raji, I. D., & Gebru, T. (2019). Model Cards for Model Reporting. Association for Computing Machinery, 220–229. https://doi.org/10.1145/3287560.3287596
  10. Mizukoshi, K. (2023c). Case study research and applications. Quarterly Journal of Marketing, 43(2), 3–5. https://doi.org/10.7222/marketing.2023.045
  11. OJK. (2023). Statistik Fintech Lending Periode Desember 2022. Otoritas Jasa Keuangan.
  12. O’Neil, C. (2016). Weapons of math destruction: How Big Data Increases Inequality and Threatens Democracy. Crown Publishing Group (NY).
  13. Parasuraman, R., & Manzey, D. H. (2010). Complacency and Bias in Human Use of Automation: an attentional integration. Human Factors the Journal of the Human Factors and Ergonomics Society, 52(3), 381–410. https://doi.org/10.1177/0018720810376055
  14. Persatuan Insinyur Indonesia. (2021). Kode Etik Insinyur Indonesia (Catur Karsa dan Sapta Dharma). PII.
  15. Vallor, S. (2016). Technology and the virtues. In Oxford University Press eBooks. https://doi.org/10.1093/acprof:oso/9780190498511.001.0001

Most read articles by the same author(s)

Similar Articles

11-20 of 361

You may also start an advanced similarity search for this article.