Makine öğrenimi tabanlı karar destek sistemlerinde algoritmik önyargı ve eşitsizlik üzerine bir araştırma: Kredi değerlendirme vaka analizi

Abstract

Bu çalışmada, insanların günlük yaşamlarında sıklıkla karşılaştığı yapay zekâ, makine öğrenmesi ve algoritmaların artan maruziyeti ele alınmaktadır. Bununla birlikte, bu teknolojilerin kullanımının yaygınlaşmasıyla birlikte, algoritmik önyargı ve makine öğrenmesi adaletsizliği gibi yeni kavramların ortaya çıktığına dikkat çekilmektedir. Makine öğrenmesinin kısıtlı bir alanda aldığı kararların fark yaratmasına rağmen, kapsam alanının artmasıyla birlikte algoritmaların etki alanı dar kapsamlı olmaktan çıkabildiği ve toplumsal ayrışmalara neden olabileceği ifade edilmektedir. Bu nedenle, kredi karar süreçlerinde kullanılan makine öğrenmesi algoritmalarının önyargı veya eşitsizliğe neden olup olmadığı Alman Kredi verisi üzerinde test edilmiştir. Test sonuçları istatistiksel sonuçlar ve eşitsizlik metrikleri yardımıyla yorumlanmış ve makine öğrenmesi algoritmalarının kredi süreçlerinde adaletsizliğe sebep olduğu belirlenmiştir. Algoritmik önyargıların, yapay zekanın insanlara kıyasla geniş kapsamlı öğrenme ve anlamlandırma yeteneğinin olmaması, yapay zekanın adaptasyon yeteneğinin yetersiz kalmasının yanı sıra duygusal zekâsı gibi yeteneklerinin eksikliğinden kaynaklanabileceği tartışılmıştır. Ayrıca, makine öğrenmesinin adaptasyon yeteneğinin olmaması değişimlerde yapay zekanın genel zekaya göre uyumsuz kalmasına neden olduğu vurgulanmaktadır. Bu çalışma, yönetim bilimleri açısından bir optimizasyon problemi olarak karar destek sistemi için açıklanabilir yapay zekanın önemini ve çözüm gücü de vurgulamaktadır. Algoritmik önyargı ve eşitsizlik metrikleri gibi konular, yönetim bilimleri alanında karar alıcıların yapay zekâ teknolojileri kullanımında dikkate almaları gereken önemli hususlardır. Ayrıca, yapay zekanın duygusal boyutunun eksikliği, algoritmik önyargıları ortaya çıkarabileceğinden, bu teknolojilerin geliştirilmesinde duygusal zekâ bileşenlerinin dikkate alınması önemlidir. Bu çalışma, yapay zekâ teknolojilerinin etik, hukuk ve toplumsal boyutlarına da dikkat çekerek, yapay zekâ kullanımının toplumsal yararına katkı sağlamayı amaçlamaktadır.