Kayıp gözlem içeren dengesiz veri setlerinin topluluk öğrenme algoritmaları ile sınıflandırılması

Abstract

Son yıllarda gelişen teknoloji ile üretilen veri miktarı artmış ve veri türleri farklılaşmaya başlamıştır. Farklılaşan veri yapısı farklı veri kaynaklarının da ortaya çıkmasına neden olmuştur. Farklılaşan veri kaynakları ve veri tipleri nedeniyle geleneksel yöntemler yetersiz kalmıştır. Bu nedenle makine öğrenmesi yöntemleri daha da önem kazanmıştır. Verideki örüntülerin keşfedilmesi, var olan ilişkinin ortaya çıkarılması için veri setinin analize uygun olması gerekmektedir. Bu nedenle veri ön işleme aşaması büyük öneme sahiptir. Veri ön işleme aşamasında karşılaşılan sorunlardan biri kayıp veri sorunudur. Kayıp veri sorunu farklı veri kaynaklarından elde edilen verilerin toplanması sırasında meydana gelen sistematik ya da yazılım kaynaklı sorunlar nedeniyle sıklıkla ortaya çıkan bir durumdur. Makine öğrenmesi yöntemlerin çoğu kayıp veri ile çalışamamaktadır. Bu nedenle modelleme aşamasından önce kayıp gözlemlerin doldurulması büyük bir öneme sahiptir. Makine öğrenmesi yöntemlerinde model başarımı algoritma, parametre ya da performans kriterlerinin belirlenmesinin yanı sıra verinin yapısına da bağlı olmaktadır. Sıklıkla kullanılan algoritmaların pek çoğu veri setinde dengeli sınıf dağılımının olduğunu varsayar fakat hedef değişkenin sınıf dağılımının her zaman birbirine yakın olması beklenemez. Gerçek yaşam verilerinde sınıflandırma problemlerinde sıkça karşılaşılan dengesiz veri seti problemi sınıflar arasında görülen çarpık veri dağılımıdır. Bu çarpıklık nedeniyle model eğitim aşamasında baskın olan sınıfa doğru bir eğilim göstermektedir ve bu nedenle de yanlı sonuçlar elde edilmektedir. Bu çalışmada kayıp gözlem içeren ve sınıf dengesizliğine sahip olan veri setinde farklı kayıp gözlem doldurma yöntemleri kullanılarak topluluk öğrenme yöntemlerinin performanslarının karşılaştırılması amaçlanmıştır. Çalışmada farklı kayıp gözlem doldurma yöntemlerine göre model performanslarında ortaya çıkan farklılık ve farklı yöntemler ile doldurulmuş veri setlerinde kullanılan algoritmaların çeşitliliğine göre sonuçlarda ortaya çıkan farklılıkların belirlenmesi hedeflenmiştir. Bu amaçla çalışmada kayıp gözlem ataması için sıcak deste ataması, ortalama ile doldurma, medyan ile doldurma, mod ile doldurma, çoklu atama, beklenti en büyükleme ve k en yakın komşu yöntemleri ile sınıflandırma için Extra Trees, Random Forest, Gradient Boosting, LightGBM ve XGBoost algoritmaları kullanılmıştır. Sonuç olarak yerine koyma metodu ile atama yapılan veriler ile boosting yöntemlerinin iyi sonuç verdiği görülmüştür.