Yapay sınır ağlarının eğitiminde örneklerin zorluk seviyesine göre sıralanmasının etkisinin incelenmesi

Abstract

Makine öğrenmesinde popüler konulardan olan Planlı Öğrenme (Curriculum Learning) ve Kendini Planlayan Öğrenme (Self paced Learning) eğitim örneklerinin zorluk seviyelerine göre sıralanarak öğreniciye verilmesini önermektedir. Bu konulardaki çalışmalar küçük bir eğitim kümesi ile başlayıp zorluk seviyesine göre yeni örnekler ekleyerek devam etmenin öğrenme performansını geliştirdiğini göstermektedir. Literatürdeki çalışmalarda örneklerin kolaydan zora sıralanmasının yanı sıra zordan kolaya sıralanması ile de daha iyi performans elde edildiği görülmektedir. Bu tez çalışmasının 3. Bölümünde Planlı Öğrenme ve ters versiyonunun birçok uygulama alanına adapte edilmesi için zorluk seviyelerinin otomatik olarak belirlendiği bir yöntem üzerinde çalışılmıştır. Örnekler bu yöntem ile kolaydan zora ve zordan kolaya sıralanarak öğreniciye verilmiş ve elde edilen sonuçlar klasik eğitim metodu ile karşılaştırılmıştır. Karşılaştırmalar sonucunda uygulama alanlarının önemli bir kısmında sıralama yapılan yöntemlerin istatistiksel açıdan anlamlı ve daha başarılı bir performans gösterdiği görülmüştür. Örneklerin kolaydan zora sıralanması ile daha iyi bir performans görülmesi beklenen bir durumken zordan kolaya sıralanması ile de iyi sonuçlar elde etmek şaşırtıcı bir durumdur. Bu nedenle Planlı Öğrenme ve ters versiyonunun her ikisinin de başarılı olmasının altında yatan sebepler üzerine araştırmalar yapılmıştır. Çalışmanın 4. Bölümünde sıralama yapılan yöntemlerin daha başarılı olmasının aslında sıralama yapıyor olmalarından değil eğitim kümesinin aşamadan aşamaya büyüyor olmasından kaynaklandığı öne sürülmüştür. Bu nedenle örneklerin anlamlı bir sıralama ile değil de rastgele düzenli büyüyen kümeler halinde verilmesinin de öğrenme performansını artıracağı düşünülmüştür. Önerilen yöntemin teorik alt yapısı açıklanmış ve uygulama bölümünde önceki yöntemlerle karşılaştırılmıştır. Karşılaştırmalar sonucunda rastgele düzenli büyüyen kümeler yönteminin tüm örneklerin tek aşamada verildiği klasik eğitim metodundan daha başarılı Planlı ve Kendini Planlayan Öğrenme yöntemleri ile yakın bir performans gösterdiği görülmüştür. Teorik ve deneysel çalışmalar neticesinde Planlı Öğrenme ve ters versiyonun ortak özelliği olan büyüyen kümelerle eğitim yönteminin optimizasyon sırasında daha iyi bir yerel minimum bulmayı sağlayan bir özelliğinin olduğu ve bu sebeple tek aşamada gerçekleştirilen eğitimden daha düşük hata oranlarının elde edebildiği sonucuna varılmıştır.