FPGA üzerinde diferansiyel gelişim algoritması ile yapay sinir ağı eğitimi

Abstract

İleri yönlü yayılım ve eğitim algoritmalarındaki yoğun işlem yüküne sahip Yapay Sinir Ağlarının (YSA) donanım olarak tümdevre veya gömülü sistem üzerinde gerçeklenmesi, hızlı ve ağın yapısına uygun paralel tasarımlar sağlamasından dolayı yazılım uygulamalarına göre tercih edilmektedir. Tezde YSA'nın ileri yönlü yayılım işlemlerinin ve eğitim sürecinin gömülü sistem üzerinde tasarımı gerçekleştirilmiştir. Esnek tasarım özelliklerine, programlanabilir ara bloklara ve paralel işlem yeteneğine sahip Alan Programlanabilir Kapı Dizileri (FPGA: Field-Programmable Gate Array), zaman ve maliyetten önemli kazanımlar sağlaması nedeniyle yoğun paralel yapıya ve işlem yüküne sahip YSA için kullanılacak en uygun platformlardan biridir. YSA eğitim ve test süreçlerinin tasarımı hedeflenen gömülü sistem üzerinde tamamen sayısal olarak gerçekleştirilmesi sağlamıştır. YSA'ların eğitim işlemi yapılırken, yerel minimumlara takılma riski, gradyen tabanlı algoritmalara göre daha az olan sezgisel algoritmalardan, Diferansiyel Gelişim Algoritması (DGA) kullanılmıştır. Tez dört temel aşamadan oluşmaktadır. Birinci aşamada optimizasyon için kullanılacak olan DGA MATLAB ortamında, ileride donanımda kullanılacağı düşünülerek gerçeklenmiş ve iki bilinmeyenli bir denklem ile doğruluğu gözlenmiştir. İkinci aşamada bu algoritmanın YSA eğitimi için uygun olup olmadığını gözlemlemek amacıyla MATLAB ortamında Konik Kesit Fonksiyonlu Sinir Ağı (KKFSA) ve Çok Katmanlı Algılayıcı (ÇKA) ağlarının eğitimi gerçeklenmiş ve çok boyutlu, doğrusal olmayan bir problem olan imza tanıma veri kümesi ile analiz edilmiştir. Daha sonraki aşamada DGA'nın donanım için uygun olup olmadığını gözlemlemek için FPGA'de gerçeklenmiş ve iki bilinmeyenli bir denklem optimizasyonu yapılmıştır. Son aşamada ise, FPGA üzerinde eğitim için tasarlanan bir ÇKA yapısının eğitim işlemi, DGA ile FPGA üzerinde gerçeklenmiştir. İleri yönlü YSA ve optimizasyon algoritmasının FPGA üzerinde tasarımında, hesaplamalarda sağladığı hassaslıktan dolayı kayan noktalı sayı formatı kullanılmıştır.