Interpreting convolutional blocks as feature embedding by template matching for image recognition
Tezin Türü: Yüksek Lisans
Tezin Yürütüldüğü Kurum: Orta Doğu Teknik Üniversitesi, Fen Bilimleri Enstitüsü, ELEKTRİK VE ELEKTRONİK MÜHENDİSLİĞİ ANABİLİM DALI, Türkiye
Tezin Onay Tarihi: 2023
Tezin Dili: İngilizce
Öğrenci: ADA GÖRGÜN
Danışman: Abdullah Aydın Alatan
Açık Arşiv Koleksiyonu: AVESİS Açık Erişim Koleksiyonu
Özet:Pek çok sinir ağının (CNN) başarısının anahtarı olarak bilinen evrişimsel bloklar, yerel özellik çıkarıcı olarak hizmet ederler. Yine de bu tarz yapıların, düşük seviyeden çıkarılan özellikler için yerelleştirilmiş ek açıklamaları olmadığı için, ara katmanların açık denetimi görüntü tanımada büyük bir zorluk haline gelmiştir. Bu tezde, bu sorunun ele alınması için şablon eşleştirme paradigmasına geri dönülmüştür. İlk olarak, yerel semantik özellik yerleştirmeyi daha açık hale getirmek için evrişimsel bloklar, en iyi eşleşen filtreye göre özellik seçimi olarak yeniden formüle edilir. Bu şekilde, grup normalizasyon ve doğrultulmuş lineer birim işlemlerinin birleşiminin bir arg-max optimizasyon problemi olarak yorumlanmasıyla, tipik ResNet bloklarının şablon eşleştirmeyle yerel özellik gömme işlemi gerçekleştirdiği gösterilmiştir. Bununla birlikte, CNN'lerin ara özelliklerini şekillendirmek için, sınıf etiketi bilgilerini kullanarak ara blokların lokal özellik çıktılarını anlamlandıracak bir ara blok yapısı tasarlanmıştır. Bu kavramdan elde edilen getiriler, sınırlı kapasiteli bir modelin (öğrenci) öğrenmesini desteklemek amacıyla güçlü bir modelin (öğretmen) tecrübesinin kullanımını motive eden bilgi damıtması tekniği ile genişletilmiştir. Önceki çıkarımlara takiben, öğretmen modelin bilgisini özellik dönüşümünde kullanabilmek adına, tez dahilinde, öğrenci modele 3 farklı yetenek katacak yeni bir öğrenilebilir ara katman sunulmuştur: i) öğretmen modelin bilgisinden nasıl yararlanılacağını öğrenmek, ii) rahatsız edici ve performans düşürücü bilgileri atmayı sağlamak ve iii) aktarılan bilgiyi sinir ağının daha derinine iletmeyi sağlamak. Bunların yanına ek olarak, ara katmanlarda şablon öğrenmeyi kolaylaştırmak için, öğretmen modelin kararlarına dayalı yeni bir denetim biçimi önerilmiştir. Detaylı deneylerle birlikte, önerilen yöntemlerin etkinliği, görüntü tanıma literatüründe sıklıkla kullanılan pek çok son teknoloji metotları geride bırakarak gösterilmiştir.