Byzantine attack robust federated learning

---

Tezin Türü: Yüksek Lisans

Tezin Yürütüldüğü Kurum: Orta Doğu Teknik Üniversitesi, Enformatik Enstitüsü, Bilişim Sistemleri Anabilim Dalı, Türkiye

Tezin Onay Tarihi: 2021

Tezin Dili: İngilizce

Öğrenci: ECE IŞIK POLAT

Danışman: Altan Koçyiğit

Açık Arşiv Koleksiyonu: AVESİS Açık Erişim Koleksiyonu

Özet:

Federe öğrenmede, katılımcılar yerel verilerini paylaşmadan, toplu olarak, küresel bir modeli eğitirler. Katılımcıların yerel eğitim süreçlerinden elde edilen yerel model parametreleri, global modeli oluşturmak üzere güvenilir bir sunucuda toplanır. Gizliliği korumak adına, güvenilir sunucunun eğitim prosedürü üzerinde hiçbir yetkisi yoktur. Bu nedenle, küresel model, veri zehirlenmesi ve model zehirlenmesi gibi saldırılara karşı savunmasızdır. Bu saldırılara karşı birçok savunma stratejisi önerilmiş olsa da bu stratejiler çoğu zaman federe öğrenmenin karakteristiğiyle uyumlu olmayan güçlü varsayımlarda bulunurlar. Bu çalışmalar çoğunlukla kapsamlı deneysel analizler de yapmamışlardır. Bu tezde, BARFED (Bizans Saldırısına Dayanıklı Federe Öğrenim) adı verilen varsayımdan bağımsız bir savunma mekanizması öneriyorum. BARFED, kötü niyetli katılımcı oranı, katılımcıların verilerinin dağılımları ve gradyan güncelleme benzerliği gibi federe öğrenme ortamı hakkında varsayımda bulunmaz. BARFED, küresel model ile katılımcıların yerel modelleri arasındaki mesafeyi katman bazında inceler ve katılımcıların aykırı değer olması durumuna göre ana model toplama kuralı adımına katılıp katılmayacağına karar verir. Başka bir deyişle, yalnızca model mimarisinin herhangi bir katmanında aykırı değer olarak etiketlenmeyen katılımcılar toplama adımına katılabilir. Data dağılımı, saldırganların organize olup olmadığı gibi birçok yönü kapsayan kapsamlı deneyler yaparak BARFED'in farklı saldırılara karşı güçlü bir savunma sağladığını gösteriyorum.