Cluster-based scoring for malicious model detection in federated learning
Federe öğrenmede zararlı modellerin tespiti için kümeleme tabanlı skorlama
- Tez No: 807217
- Danışmanlar: PROF. DR. ARDA YURDAKUL
- Tez Türü: Yüksek Lisans
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2023
- Dil: İngilizce
- Üniversite: Boğaziçi Üniversitesi
- Enstitü: Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Bilgisayar Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: Belirtilmemiş.
Özet
Federe öğrenme, küresel bir model elde etmek için her istemci modelini bir sunucuda toplayan dağıtılmış bir makine öğrenimi tekniğidir. Ancak, bazı istemciler modellerini veya verilerini zehirleyerek küresel modeli istenenden alakasız hale getirebilir ve sisteme zarar verebilir. Bu tez, sunucu için koordinat tabanlı istatistiksel karşılaştırma yoluyla zehirli modelleri tespit etmesi ve bunları birleştirme öncesinde sistemden uzaklaştırması için bir yaklaşım sunmaktadır. Koruma mekanizmasından kaçınmak için zararlı istemcilerin modelin daha az bir kısmını zehirlediği saldırı türü olan Katman Zehirlemesi de tanıtılmıştır. Farklı saldırı türlerine ve ağlara karşı koruma mekanizmasının sağlamlığını teyit etmek için uyarlanabilir eşik değeri uygulanmıştır. Önerilen yöntemin başarımını ölçmek için dağınık bir test ortamı tasarlanmıştır. Bazı istemciler, diğerlerinden daha yavaş öğrense veya enerji sınırlamaları nedeniyle nicelenmiş model parametreleri gönderse bile kötü niyetli cihazları başarılı bir şekilde belirleyebildiğini göstermek için farklı küme boyutlarına sahip, rastgele örneklenmiş bağlantılı veri kümelerini kullanan deneyler yapılmıştır. Ayrıca, koruma sisteminin detaylı analizi için farklı kötü niyetli cihaz sayıları, model türleri ve veri kümeleri ile denenmiştir. Sonuç olarak, sunulan korumanın, zararlı cihazların tüm istemcilere oranı %45'e kadar olduğunda zararlı modelleri tespit edebildiği ve sistemden uzaklaştırabilmeyi başarabildiği görülmüştür. Sunulan çözümün, literatürden alınmış diğer koruma mekanizmalarıyla kıyaslaması yapılmış; bu sistemler ile aynı veya daha fazla koruma sağladığı gözlemlenmiştir.
Özet (Çeviri)
Federated learning is a distributed machine learning technique aggregating every client model on a server to obtain a global model. However, some clients may harm the system by poisoning their model or data to make the global model irrelevant to its objective. This thesis introduces an approach for the server to detect adversarial models by coordinate-based statistical comparison and eliminate them from the system prior to aggregation. A new attack type, layer poisoning, where the malicious nodes prefer poisoning selected small size layers of the model to deceive the detection system, is also introduced. Adaptive thresholding is adopted for preserving the robustness of the detection mechanism for various network against different attack types. A simulation framework is developed to benchmark and realize tests as a distributed system. Experiments that use random sampling of independent and identically distributed (iid) datasets with different batch sizes have been carried out to show that the proposed method can identify the malicious nodes successfully even if some of the clients learn slower than others or send quantized model weights due to energy limitations. The proposed approach is extensively tested with malicious-benign client ratios, model types, and datasets to present its versatility. The results show that the proposed system successfully eliminates the malicious models when their generating clients constitute at most 45% of the network. Comparison with the approaches from the literature shows that the proposed method performs the same as or better than the state of art solutions.
Benzer Tezler
- Anadolu karaçamı (Pinus nigra Arn.ssp.pallasiana Lamb.Holmboe)nın coğrafik varyasyonları
Variabilite geographique de Pinus nigra Arn.ssp.pallasiana Lamb. Holmboe
C. ÜNAL ALPTEKİN
Doktora
Türkçe
1986
Ormancılık ve Orman Mühendisliğiİstanbul ÜniversitesiSilvikültür Ana Bilim Dalı
PROF. DR. SUAD ÜRGENÇ
- Development of sample desing for telephone survey via random digit dialing: A case study for Ankara metropolitan area
Başlık çevirisi yok
AZHAR-US-SAQIB KHAN
- Erzurum ve Erzincan yörelerindeki bazı bitkilerde bulunan eriophyoi dea (acarina:actinedida) akarları üzerinde çalışmalar
Studies an eriophyoid mites (eriophyoidea:acarina) on some plants in Erzurum and Erzincan regions
ÖZDEMİR ALAOĞLU
- Bazı asma çeşitlerinin değişik dönem ve konumlarından alınan yaprak örneklerinde besin maddesi düzeylerinin araştırılması
Başlık çevirisi yok
GÜLSEN ŞAHİN
Yüksek Lisans
Türkçe
1987
ZiraatÇukurova ÜniversitesiBahçe Bitkileri Ana Bilim Dalı
DOÇ. DR. FUAT ERGENOĞLU
- Grup teknolojisi imalat sistemi ve bu sistemin tasarımına yönelik yeni bir metot
Group technology manufacturing systems and a new method oriented to the design of these systems
M. BÜLENT DURMUŞOĞLU
