Adversarial robustness against perceptual and unpredictable attacks in deep neural networks in images
Görüntülerdeki derin sinir ağlarında algılanabilir ve öngörülmeyen saldırılara karşı adversarıal sağlamlık
- Tez No: 828468
- Danışmanlar: YRD. DOÇ. DR. AYÇA KURNAZ TÜRKBEN
- Tez Türü: Yüksek Lisans
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2023
- Dil: İngilizce
- Üniversite: Altınbaş Üniversitesi
- Enstitü: Lisansüstü Eğitim Enstitüsü
- Ana Bilim Dalı: Elektrik ve Bilgisayar Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Elektrik ve Bilgisayar Mühendisliği Bilim Dalı
- Sayfa Sayısı: Belirtilmemiş.
Özet
Derin sinir ağlarının, eğitim verilerindeki düşmanca gürültüler de dahil olmak üzere, düşmanca saldırılara karşı duyarlılığı göz önüne alındığında, algılanan ve öngörülemeyen düşmanca sağlamlığı (örneğin, standart düşmanca eğitim) iyileştirebilir. Öte yandan, Eğitim verilerine eklenen uygunsuz gürültüler, doğruluk-sağlamlık değiş tokuşu olarak bilinen model performansını düşürebilir. Genel görüntü sınıflandırması yeterli ilgiyi görmüş olsa da, görüntü bölümleme, yer işareti algılama ve nesne algılama gibi hassas alandaki görüntü analizi görevleri çok az ilgi görmüştür. Bu çalışmada, geleneksel yöntemlerin algısal saldırılara karşı ciddi bir rakip sağlamlık sorunu olduğunu ve derin sinir ağlarında öngörülemez olduğunu, pratik kullanımlarını sınırladığını, yani eğitilmesi için tüm eğitim örnekleri için sabit ve tekdüze bir gürültü seviyesi oluşturduğunu gösteriyoruz. güçlü bir derin sinir ağı. Yüksek gürültü seviyesi, model performansını önemli ölçüde düşürebilir. Bu sorunu ele almak için, bu çalışma, görüntülerdeki algısal ve öngörülemeyen saldırılara karşı rakip sağlamlık için bir evrişimli sinir ağı ile bağlantılı olarak uyarlanabilir bir uç rakip eğitim yöntemi geliştirdi ve güçlü bir derin sinir ağını eğitmek için örnek uyarlanabilir rakip gürültülerle sonuçlandı. Önerilen araştırma tekniği, mevcut sınıflandırmaya dayalı çekişmeli eğitim yöntemlerinin aksine, kayıplı bir marj stratejisi kullanır, böylece kayıp fonksiyonları iyi tanımlanmışsa, çeşitli uygulamalar için kullanılabilir. Bu çalışma, önerilen stratejiyi, halka açık çeşitli veri kümelerini kullanarak karmaşık derin sinir ağlarına başarıyla uyguladı. Deneysel bulgular, önerilen yöntemin, görüntülerdeki derin sinir ağlarında algısal ve beklenmedik saldırılara karşı rakip sağlamlık alanında oldukça etkili olduğunu göstermektedir. Buna ek olarak, temiz veriler üzerinde tahmin doğruluğunda minimum bozulmadan muzdariptir ve rakip yöntemlerle kabaca aynı miktarda eğitim süresine mal olur.
Özet (Çeviri)
Given deep neural networks' susceptibility to adversarial attacks, including adversarial noises in the training data could improve perceived and unpredictable adversarial robustness (e.g., standard adversarial training). Inappropriate noises added to Training data, on the other hand, can degrade model performance, which is known as the accuracy-robustness trade-off. While overall image classification has received adequate attention, image analysis tasks in the sensitive domain, such as image segmentation, landmark detection, and object detection, have received little attention. In this study, we show that traditional methods have a serious problem of adversarial robustness against perceptual attacks, and are unpredictable in deep neural networks, limiting their practical use, that is, it creates a constant and uniform noise level for all training samples to train a robust deep neural network. A high noise level can significantly degrade model performance. To address this issue, this study developed an adaptive edge adversarial training method in conjunction with a convolutional neural network for adversarial robustness against perceptual and unpredictable attacks in images, resulting in exemplary adaptive adversarial noises for training a strong deep neural network. The suggested research technique, in contrast to existing classification-based adversarial training methods, employs a lossy margin strategy so that, provided the loss functions are well defined, it can be used for a variety of applications. This study successfully implemented their suggested strategy to sophisticated deep neural networks using various publically available datasets. The experimental findings demonstrate that the suggested method is highly effective in the area of adversarial robustness against perceptual and unexpected attacks in deep neural networks in images. In addition, it suffers from minimal degradation in prediction accuracy on clean data and costs roughly the same amount of training time as the competing methods.
Benzer Tezler
- ΧΑΙ IDS: Towards robustness against adversarial attaks in hostile environments
ΧΑΙ IDS: Düşmanca ortamlarda adversaryal saldırılara karşı dayanıklılığa doğru
YASIR ABDULRAHMAN YASIR
Yüksek Lisans
İngilizce
2025
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolBahçeşehir ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DOÇ. DR. YÜCEL BATU SALMAN
- Derin öğrenme tabanlı ön eğitimli görüntü modellerinin saldırılara karşı dayanıklılık analizi
Robustness analysis of deep learning-based pre-trained imagemodels against adversarial attacks
ZÜLKÜF ORHUN ÖZKAYA
Yüksek Lisans
Türkçe
2026
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolFırat ÜniversitesiYazılım Mühendisliği Ana Bilim Dalı
DOÇ. DR. ÖZAL YILDIRIM
- Adversarial robustness and generalization
Hasmane dayanıklılık ve genelleşme
DUYGU SERBES
Yüksek Lisans
İngilizce
2023
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolBoğaziçi ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DR. ÖĞR. ÜYESİ İNCİ MELİHA BAYTAŞ
- Adversarial robustness for deep metric learning
Derin metrik öğrenmesi için hasmane dayanıklılık
EZGİ PAKET
Yüksek Lisans
İngilizce
2024
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolBoğaziçi ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DR. ÖĞR. ÜYESİ İNCİ MELİHA BAYTAŞ
- Adversarial attacks against machine learning algorithms at training stage
Eğitim aşamasındaki ̇makina öğrenme algoritmalarına karşı gerçekleştirilen çekişmeli saldırılar
FAHRİ ANIL YERLİKAYA
Yüksek Lisans
İngilizce
2023
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DOÇ. DR. ŞERİF BAHTİYAR