Active learning methods based on statistical leverage scores
İstatistiksel kaldıraç değerlerine dayalı etkin öğrenme metotları
- Tez No: 434199
- Danışmanlar: YRD. DOÇ. DR. ÖZNUR TAŞTAN OKAN
- Tez Türü: Yüksek Lisans
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2016
- Dil: İngilizce
- Üniversite: İhsan Doğramacı Bilkent Üniversitesi
- Enstitü: Mühendislik ve Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Bilgisayar Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: Belirtilmemiş.
Özet
Yapay öğrenme metodlarının gerçek hayattaki birçok uygulamasında bol miktarda etiketlenmemiş veri bulunmasına karşılık etiketlenmiş veriler pahalı ve/veya sınırlı sayıdadır. Bir etkin öğrenici, etiketleme için yararlı örnekler seçerek mümkün olduğunca az etiketli örnek kullanımı ile yüksek doğrulukta bir model elde etmeyi amaçlamaktadır. Bu tezde havuz tabanlı etkin öğrenme kurgusu için iki yeni metot önerilmektedir: Her adımda bir tane etiketlenmemiş örneği seçerek etiketini sorgulayan (tek-seçimli) ALEVS metodu ve her adımda bir grup etiketlenmemiş örneği seçerek etiketlerini sorgulayan (grup-seçimli) DBALEVS metodu. ALEVS ve DBALEVS metodları örneklerin istatistiksel kaldıraç değerlerini kullanarak en etkili örneği/örnekleri seçer. n x n boyutlu bir K çekirdek matrisinin i-inci satırına ait k-kerte istatistiksel kaldıraç değerleri, kolonları K matrisinin üst-k özdeğer vektörlerinden oluşan U matrisinin i-inci satır düzgesinin karesidir. İstatistiksel kaldıraç değerlerinin etkili satırları seçerek düşük-kerte matris yaklaşıklama algoritmalarında yararlı oldukları gösterilmiştir. ALEVS ve DBALEVS metodları örneklerin önemini ölçmek için havuzdaki örnekler kullanılarak hesaplanmış çekirdek matrisinin istatistiksel kaldıraç değerlerini kullanır. Bunlara ek olarak, DBALEVS her adımda bir altmodüler küme fonksiyonunu maksimize ederek etkili, ama etiketlenmiş örneklere ve birbirlerine benzemeyen örnekleri seçmeye çalışır. Farklı verisetleri üzerinde yapılan deneylerle, ALEVS ve DBALEVS metodlarının karşılaştırılan diğer tek-seçimli ve grup-seçimli metodlara kıyasla data etkili yöntemler olduğu gösterilmiştir.
Özet (Çeviri)
In many real-world machine learning applications, unlabeled data are abundant whereas the class labels are expensive and/or scarce. An active learner aims to obtain a model with high accuracy with as few labeled instances as possible by effectively selecting useful examples for labeling. We propose two novel active learning approaches for pool-based active learning setting: ALEVS for querying single example at each iteration and DBALEVS for querying a batch of examples. ALEVS and DBALEVS select the most influential instance(s) based on statistical leverages scores of examples. The rank-k statistical leverage score of i-th row of an n x n kernel matrix K is the squared norm of the i-th row of the matrix U whose columns are the top-k eigenvectors of K. Statistical leverage scores are shown to be useful in matrix approximation algorithms in finding influential rows of a matrix. ALEVS and DBALEVS assess the influence of the examples by the statistical leverage scores of kernel matrix computed on the examples of the pool. Additionally, through maximizing a submodular set function at each iteration DBALEVS selects a diverse a set of examples that are highly influential but are dissimilar to selected labeled set. Extensive experiments on diverse datasets show that the proposed methods, ALEVS and DBALEVS offer more effective strategies in comparison to other single and batch mode active learning approaches, respectively.
Benzer Tezler
- İsmayıl Hakkı Baltacıoğlu'nun kültür ve eğitim kavramı üzerine bir inceleme
An Examination of the concepts of culture and education of Ismayıl Hakkı Baltacıoğlu
ABDULLAH DİKİCİ
Doktora
Türkçe
1986
Eğitim ve ÖğretimUludağ ÜniversitesiEğitim Bilimleri Ana Bilim Dalı
DOÇ. DR. SUAT ANAR
- Cumhuriyet sonrası Türk toplumsal yapı değişimlerinin Ankara Atatürk Bulvarı mekansal yapısında örneklenmesi
Der Ataturk boulevard von Ankara, alsbeispielzu den einflussen der gesellchaftlichen entwicklung der republikanschen Turkeiauf die raumlichen struktur
SARE SAHİL