Çok değişkenli bernoulli dağılımı ile değişken seçimi için özgün bir bayesçi çıkarım yöntemi ve uygulamaları
A novel bayesian inference method for variable selection using multivariate bernoulli distribution and its applications
- Tez No: 998807
- Danışmanlar: PROF. DR. GÜLAY BAŞARIR, PROF. DR. MEHMET GÖNEN
- Tez Türü: Doktora
- Konular: İstatistik, Statistics
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2026
- Dil: Türkçe
- Üniversite: Mimar Sinan Güzel Sanatlar Üniversitesi
- Enstitü: Lisansüstü Eğitim Enstitüsü
- Ana Bilim Dalı: İstatistik Ana Bilim Dalı
- Bilim Dalı: İstatistik Bilim Dalı
- Sayfa Sayısı: Belirtilmemiş.
Özet
İstatistiksel öğrenme literatüründe, yüksek boyutlu verilerin modellenmesi sürecinde en kritik adımlardan biri, model performansını doğrudan etkileyen etkin değişken seçimidir. LASSO ve grup LASSO gibi literatürde yaygın kullanılan deterministik düzenlileştirme yöntemleri, katsayıları sıfıra yaklaştırarak seyreklik (sparsity) sağlasa da, tam seyreklik elde etmede yetersiz kalabilmektedir. Öte yandan, çivi ve kütük (spike-and-slab) gibi Bayesçi değişken seçimi yaklaşımları, genellikle değişkenlerin birbirinden bağımsız seçildiği varsayımına dayanmakta olup, bu durum değişkenler arası bağımlılık yapısının dikkate alınmamasına yol açmaktadır. Bu tez çalışmasında, değişkenler arasındaki istatistiksel bağımlılıkları ve birlikte seçilme ya da seçilmeme eğilimlerini doğrudan modelleyen, çok değişkenli Bernoulli (MVB) dağılımını temel alan Bayesçi değişken seçimi yöntemi önerilmiştir. Geliştirilen yaklaşımda, değişkenlerin veya değişken gruplarının modele dahil edilme durumları, çok değişkenli Bernoulli dağılımına sahip ikili göstermelik değişkenler aracılığıyla temsil edilmektedir. Bu yapı, değişken seçimini sadece marjinal olasılıklar üzerinden değil, değişkenlerin etkileşimlerini de içeren ortak bir olasılık yapısı üzerinden gerçekleştirmektedir. Model parametrelerinin kestirimi için hesaplama açısından daha etkin olan varyasyonel çıkarım yöntemi kullanılmıştır. Önerilen yöntem, doğrusal regresyon ve sınıflandırma problemlerinden başlayarak; grup yapısına sahip veriler, çok çıktılı regresyon ve çok etiketli sınıflandırma problemlerine uyarlanmıştır. Ayrıca, doğrusal olmayan ilişkilerin modellendiği çoklu çekirdek öğrenimi problemlerine genişletilerek yöntemin kapsamı daha da artırılmıştır. Buna ek olarak, tüm modeller için MVB dağılımının parametrelerinin de veriden öğrenildiği tam Bayesçi versiyonlar geliştirilmiştir. Yöntemin performansı, yapay olarak üretilmiş veri kümelerinin yanı sıra birleşim bölgeleri (splice sites) ve kolon kanseri analizi gibi gerçek hayat problemleri üzerinde test edilmiştir. Elde edilen deneysel sonuçlar, önerilen Bayesçi ve tam Bayesçi modellerin, literatürdeki deterministik yöntemlere kıyasla daha kararlı bir değişken seçimi yaptığını, tam seyreklik sağladığını ve özellikle kısıtlı veri senaryolarında dahi yüksek performans gösterdiğini ortaya koymuştur.
Özet (Çeviri)
In the statistical learning literature, one of the most critical steps in the process of modeling high-dimensional data is effective variable selection, which directly affects model performance. Although deterministic regularization methods widely used in the literature, such as LASSO and group LASSO, provide sparsity by shrinking coefficients towards zero, they may remain insufficient in achieving exact sparsity. On the other hand, Bayesian variable selection approaches, such as Spike-and-Slab, generally rely on the assumption that variables are selected independently of each other, which leads to the neglect of the dependency structure among variables. In this thesis study, a Bayesian variable selection method based on the multivariate Bernoulli (MVB) distribution, which directly models the statistical dependencies and tendencies of joint selection or non-selection among variables, is proposed. In the developed approach, the inclusion status of variables or variable groups in the model is represented via binary indicator variables following a multivariate Bernoulli distribution. This structure performs variable selection not only through marginal probabilities but also through a joint probability structure that includes the interactions of the variables. For the estimation of model parameters, the variational inference method, which is computationally more efficient, is used. The proposed method has been adapted to data with group structure, multi-output regression, and multi-label classification problems, starting from linear regression and classification problems. Additionally, the scope of the method has been expanded by extending it to multiple kernel learning problems where non-linear relationships are modeled. In addition to this, full Bayesian versions, where the parameters of the MVB distribution are also learned from the data, have been developed for all models. The performance of the method has been tested on high-dimensional synthetic data sets as well as real-life problems such as splice sites and colon cancer analysis. The experimental results obtained have revealed that the proposed Bayesian and full Bayesian models perform a more stable variable selection compared to the deterministic methods in the literature, provide exact sparsity, and demonstrate high performance even in limited data scenarios.
Benzer Tezler
- Large deflections of non-linear bi-modulus functionally graded beams under different boundary and loading conditions
Doğrusal olmayan çift modüllü fonksiyonel derecelendirilmiş kirişlerin farklı sınır koşulları ve yüklemeler altındaki büyük yer değiştirmeleri
AYHAN HACIOĞLU
Doktora
İngilizce
2023
Makine Mühendisliğiİstanbul Teknik ÜniversitesiMakine Mühendisliği Ana Bilim Dalı
PROF. DR. CEMAL BAYKARA
- Uzaysal nano çubukların statik davranışının yerel olmayan elastisite teorisi ile kesin analitik çözümü
Exact analytical solution for static behavior of spatial nanobeams using nonlocal elasticity theory
ALİ MURTAZA DALGIÇ
Doktora
Türkçe
2026
Makine Mühendisliğiİstanbul Teknik ÜniversitesiMakine Mühendisliği Ana Bilim Dalı
PROF. DR. EKREM TÜFEKCİ
- Multifarious applications and generalizations of some special polynomials
Bazı özel polinomların çeşitli uygulamaları ve genelleştirmeleri
UĞUR DURAN
- Physical investigation of 2d free falling wedge
Serbest düşümlü 2 boyutlu kamanın fiziksel olarak incelenmesi
AHMET MERTCAN YASA
Doktora
İngilizce
2022
Gemi Mühendisliğiİstanbul Teknik ÜniversitesiGemi ve Deniz Teknolojisi Mühendisliği Ana Bilim Dalı
PROF. DR. ABDİ KÜKNER
- Çok değişkenli Bernoulli lojistik modellerde LASSO tahmincileriyle model seçimi
LASSO feature selection in multivariate Bernoulli logistic models
ASLI YAMAN
Yüksek Lisans
Türkçe
2017
İstatistikOndokuz Mayıs Üniversitesiİstatistik Ana Bilim Dalı
PROF. DR. MEHMET ALİ CENGİZ