Neural network topology optimization using estimation of distribution algorithms
Dağılım tahmini algoritmaları kullanarak en uygun yapay sinir ağı yapısının bulunması
- Tez No: 139395
- Danışmanlar: DOÇ. DR. LEVENT AKIN
- Tez Türü: Yüksek Lisans
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2003
- Dil: İngilizce
- Üniversite: Boğaziçi Üniversitesi
- Enstitü: Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Bilgisayar Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: Belirtilmemiş.
Özet
ÖZET DAĞILIM TAHMİNİ ALGORİTMALARI KULLANARAK EN UYGUN YAPAY SİNİR AĞI YAPISININ BULUNMASI Bir yapay sinir ağırım mimarisinin, genelleme performansının ve işleyiş hızının belirlenmesinde çok büyük önemi vardır. Bu yüzden her uygulamaya özgü, eğitim verisini öğrenerek deneme verisi üzerinde genelleme yapabilen en az karmaşık yapının bulunması gerekir. Bununla beraber böyle bir yapının bulunması zordur. Biz bu motivasyonla kendi çalışmamızda, yapay sinir ağı mimarisi uzayı için bir çeşit arama yöntemi geliştirdik. Önce ağ yapılarını kesikli değerlerden oluşan kromo zomlar olarak temsil etmeyi sağlayan bir çeşit direk kodlama mekanizması oluşturduk. Arama mekanizması olarak, genetik algoritmalardan esinlendik fakat genetik operatör olarak, aramaya yön vermek amacıyla, bir çeşit dağılım tahmini algoritması olan Bayesian optimizasyon algoritmasını kullandık. Bayesian optimizasyon algoritmasında kromo zomlar Bayesian ağları kullanılarak temsil edilir. Optimizasyon yöntemimizin başarılı olduğunu, PROBENİ ölçüm setinden aldığımız her biri üç veri setinden oluşan iki sınıflandırma problemi ve iki regresyon problemi üzerinde deneyerek gösterdik. Üzerinde çalıştığımız çoğu veri seti için, optimizasyon yöntemimizin ortaya çıkardığı ağ yapılarının performansı, deneme yanılma yöntemleriyle ya da geleneksel genetik algoritmalar kullanılarak bulunmuş ağların performansına göre daha iyi düzeyde bulundu.
Özet (Çeviri)
IV ABSTRACT NEURAL NETWORK TOPOLOGY OPTIMIZATION USING ESTIMATION OF DISTRIBUTION ALGORITHMS The topology of an ANN has a significant impact on its generalization perfor mance and speed of operation. For this reason, an optimal network topology, the smallest complexity which still allows the network to learn the training data and to generalize over the test data, should be found specific to each application. However, it is difficult to find an optimal topology. With this motivation, in our work, we developed a way of searching in the space of ANN architectures. First, we devised a kind of direct encoding mechanism for representing network topologies as chromosomes. As the search mechanism, we inspired from genetic algorithms but we used Bayesian optimization algorithm (BOA), a kind of estimation of distribution algorithm for guiding the progression, as the genetic operator. In BOA, Bayesian networks are used for representation of chromosomes. The success of our optimization tool was tested on two classification problems and two regression problems, with three data sets in each, from PROBEN1 benchmarking suite. The generalization performances of the obtained networks by our optimization tool are mostly better than the hand designed ones and the ones obtained by using traditional genetic algorithms for most of the data sets used for benchmarking.
Benzer Tezler
- Neural network topology optimization with genetic algorithms using indirect encoding
Yapay sinir ağları yapılarının genetik algoritmalarla dolaylı kodlanarak eniyilenmesi
ERKAN BULUT
Yüksek Lisans
İngilizce
2001
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolBoğaziçi ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DOÇ. DR. H. LEVENT AKIN
- Neural network topology optimization with genetic algorithms
Yapay sinir ağı yapılarının, genetik yordamlar ile en iyilenmesi
BANU BAYRAKTAR
Yüksek Lisans
İngilizce
1996
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolBoğaziçi ÜniversitesiDOÇ.DR. H. LEVENT AKIN
- Maksimum güç noktası izleyicili ve UVM inverterli fotovoltaik sistemin yapay sinir ağları tabanlı kontrolü
ANN-based control of a PV system with maximum power point tracker and SVM inverter
AHMET AFŞİN KULAKSIZ
Doktora
Türkçe
2007
Elektrik ve Elektronik MühendisliğiSelçuk ÜniversitesiElektrik-Elektronik Mühendisliği Ana Bilim Dalı
YRD. DOÇ. DR. RAMAZAN AKKAYA
- Hücresel yapay sinir ağları için iki öğrenme algoritması ve görüntü işleme uygulamaları
Two learning algorithms for cellular neural networks and their image processing applications
SİNAN KARAMAHMUT
Yüksek Lisans
Türkçe
1994
Elektrik ve Elektronik Mühendisliğiİstanbul Teknik ÜniversitesiDOÇ.DR. CÜNEYT GÜZELİŞ
- F(x)-x bağlantılı bir kaotik hücresel yapay sinir ağının numerik olarak incelenmesi
Başlık çevirisi yok
FATİH KAVASLAR
Yüksek Lisans
Türkçe
1995
Elektrik ve Elektronik Mühendisliğiİstanbul Teknik ÜniversitesiDOÇ.DR. CÜNEYT GÜZELİŞ