Comparison of multi-layer perceptron algorithms
Başlık çevirisi mevcut değil.
- Tez No: 29908
- Danışmanlar: YRD. DOÇ. DR. H. LEVENT AKIN
- Tez Türü: Yüksek Lisans
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
- Anahtar Kelimeler: Algoritmalar, Optimizasyon, Yapay sinir ağları, Algorithms, Optimization, Artificial neural networks
- Yıl: 1993
- Dil: İngilizce
- Üniversite: Boğaziçi Üniversitesi
- Enstitü: Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Bilgisayar Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: Belirtilmemiş.
Özet
ÖZET Hata geri yayma ağının öğrenme evresi, bir şarta bağlı olmayan optimizasyon problemi olarak kolaylıkla incelenebilir. Böyle bir problemin çözümü, bağımsız değişkenler serisini sistematik bir şekilde değiştirerek bir hedef fonksiyonunun azaltılmasını veya artırılmasını içerir. Birçok uygulamalarda, yapay sinir ağındaki bağlantı sayısı oldukça fazla olduğundan dolayı, klasik hata geri yayma metodu için öğrenme zamanı oldukça uzun sürer. Sayısal optimizasyon teorisinin sunduğu zengin ve güçlü teknikler sinir ağlarının öğrenme oranını geliştirmek için kolaylıkla uygulanabilir. Bu çalışma dört adet sayısal optimizasyon metodunu (Conjugate Gradient, Quasi-Newton.Levenberg-Marquardt, Nelder-Mead metodları) ve bunların çok katmanlı perseptronlar için uygulanmasını içerir. Bu çalışmada ayrıca dışlamalı- veya öğesi, parite (eşlik) biti, ve düzensiz zaman serileri tahmini problemleri için klasik geri yayma ağı metodu ile sayısal optimizasyon metodlarının karşılaştırma sonuçları da verilmiştir. Dışlamalı-veya öğesi, parite (eşlik) biti, ve düzensiz zaman serileri tahmini problemleri için, kullanılan sayısal optimizasyon metodlarının klasik hata geri yayma metoduna göre daha hızlı olduğu bulunmuştur. Ayrıca, sayısal optimizasyon metodlarının klasik hata geri yayma metoduna göre çok daha az sayıda fonksiyon ve türev hesaplanması gerektirdiği de gözlenmiştir.
Özet (Çeviri)
IV ABSTRACT The learning phase of a backpropagation network can easily be viewed as an unconstrained optimisation problem. The solution of such a problem typically involves modifying a set of independent variables in a systematic fashion to minimise or maximise some objective function. In many applications, the number of interconnects or weights in a neural network is so large that the learning time for the conventional backpropagation algorithm can be excessively long. Numerical optimisation theory offers a rich and robust set of techniques which can be applied to neural networks to improve learning rates. In this work four groups of numerical optimisation methods (Conjugate Gradient Methods, Quasi-Newton Methods, Levenberg-Marquart Method and Nelder-Mead Method) and their application to the multi-layer perceptrons is examined. The results of exclusive-OR, three-bit parity and chaotic time series prediction problems, which compare conventional backpropagation and numerical optimisation methods, are also presented in this work. For exclusive-OR, three-bit parity and chaotic time series prediction problems we found that the above mentioned numerical methods are faster than conventional backpropagation. It was also observed that numerical methods also require much less number of function and gradient evaluations than conventional backpropagation with momentum.
Benzer Tezler
- Asenkron motorun DSP (sayısal işaret işleyici) tabanlı bir kontrol sistemi kullanılarak YSA (yapay sinir ağları) ile performansının arttırılması
The Performance increasing on the induction motor with ann (artifical neural networks) by using a DSP (digital signal processor) based control system
KAYHAN GÜLEZ
Doktora
Türkçe
1999
Elektrik ve Elektronik MühendisliğiYıldız Teknik ÜniversitesiElektrik Mühendisliği Ana Bilim Dalı
PROF. DR. HALİT PASTACI
- İmalat sistemlerinin tasarlanması ve öncelik kurallarının belirlenmesinde yapay sinir ağlarının kullanılması
<the use of neural networks in determination of the manufacturing systems design and dispatching rules
TARIK ÇAKAR
Doktora
Türkçe
1997
İşletmeİstanbul Teknik Üniversitesiİşletme Mühendisliği Ana Bilim Dalı
PROF. DR. AYHAN TORAMAN
- YSA'lı rotorakışı gözlemcilik vektör denetimi
Neural network based rotor-flux observer for vector control
AHMET SELİM SANCAK
Yüksek Lisans
Türkçe
1997
Makine Mühendisliğiİstanbul Teknik ÜniversitesiElektrik Mühendisliği Ana Bilim Dalı
PROF. DR. EMİN TACER
- Combining multible classifiers for pen-based handwritten digit recognition
Kalem tabanlı elle yazılmış rakam tanıma için sınıflandırıcıların birleştirilmesi
FEVZİ ALİMOĞLU
Yüksek Lisans
İngilizce
1996
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolBoğaziçi ÜniversitesiY.DOÇ.DR. ETHEM ALPAYDIN
- Methods of combining multiple classifiers and their application to handwritten digit recognition
Birden çok sınıflandırıcıyı birleştirme yöntemleri ve el yazısı rakam tanıma üzerine uygulamaları
CENK KAYNAK
Yüksek Lisans
İngilizce
1995
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolBoğaziçi ÜniversitesiY.DOÇ.DR. ETHEM ALPAYDIN