Learning and generalizing finite state automata using higher order recurrent neural networks
Yüksek dereceli yinelenen yapay sinirsel ağlar kullanarak sonlu durumlu özdevimi öğrenme ve genelleme
- Tez No: 56892
- Danışmanlar: Belirtilmemiş.
- Tez Türü: Yüksek Lisans
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
- Anahtar Kelimeler: yinelenen yapay sinirsel ağ, sonlu durumlu özdevim, yüksek dereceli bağlantılar vi, Yapay sinir ağları, recurrent neural network, finite state automata, higher-order connec tions IV, Artificial neural networks
- Yıl: 1996
- Dil: İngilizce
- Üniversite: Orta Doğu Teknik Üniversitesi
- Enstitü: Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Bilgisayar Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: Belirtilmemiş.
Özet
ÖZ YÜKSEK DERECELİ YİNELENEN YAPAY SİNİRSEL A?LAR KULLANARAK SONLU DURUMLU ÖZDEVİMİ Ö?RENME VE GENELLEME Boyacı, Onur Yüksek Lisans, Bilgisayar Mühendisliği Bölümü Tez Yöneticisi: Assoc. Prof. Dr. Marifi Güler Eylül 1996, 63 sayfa Yüksek dereceli yinelenen yapay sinirsel ağların sonlu durumlu özdevimi öğre nebilme kabiliyeti olduğu kanıtlanmıştı. Özellikle ikinci dereceden üniteler kullanan ağlar bu işte, gerçek zamanlı, ileri-eğitmeli bir algoritma kullanarak başarılı olmuşlardı. Bu tez çalışmasında, çok bilinen bir ikinci-derece yapıyı, öğrenmesini, ve eğitilmesini inceledik. İnceleyip, tanıttıktan sonra, yapısını yüksek dereceli üniteler kullanıp geliştirdik ve örnek gramerlerimize daha iyi çözümler aradık. Yüksek dereceli üniteler koyarak, özdevimin durumları ve girdileri arasındaki kompleks ilişkileri vurguladık ve modellemeye çalıştık. Sonra ağımızı bazı perfor-mans gramerlerindeki dizgileri gramere ait veya değil olarak sınıflandırması için eğittik, yani onu o gramerler için birer sonlu durumlu özdevim olacak şekilde eğittik. Yakınsama ve genelleme gösteren sonuçlarımızı ikinci dereceli ünite ağlarınınki ile karşılaştırdık ve gramer çıkarım probleminde dereceyi arttırmanın etk isini araştırdık. Derece arttırmanın hem yakınsama zamanını azalttığını hemde genelleme performansını arttırdığını gördük. Özellikle ağın test kümesinde yaptığı ortalama hata sayısı biz dereceyi arttırdıkça azaldı. Bu da daha yüksek dereceli modeller için daha iyi bir genelleme performansı anlamına geliyordu. Çalışmanın sonunda, bazı sonuçlar çıkarıldı ve daha ileri çalışma yönü ortaya konuldu.
Özet (Çeviri)
ABSTRACT LEARNING AND GENERALIZING FINITE STATE AUTOMATA USING HIGHER-ORDER RECURRENT NEURAL NETWORKS Boyacı, Onur M.S., Department of Computer Engineering Supervisor: Assoc. Prof. Dr. Marifi Güler September 1996, 63 pages It has been shown that recurrent neural networks have the ability to learn finite state automata from example strings. In particular, recurrent neural networks us ing second-order units have been successful at this task using a real-time, forward training algorithm. In this thesis, we studied the architecture, learning method, and training of a well-known type of second-order recurrent neural network. After examining, and describing it, we enhanced its architecture by adding higher-order connections, and sought for better solutions to the example grammars using the same architecture, and learning methods. By adding higher-order connections, we emphasized and modeled the complex interactions between states and inputs IIIof a recurrent network structure. Then we trained our network to classify strings as belonging or not belonging to some benchmark grammars, i.e., we trained our network to be some finite state automata for those grammars. We compared our results that show the convergence and generalization results to that of second-order nets, and investigated the effects of increasing the order in the grammatical inference problem. We explored the capabilities of such an higher order model in detail, and found that increasing the order helped the net work to improve both its convergence time and its generalization performance. Especially the average number of errors that the network made in the testing set considerably decreased as we increased the order. That meant a better general ization performance for higher order models. Finally, some conclusions are drawn and further directions of study are stated.
Benzer Tezler
- A New higher-order binary input neural unit : learning and generalizing effectively via using minimal number of monomials
Yeni bir ikilik-girdili yüksek-dereceli nöral birim : en az sayıda monamiyal kullanarak öğrenme ve genelleme
EROL ŞAHİN
Yüksek Lisans
İngilizce
1994
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolOrta Doğu Teknik ÜniversitesiDOÇ.DR. MARİFİ GÜLER
- Zihinsel engelli bireyler için hazırlanan bilişsel süreç yaklaşımına dayalı sosyal beceri programının etkililiğinin incelenmesi
The effectiveness of social skills training program based on cognitive process approach for mentally retarded individuals
İLKNUR ÇİFÇİ
Doktora
Türkçe
2001
Eğitim ve ÖğretimAnkara ÜniversitesiÖzel Eğitim Ana Bilim Dalı
DOÇ. DR. BÜLBİN SUCUOĞLU
- İşitme engelli çocuklara sosyal becerilerin öğretilmesinde işbirlikçi öğrenme yöntemi ile sunulan öğretim programının incelenmesi
Examing the effectiveness of program development for teaching social skills to hearing impairet students based on cooperative learning
HASAN AVCIOĞLU
Doktora
Türkçe
2001
Eğitim ve ÖğretimAnkara ÜniversitesiÖzel Eğitim Ana Bilim Dalı
PROF.DR. GÖNÜL AÇAMETE
- Atelye tipi üretim ortamında işlerin çizelgelenmesi için yapay sinirsel ağ yaklaşımı
An Artifical neural networks approach to job shop scheduling problem
ÜMİT ALİ ÖZKAZANÇ
Yüksek Lisans
Türkçe
1999
Endüstri ve Endüstri MühendisliğiEskişehir Osmangazi ÜniversitesiEndüstri İlişkileri Ana Bilim Dalı
DOÇ. DR. A. SERMET ANAGÜN
- İlköğretim okullarındaki öğretmenlerin deprem öncesi ve deprem sonrası öğrenme-öğretme başarıları ile deprem sonrası oluşabilecek değişiklikler
Learning and teaching performance of the primary school teachers before and after the earthquakes and the possible changes
MUZAFFER YILDIZ
Yüksek Lisans
Türkçe
2000
Eğitim ve ÖğretimMarmara ÜniversitesiSınıf Öğretmenliği Ana Bilim Dalı
DOÇ. DR. SEMRA ÜNAL