Geri Dön

Learning and generalizing finite state automata using higher order recurrent neural networks

Yüksek dereceli yinelenen yapay sinirsel ağlar kullanarak sonlu durumlu özdevimi öğrenme ve genelleme

  1. Tez No: 56892
  2. Yazar: ONUR BOYACI
  3. Danışmanlar: Belirtilmemiş.
  4. Tez Türü: Yüksek Lisans
  5. Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
  6. Anahtar Kelimeler: yinelenen yapay sinirsel ağ, sonlu durumlu özdevim, yüksek dereceli bağlantılar vi, Yapay sinir ağları, recurrent neural network, finite state automata, higher-order connec tions IV, Artificial neural networks
  7. Yıl: 1996
  8. Dil: İngilizce
  9. Üniversite: Orta Doğu Teknik Üniversitesi
  10. Enstitü: Fen Bilimleri Enstitüsü
  11. Ana Bilim Dalı: Bilgisayar Mühendisliği Ana Bilim Dalı
  12. Bilim Dalı: Belirtilmemiş.
  13. Sayfa Sayısı: Belirtilmemiş.

Özet

ÖZ YÜKSEK DERECELİ YİNELENEN YAPAY SİNİRSEL A?LAR KULLANARAK SONLU DURUMLU ÖZDEVİMİ Ö?RENME VE GENELLEME Boyacı, Onur Yüksek Lisans, Bilgisayar Mühendisliği Bölümü Tez Yöneticisi: Assoc. Prof. Dr. Marifi Güler Eylül 1996, 63 sayfa Yüksek dereceli yinelenen yapay sinirsel ağların sonlu durumlu özdevimi öğre nebilme kabiliyeti olduğu kanıtlanmıştı. Özellikle ikinci dereceden üniteler kullanan ağlar bu işte, gerçek zamanlı, ileri-eğitmeli bir algoritma kullanarak başarılı olmuşlardı. Bu tez çalışmasında, çok bilinen bir ikinci-derece yapıyı, öğrenmesini, ve eğitilmesini inceledik. İnceleyip, tanıttıktan sonra, yapısını yüksek dereceli üniteler kullanıp geliştirdik ve örnek gramerlerimize daha iyi çözümler aradık. Yüksek dereceli üniteler koyarak, özdevimin durumları ve girdileri arasındaki kompleks ilişkileri vurguladık ve modellemeye çalıştık. Sonra ağımızı bazı perfor-mans gramerlerindeki dizgileri gramere ait veya değil olarak sınıflandırması için eğittik, yani onu o gramerler için birer sonlu durumlu özdevim olacak şekilde eğittik. Yakınsama ve genelleme gösteren sonuçlarımızı ikinci dereceli ünite ağlarınınki ile karşılaştırdık ve gramer çıkarım probleminde dereceyi arttırmanın etk isini araştırdık. Derece arttırmanın hem yakınsama zamanını azalttığını hemde genelleme performansını arttırdığını gördük. Özellikle ağın test kümesinde yaptığı ortalama hata sayısı biz dereceyi arttırdıkça azaldı. Bu da daha yüksek dereceli modeller için daha iyi bir genelleme performansı anlamına geliyordu. Çalışmanın sonunda, bazı sonuçlar çıkarıldı ve daha ileri çalışma yönü ortaya konuldu.

Özet (Çeviri)

ABSTRACT LEARNING AND GENERALIZING FINITE STATE AUTOMATA USING HIGHER-ORDER RECURRENT NEURAL NETWORKS Boyacı, Onur M.S., Department of Computer Engineering Supervisor: Assoc. Prof. Dr. Marifi Güler September 1996, 63 pages It has been shown that recurrent neural networks have the ability to learn finite state automata from example strings. In particular, recurrent neural networks us ing second-order units have been successful at this task using a real-time, forward training algorithm. In this thesis, we studied the architecture, learning method, and training of a well-known type of second-order recurrent neural network. After examining, and describing it, we enhanced its architecture by adding higher-order connections, and sought for better solutions to the example grammars using the same architecture, and learning methods. By adding higher-order connections, we emphasized and modeled the complex interactions between states and inputs IIIof a recurrent network structure. Then we trained our network to classify strings as belonging or not belonging to some benchmark grammars, i.e., we trained our network to be some finite state automata for those grammars. We compared our results that show the convergence and generalization results to that of second-order nets, and investigated the effects of increasing the order in the grammatical inference problem. We explored the capabilities of such an higher order model in detail, and found that increasing the order helped the net work to improve both its convergence time and its generalization performance. Especially the average number of errors that the network made in the testing set considerably decreased as we increased the order. That meant a better general ization performance for higher order models. Finally, some conclusions are drawn and further directions of study are stated.

Benzer Tezler

  1. A New higher-order binary input neural unit : learning and generalizing effectively via using minimal number of monomials

    Yeni bir ikilik-girdili yüksek-dereceli nöral birim : en az sayıda monamiyal kullanarak öğrenme ve genelleme

    EROL ŞAHİN

  2. Zihinsel engelli bireyler için hazırlanan bilişsel süreç yaklaşımına dayalı sosyal beceri programının etkililiğinin incelenmesi

    The effectiveness of social skills training program based on cognitive process approach for mentally retarded individuals

    İLKNUR ÇİFÇİ

    Doktora

    Türkçe

    Türkçe

    2001

    Eğitim ve ÖğretimAnkara Üniversitesi

    Özel Eğitim Ana Bilim Dalı

    DOÇ. DR. BÜLBİN SUCUOĞLU

  3. İşitme engelli çocuklara sosyal becerilerin öğretilmesinde işbirlikçi öğrenme yöntemi ile sunulan öğretim programının incelenmesi

    Examing the effectiveness of program development for teaching social skills to hearing impairet students based on cooperative learning

    HASAN AVCIOĞLU

    Doktora

    Türkçe

    Türkçe

    2001

    Eğitim ve ÖğretimAnkara Üniversitesi

    Özel Eğitim Ana Bilim Dalı

    PROF.DR. GÖNÜL AÇAMETE

  4. Atelye tipi üretim ortamında işlerin çizelgelenmesi için yapay sinirsel ağ yaklaşımı

    An Artifical neural networks approach to job shop scheduling problem

    ÜMİT ALİ ÖZKAZANÇ

    Yüksek Lisans

    Türkçe

    Türkçe

    1999

    Endüstri ve Endüstri MühendisliğiEskişehir Osmangazi Üniversitesi

    Endüstri İlişkileri Ana Bilim Dalı

    DOÇ. DR. A. SERMET ANAGÜN

  5. İlköğretim okullarındaki öğretmenlerin deprem öncesi ve deprem sonrası öğrenme-öğretme başarıları ile deprem sonrası oluşabilecek değişiklikler

    Learning and teaching performance of the primary school teachers before and after the earthquakes and the possible changes

    MUZAFFER YILDIZ

    Yüksek Lisans

    Türkçe

    Türkçe

    2000

    Eğitim ve ÖğretimMarmara Üniversitesi

    Sınıf Öğretmenliği Ana Bilim Dalı

    DOÇ. DR. SEMRA ÜNAL