Combining multiple machine learning algorithms to learn rules and exceptions
Kurallar ve istisnaların öğrenilmesi için birden çok sınıflandırıcının birleştirilmesi
- Tez No: 129448
- Danışmanlar: DOÇ. DR. ETHEM ALPAYDIN
- Tez Türü: Doktora
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
- Anahtar Kelimeler: Algoritmalar, Rex yöntemi, Sınıflandırıcı sistemler, Algorithms, Rex method, Classfier systems
- Yıl: 2002
- Dil: İngilizce
- Üniversite: Boğaziçi Üniversitesi
- Enstitü: Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Bilgisayar Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: Belirtilmemiş.
Özet
ÖZET KURALLAR VE İSTİSNALARIN ÖĞRENİLMESİ İÇİN BİRDEN ÇOK SINIFLANDIRICININ BİRLEŞTİRİLMESİ Bu tez Kıtral-ve-îstisnalar (İngilizce kısaltması REx) isimli bir grup çoğul öğrenme algoritmasının geliştirilmesini içerir. Farklı algoritmalar içerikleri ve öğrenme farklılıkları nedeni ile aynı problem için farklı sınıflandırıcılar oluşturmaktadır. Böylece birden çok sınırlandırıcıyı bir araya getirermek başarıyı arttıracaktır. REx metodlan da birden çok sınırlandırıcıyı kullanmaktadır ve öğrenilecek olan kavramın bir kaç kural ve bunlara uymayan istisnalar ile ifade edilebileceğini öngörmektedir. REx metodları üçe ayrılır; Ardışık, İşbirlikçi ve Karışım çoğul-sınıflandırıcı. Ardışık REx çok-seviyeli bir sınırlandırıcı algoritmasıdır. Bu metod, verilen eğitim kümesi üzerinde bir kural oluşturduktan sonra gerekirse diğer kuralları birbirini takip edecek şekilde oluşturur. Bu kurallarla belli bir güven çerçevesinde öğrenilemeyen örnekler istisna olarak ayrılırlar, işbirlikçi ve Karışım REx metodlan ise tek-seviyelidir. Ardışık REx metoddan farklı olarak tek bir kural ve onun istisnalarından oluşurlar. İşbirlikçi REx metodunda kural tüm uzayda geçerliyken, Karışım REx metodu istisnalara uyguladığı gibi kurala da bir geçerlilik alam koyar. Bu üç metod kabul görmüş çoğul-sınıflandırıcılar ve kendisini oluşturan sınıflandırıcılar ile kıyaslanmıştır. Ayrıca bu metodlar UCI'a ait on veri kümesinde test edilmiş ve sonuçlar bahsi geçen diğer metodlarla kıyaslanmıştır. Yapılan testlerin sonuçlan göstermiştir ki REx metodlan oldukça başarılı sınıflandırma sonuçlan elde etmiş ve bu sonuçlara ulaşırken Adaboost ve Bagging gibi popüler çoğul-sınıflandırıcı metodlarından daha az maliyetle ulaşmıştır.
Özet (Çeviri)
IV ABSTRACT COMBINING MULTIPLE MACHINE LEARNING ALGORITHMS TO LEARN RULES AND EXCEPTIONS This thesis is concerned with development of a group of learning methods, namely REx (Rule-and-Exceptions), which are ensemble methods (composed of multiple learners). Depending on its inductive bias, each algorithm converges to a different classifier and makes errors accordingly. So, they complement each other and an ensemble scheme can outperform its base classifiers. Therefore, combining statistically less correlated base classifiers helps even more. REx algorithms also use this combination principle. These methods use a priori assumption that a concept to be learned can be defined in terms of a few simple rules and exceptions. There are three types of REx; Cascading, Collaborative and Mixture REx. Cascading REx is a multistage ensemble, focusing not only on accuracy but also cost. It tries to fit a few rules to the training set in a cascaded order. After learning a few rules at different stages, samples failing at all confidence tests are extracted as exceptions. Collaborative and Mixture REx methods are single-stage ensembles. These methods consist of single rule and its exceptions. In Collaborative REx, the rule is valid for the whole input space, whereas, Mixture REx defines an expertise area not only for exceptions but also for the rule. The REx algorithms are analyzed and compared with well-known ensembles, Adaboost and Bagging, and base classifiers. Empirical studies on ten UCI data sets show that REx algorithms get highly accurate results at low costs.
Benzer Tezler
- Using multiple sources of information for constraint-based morphological disambiquation
Değişik bilgi kaynakları kullanarak biçimbirimsel birikleştirme
GÖKHAN TÜR
Yüksek Lisans
İngilizce
1996
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİhsan Doğramacı Bilkent ÜniversitesiY.DOÇ.DR. KEMAL OFLAZER
- Combining multible classifiers for pen-based handwritten digit recognition
Kalem tabanlı elle yazılmış rakam tanıma için sınıflandırıcıların birleştirilmesi
FEVZİ ALİMOĞLU
Yüksek Lisans
İngilizce
1996
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolBoğaziçi ÜniversitesiY.DOÇ.DR. ETHEM ALPAYDIN
- Prediction of protein subcellular localization using global protein sequence feature
Evrensel protein dizi özelliğinin kullanılarak protein hücresel sınıflandırılmasının tahmini
BURÇİN BOZKURT
Yüksek Lisans
İngilizce
2003
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolOrta Doğu Teknik ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DOÇ. DR. VOLKAN ATALAY
- Krep teksture teknolojisi
Crepe texturing technology
SERDAR ALEMDAR
Yüksek Lisans
Türkçe
1995
Tekstil ve Tekstil Mühendisliğiİstanbul Teknik ÜniversitesiPROF.DR. ALİ DEMİR
- Dönel simetrik elemanların modüler tasarımı CAM-CNC integrasyonu ve simülasyonu
Modular design, CAM-CNC integration and simulation of rotational parts
HAKAN MESTÇİ