Meta-sezgisel algoritmalar ile konvolüsyonel sinir ağı mimarisinin hiper parametrelerinin optimizasyonu
Optimization of hyper parameters of convolutional neural network architecture with meta-heuristic algorithms
- Tez No: 736372
- Danışmanlar: PROF. DR. ŞAKİR TAŞDEMİR
- Tez Türü: Yüksek Lisans
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
- Anahtar Kelimeler: Evrişimli sinir ağları, Yapay arı kolonisi algoritması, Öğrenme, Öğretme, Convolutional neural networks, Artificial bee colony algorithm, Learning, Teaching
- Yıl: 2022
- Dil: Türkçe
- Üniversite: Selçuk Üniversitesi
- Enstitü: Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Bilgisayar Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: Belirtilmemiş.
Özet
Konvolüsyonel Sinir Ağları (KSA) özellikle görüntü işleme alanında sıklıkla kullanılan bir derin öğrenme algoritmasıdır. KSA evrişim katmanı, havuzlama katmanı, aktivasyon fonksiyonları ve tam bağlantılı sinir ağlarından oluşmaktadır. KSA tasarımında kullanılan katman sayısı, filtre boyutu, aralık değeri, dolgu yöntemi vb. hiperparametreler ağın başarısı ile doğrudan ilişkilidir. Meta-sezgisel optimizasyon algoritmaları, problemden bağımsız olarak çalışabilen doğa, sürü davranışları, fizik, kimya ve evrim teorisi vb. durumlardan esinlenilerek geliştirilmiş algoritmalardır. Bu çalışmada, filtre sayısı, boyutu, aktivasyon fonksiyonu, havuzlama algoritması, tam bağlantılı katman sayısı, nöron sayısı, öğrenme oranı farklı meta-sezgisel algoritmalar ile belirlenmiştir. Yapay Arı Kolonisi (YAK), Öğretme Öğrenme Temelli Optimizasyon (ÖÖTO), JAYA ve Sosyal Grup Optimizasyon (SGO) meta-sezgisel algoritmaları kullanılarak KSA Mimarilerinin optimum bir şekilde tasarlanmıştır. Aday mimariler CIFAR10 veri seti üzerinde sınıflandırma işlemi gerçekleştirmektedir. KSA mimarilerinin test doğruluk miktarları amaç fonksiyonu olarak kabul edilmiştir. Meta-sezgisel algoritmalarda kullanılan amaç fonksiyonu aday mimarilerin eğitimi sonucu elde edilen doğruluk oranı seçilmiştir. Ayrıca YAK, ÖÖTO, SGO ve JAYA algoritmalarından elde edilen sonuçlar karşılaştırılmıştır. YAK ile KSA tasarımında iterasyonlar sonucunda %94.61'lik bir doğruluk oranı elde edilmiştir. YAK ile maksimum doğruluk oranı 3 derinliğinde elde edilmiştir. ÖÖTO ile %93.97'lik bir doğruluk oranı 3 derinliğinde elde edilmiştir. SGO ile %92.96'lık doğruluk oranı 3 derinliğinde elde edilmiştir. Jaya ile %92.68'lik doğruluk oranı 3 derinliğinde elde edilmiştir. Böylece en yüksek başarım oranı YAK algoritması ile edilmiştir.
Özet (Çeviri)
Convolutional Neural Networks (CNN) is a frequently used deep learning algorithm, especiallin image processing. CNN consists of a convolutional layer, coupling layer, activation functions, and fully connected neural networks. The number of layers, filter size, gap value, padding method, etc. used in the CNN design. Hyperparameters are directly related to the success of the network. Meta-heuristic optimization algorithms can work independently of problems such as nature, swarm behavior, physics, chemistry and evolution theory, etc. They are algorithms developed based on situations. In this study, the number of filters, size, activation function, association algorithm, the number of fully connected layers, the number of neurons, and learning rate were determined by different meta-heuristic algorithms. Artificial Bee Colony (ABC), Teaching Learning Based Optimization (TLBO), JAYA, and Social Group Optimization (SGO) meta-heuristic algorithms are optimally designed using CNN Architectures. Candidate architectures perform classification on the CIFAR10 dataset. The accuracy rate obtained as a result of training the objective function candidate architectures used in meta-heuristic algorithms has been chosen. In addition, the performances of ABC, TLBO, SGO, and JAYA algorithms were compared among themselves. As a result of iterations, an accuracy rate of 94.61% was obtained in the design of the CNN with the ABC. Maximum accuracy with ABC was achieved at a depth of 3. An accuracy rate of 93.97% was obtained with the TLBO at depth 3. With SGO, an accuracy rate of 92.96% was obtained at a depth of 3. With Jaya, an accuracy rate of 92.68% was achieved at a depth of 3. Thus, the highest success rate was achieved with the ABC algorithm.
Benzer Tezler
- Diyabetik retinopati teşhisinde geliştirilmiş U-net ve ViT tabanlı hibrit bir bölütleme ve sınıflandırma yaklaşımı
A hybrid segmentation and classification approach based on enhanced U-net and ViT for diabetic retinopathy diagnosis
RAMAZAN İNCİR
Doktora
Türkçe
2026
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolAtatürk ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DOÇ. DR. FERHAT BOZKURT
- Meta sezgisel algoritmalar ile biyolojik sinyallerin işlenmesi
Biological signal processing using metaheuristic algorithms
GÜRSEL KIZILASLAN
Yüksek Lisans
Türkçe
2012
Elektrik ve Elektronik Mühendisliğiİstanbul ÜniversitesiElektrik-Elektronik Mühendisliği Ana Bilim Dalı
YRD. DOÇ. DR. NİYAZİ KILIÇ
- Meta-sezgisel algoritmalar ile karayolu boykesit optimizasyonu
Optimization of highway vertical alighment by meta-heuristic algorithms
SINA ASHERLOU
Doktora
Türkçe
2022
İnşaat MühendisliğiOndokuz Mayıs Üniversitesiİnşaat Mühendisliği Ana Bilim Dalı
DOÇ. DR. ERHAN BURAK PANCAR
PROF. DR. ŞEREF ORUÇ
- Meta-sezgisel algoritmalar ile Trafik Sinyal Optimizasyonu
Traffic Signal Optimization with meta-heuristic algorithms
OLCAY ADIYAMAN
Yüksek Lisans
Türkçe
2023
Elektrik ve Elektronik MühendisliğiKayseri ÜniversitesiElektrik-Elektronik Mühendisliği Ana Bilim Dalı
DOÇ. DR. ALİ DURMUŞ
- Meta-sezgisel algoritmalar ile kriptografik boole fonksiyonlarının tasarımı
Design of cryptographic boolean functions with meta-heuristic algorithms
EROL ÖZÇEKİÇ
Doktora
Türkçe
2024
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolKarabük ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DOÇ. DR. HAKAN KUTUCU
PROF. DR. SELÇUK KAVUT