Low complexity efficient online learning algorithms using LSTM networks
UKSB ağları ile düşük karmaşıklığa sahip verimli çevrimiçi öğrenme algoritmaları
- Tez No: 540531
- Danışmanlar: DOÇ. DR. SÜLEYMAN SERDAR KOZAT
- Tez Türü: Yüksek Lisans
- Konular: Elektrik ve Elektronik Mühendisliği, Electrical and Electronics Engineering
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2018
- Dil: İngilizce
- Üniversite: İhsan Doğramacı Bilkent Üniversitesi
- Enstitü: Mühendislik ve Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Elektrik-Elektronik Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: Belirtilmemiş.
Özet
Bu tezde uzun-kısa soluklu bellek (UKSB) ağları ile verimli çevrimiçi öğrenme algoritmalarını takdim etmekteyiz. İkinci bölümde, UKSB ağlarının kovaryans bilgisini kullanabilen türü olan Co-UKSB ağları ile verimli çevrimiçi öğrenme yöntemlerini incelemekteyiz. Kovaryans bilgisini UKSB ağının kapı yapısında kullanmakla birlikte çeşitli verimli UKSB modelleri sunmaktayız. Eklemeli gradyan güncellemeleri ve ağırlık matrisinin ayrıştırılması ile hesaplama karmaşıklığını düşürebilmekteyiz. Üçüncü bölümde, Co-UKSB ağlarının iletişim ağlarında saldırı tespiti için kullanımını göstermekteyiz. Dördüncü bölümde, Tree-UKSB ağlarının takviyeli sınıflandırılmış ve ikili hali olan BBT-UKSB ağlarını sunmaktayız. Tüm yapının dengeli bir biçimde geliştiği ve UKSB boğumlarının ikili bölündüğü N-li Tree-UKSB ağları için derinlik ve pencereleme etmenlerini takdim etmekteyiz. BBT-UKSB ağlarının hesaplama karmaşıklığını düşrmek için, ağırlık matrislerini ayrıştırmakta, çarpma işlemi yerine enerji verimli bir işlem kullanmakta ve BBT-UKSB ağının ağrılık matrislerinde tanımlı bir dilimleme işlemi tanımlamaktayız. Beşinci bölümde, girdi veri dizisi üzerinde en az sayıda atlamaya dayalı, düşük hesaplama karmaşıklığına sahip bir UKSB ağı sunmaktayız. Ardışık iki zaman arasındaki en uygun atlama mesafesini seçmek için iki adet yöntem üzerinde çalışmaktayız. Her bölümün sonunda, önerilen algoritmaların başarımını gerçek hayattan alınmış veri kümeleri ile yapılmış deneylerle göstermekteyiz.
Özet (Çeviri)
In this thesis, we implement efficient online learning algorithms using the Long Short Term Memory (LSTM) networks with low time and computational complexity. In Chapter 2, we investigate efficient covariance information-based online learning using the LSTM networks known as Co-LSTM networks. We utilize the covariance information into the LSTM gating structure and propose various efficient models. We reduce the computational complexity by applying the Weight Matrix Factorization (WMF) trick and derive the additive gradient based updates. In Chapter 3, we give a practical application of the network intrusion detection using the Co-LSTM networks. In Chapter 4, we propose a boosted binary version of Tree-LSTM networks which we call BBT-LSTM networks. We introduce the depth and windowing factor into the N-ary Tree-LSTM networks where each LSTM node is binarily split and the whole tree architecture grows in a balanced manner. In order to reduce the computational complexity of the BBT-LSTM networks, we apply WMF trick, replace the regular multiplication operator with the energy efficient operator and finally introduce the slicing operation on the BBT-LSTM network weight matrices. In Chapter 5, we propose another low complexity LSTM network based on a minimum number of hopping over the input data sequence. We study two methods to select the appropriate value of the hopping distance. Through an extensive set of experiments using the real-life data sets, we demonstrate the significant increase in the performance of the proposed algorithms at the end of each chapter.
Benzer Tezler
- Yapay sinir ağı uyarlamalı paralel aktif güç filtresi ile harmonik eliminasyonunun MATLAB/SIMULINK ortamında gerçekleştirilmesi
Harmonic elimination using a parallel active power filter adapted with artificial neural networks in MATLAB/SIMULINK environment
MERVE İLHAN ZENGİNAL
Yüksek Lisans
Türkçe
2025
Elektrik ve Elektronik MühendisliğiSakarya ÜniversitesiElektrik-Elektronik Mühendisliği Ana Bilim Dalı
PROF. DR. UĞUR ARİFOĞLU
- Computational aesthetics using machine learning for video game camera direction
Video oyunu kamera yönetimi için makine ögrenmesi ile hesaplamalı estetik
ALİ NACİ ERDEM
Yüksek Lisans
İngilizce
2015
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolOrta Doğu Teknik ÜniversitesiModelleme ve Simülasyon Ana Bilim Dalı
PROF. DR. UĞUR HALICI
- Dikkat eksikliği ve hiperaktivite bozukluğu olan çocukların el yazılarının görüntü işleme teknikleri ile analizi
Analysis of handwriting of children with attention deficit hyperactivity disorder using image processing techniques
ÖZLEM YILDIZ BUDAK
Yüksek Lisans
Türkçe
2025
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolSakarya ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DOÇ. DR. MUHAMMED FATİH ADAK
- Takım çalışması esaslı demontaj hattı işgören atama ve dengeleme problemi için oyun teorisi odaklı yaklaşımlar
Game theory-oriented approaches for multi-manned disassembly line worker assignment and balancing problem
YILDIZ KÖSE
Doktora
Türkçe
2023
Endüstri ve Endüstri Mühendisliğiİstanbul Teknik ÜniversitesiEndüstri Mühendisliği Ana Bilim Dalı
PROF. DR. EMRE ÇEVİKCAN
DR. ÖĞR. ÜYESİ SİNAN ERTEMEL
- Offloading decision with mobility-aware for mobile edge computing in 5G networks
5g şebekesinde mobil kenar bilgi işlem için mobilite bilinci ile aktarma kararları
SAEID JAHANDAR BONAB
Yüksek Lisans
İngilizce
2021
Elektrik ve Elektronik Mühendisliğiİstanbul Teknik ÜniversitesiElektronik ve Haberleşme Mühendisliği Ana Bilim Dalı
PROF. DR. MUSTAFA ERGEN