A memory efficient novel deep learning architecture enabling diverse feature extraction on wearable motion sensor data
Giyilebilir hareket algılayıcıları verisi ile kapsamlı öznitelik çıkarma sağlayan bellek verimli yenilikçi bir derin öğrenme mimarisi
- Tez No: 763460
- Danışmanlar: PROF. DR. BİLLUR BARSHAN ÖZAKTAŞ
- Tez Türü: Yüksek Lisans
- Konular: Elektrik ve Elektronik Mühendisliği, Electrical and Electronics Engineering
- Anahtar Kelimeler: Derin öğrenme, Giyilebilir teknoloji, Hareket sensörleri, Kullanıcı tanıma, Deep learning, Wearable technology, Motion sensors, User authentication
- Yıl: 2022
- Dil: İngilizce
- Üniversite: İhsan Doğramacı Bilkent Üniversitesi
- Enstitü: Mühendislik ve Fen Bilimleri Enstitüsü
- Ana Bilim Dalı: Elektrik-Elektronik Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Belirtilmemiş.
- Sayfa Sayısı: Belirtilmemiş.
Özet
Giyilebilir algılayıcı verilerini analiz ederek insan hareketlerini algılamak için temsili öznitelik çıkarmak güncel bir araştırma alanıdır. Bu çalışmada insan aktivitelerini tanımak için giyilebilir hareket algılayıcıları ve derin öğrenme yöntemleri kullanılarak yenilikçi karma bir derin yapay sinir ağı mimarisi öne sürülmektedir. Sunulan yapıda zaman dizisi sinyalleri ve bu sinyallerin zaman-frekans resimleri (spektrogram) sırasıyla modelin paralel halde çalışan uzun-kısa vadeli bellek ve iki boyutlu evrişimsel sinir ağları kollarını beslemek için kullanılmıştır. Önerilen yapının sınıflandırma başarımı, bu alanda yaygın olarak kullanılmakta olan beş farklı mimari olan tek boyutlu evrişimsel yapay sinir ağları, iki boyutlu evrişimsel yapay sinir ağları, uzun-kısa vadeli bellek ağları, standart tek boyutlu karma ağlar ve alternatif tek boyutlu karma ağlar ile karşılaştırılmıştır. Söz konusu altı modelin üstdeğişken ayarları Bayesçi eniyileme kullanılarak yapılmış ve modellerin başarımları iki farklı veriseti kullanılarak elde edilmiştir. Önerilen karma derin yapay sinir ağı yapısı verisetleri üzerinde 95.66% ve 92.95% doğruluk oranlarıyla en iyi ikinci mimari olan iki boyutlu evrişimsel yapay sinir ağları yapısından 2.45% ve 3.18% daha yüksek başarım elde etmiştir. Kullanıcı kimliği tanıma görevi, bu tezde çalışılmış olan bir diğer konudur. Bu görev için öncelikle hareket algılayıcılardan alınan sinyalleri, kullanıcı kimliği tanımak için elverişli ve elverişsiz olarak sınıflandıran bir ikili model geliştirilmiştir. Kullanışlı olarak sınıflandırılan sinyaller, önerilen derin öğrenme yapısı kullanılarak cihaz kullanıcısının kimliğini saptamak için kullanılmıştır. Hareket tanıma ve kimlik tanıma görevleri arasında öğrenme aktarması yapılarak başarım oranlarında kayda değer bir kayıp yaşanmadan modellerin eğitilme süreleri yaklaşık olarak 8.7–17 kat azaltılmıştır. Son olarak, aktivite ve kullanıcı kimliği tanımak için kullanılan bu modellerin bellek gereksinimlerini düşürmek üzerine çalışılmıştır. Öğrenme aktarması, örnekleme katmanları ve sekiz-bit nicemleme yöntemleri uygulanarak modellerin bellek gereksinimleri yaklaşık olarak 17–116 kat azaltılmıştır.
Özet (Çeviri)
Extracting representative features to recognize human activities through the use of wearables is an area of on-going research. We propose a novel hybrid network architecture to recognize human activities through the use of wearable motion sensors and deep learning techniques. The long short-term memory (LSTM) and the 2D convolutional neural network (CNN) branches of the model that run in parallel receive the raw signals and their spectrograms, respectively. We compare the classification performance of the proposed network with five commonly used network architectures: 1D CNN, 2D CNN, LSTM, standard 1D CNN-LSTM, and an alternative 1D CNN-LSTM model. We tune the hyper-parameters of all six models using Bayesian optimization and test the models on two publicly available datasets. The proposed 2D CNN-LSTM architecture achieves the highest average accuracies of 95.66% and 92.95% on the two datasets, which are, respectively, 2.45% and 3.18% above those of the 2D CNN model that ranks the second. User identification is another problem that we have addressed in this thesis. Firstly, we use binary classifier models to detect activity signals that are useful for the user identity recognition task. Useful signals are transmitted to the next module and used by the proposed deep learning model for user identity recognition. Moreover, we investigate feature transfer between the human activity and user identity recognition tasks which enables shortening the training processes by 8.7 to 17 times without a significant degradation in classification accuracies. Finally, we elaborate on reducing the model sizes of the proposed models for human activity and user identity recognition problems. By using transfer learning, pooling layers, and eight-bit weight quantization methods, we have reduced the model sizes by 17–116 times without a significant degradation in classification accuracies.
Benzer Tezler
- Geri dönüştürülebilir atıkların derin öğrenme modelleri ile sınıflandırılması: Veri seti boyutunun etkisi üzerine bir karşılaştırma
Classification of recyclable wastes with deep learning models: A comparison on the effect of dataset size
GAMZE AĞIRTAŞ
Yüksek Lisans
Türkçe
2024
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolSakarya ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DR. ÖĞR. ÜYESİ SERAP ÇAKAR KAMAN
- Öz bilgi destekli derin öğrenme yaklaşımları ile hsg gürültü giderme
Self-ınformation empowered deep learning approaches for hsı denoising
ORHAN TORUN
Doktora
Türkçe
2024
Elektrik ve Elektronik MühendisliğiHacettepe ÜniversitesiElektrik-Elektronik Mühendisliği Ana Bilim Dalı
DOÇ. DR. SENİHA ESEN YÜKSEL ERDEM
PROF. DR. MEHMET ERKUT ERDEM
- Forecasting of produced output electricity in photovoltaic power plants
Foto-voltaik güç santrallarında elektrik üretim tahmini
TARANEH SAADATI
Doktora
İngilizce
2025
Enerjiİstanbul Teknik ÜniversitesiEnerji Bilimi ve Teknolojileri Ana Bilim Dalı
DOÇ. DR. BURAK BARUTÇU
- ArGemma: Gemma'nın Arapçaya uyarlanddırılması için ince ayar ve çok görevli öğrenme mimarisi
ArGemma: A fine-tuning and multi-task learning architecture for adapting Gemma to Arabic
TAHA AL-SELWI
Yüksek Lisans
Türkçe
2026
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolSakarya ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DR. ÖĞR. ÜYESİ SERAP ÇAKAR KAMAN
- A novel artificial intelligence approach to strengthen intrusion detection system for internet of medical things
Medikal nesnelerin interneti için ağa sızmayı algılama sistemini güçlendirmeye yönelik yeni bir yapay zeka yaklaşımı
GÖKHAN AKAR
Doktora
İngilizce
2025
Elektrik ve Elektronik MühendisliğiMarmara ÜniversitesiElektrik ve Elektronik Mühendisliği Ana Bilim Dalı
PROF. DR. MUSTAFA ONAT
DOÇ. DR. ÜNAL ÇAVUŞOĞLU