Gpu sunucular üzerinde çalışan derin öğrenme tabanlı dağıtık ve ölçeklenebilir gerçek zamanlı video analitik platformu
Distributed and scalable deep learning analytics real-time video streaming platform running on gpu servers
- Tez No: 985074
- Danışmanlar: PROF. DR. RÜYA ŞAMLI, PROF. DR. SELÇUK SEVGEN, DOÇ. DR. BETÜL AY
- Tez Türü: Doktora
- Konular: Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrol, Computer Engineering and Computer Science and Control
- Anahtar Kelimeler: Belirtilmemiş.
- Yıl: 2025
- Dil: Türkçe
- Üniversite: İstanbul Üniversitesi-Cerrahpaşa
- Enstitü: Lisansüstü Eğitim Enstitüsü
- Ana Bilim Dalı: Bilgisayar Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Bilgisayar Mühendisliği Bilim Dalı
- Sayfa Sayısı: Belirtilmemiş.
Özet
Bu doktora tezi, şehir güvenliği, endüstriyel otomasyon ve otonom sistemler gibi kritik alanlarda gerçek zamanlı video analitiği ihtiyacına yenilikçi bir çözüm sunmaktadır. Geleneksel yöntemlerin karşılaştığı ölçeklenebilirlik, düşük gecikme ve yüksek verimlilik zorluklarını aşmak amacıyla DiVA (Distributed Video Analytics) platformu geliştirilmiştir. Çok boyutlu ve karmaşık video analizi problemlerinde, tüm olası senaryoları kabul edilebilir bir sürede işlemek imkansız olduğundan, derin öğrenme tabanlı yaklaşımlar bu alanda önemli ilerlemeler sağlamaktadır. Literatürde yeni derin öğrenme modelleri ve analitik platformlar geliştirmeye yönelik çalışmalar devam etmekte olup, DiVA bu sürece alternatif ve etkin bir çözüm sunmaktadır. Tez çalışması, dağıtık ve ölçeklenebilir, derin öğrenme tabanlı gerçek zamanlı video analitik platformu DiVA'nın tasarımını, implementasyonunu ve performans değerlendirmesini sunar. DiVA, video akışlarının alınmasından derin öğrenme çıkarımına, karmaşık olay algılamaya ve otomatik ölçeklendirmeye kadar tüm aşamaları entegre bir şekilde yöneten bütünsel bir mimariye sahiptir. Platformun model-agnostik mimarisi, farklı derin öğrenme modellerinin (örn. YOLOv8s) kolayca entegre edilmesini ve değiştirilmesini sağlar. Bu esneklik, yapay zeka alanındaki hızlı gelişmelere adaptasyon açısından kritik bir avantajdır. DiVA'nın Kubernetes tabanlı ölçeklenebilir dağıtım yeteneği, artan video akışı yükleri altında dahi sistemin kararlılığını ve performansını koruyarak maliyet etkin bir operasyonel model sunar. DiVA platformunun çekirdeğindeki YOLOv8s modelinin performansı, farklı donanım (CPU ve GPU) ve yazılım konfigürasyonları altında detaylıca incelenmiştir. Bulgular, GPU'ların CPU'lara kıyasla çok daha yüksek kare hızı (FPS) ve düşük gecikme süreleri sunduğunu göstermiştir. NVIDIA Triton Inference Server ve DeepStream SDK gibi çıkarım çatılarının kullanımı, model sunumu süreçlerini optimize etmede önemli rol oynamıştır. TensorRT ile nicemleme (FP32, FP16, INT8) ve ONNX optimizasyonlarının performansa etkileri de değerlendirilmiştir. FP16 ve INT8 nicemleme teknikleri, kabul edilebilir doğruluk düşüşüyle önemli ölçüde daha yüksek çıkarım hızı sağlamıştır. DiVA'nın gerçek zamanlı video analitiği yetenekleri, RTSP video akışları üzerinde yapılan kapsamlı gecikme ve throughput analizleriyle doğrulanmıştır. Platform, sadece nesne tespiti yapmakla kalmayıp, Karmaşık Olay İşleme (CEP) yetenekleriyle daha yüksek seviyeli olayları algılayabilmektedir. CEP modülü, Temporal Buffer Manager ile entegre çalışarak nesne tespitleri arasındaki zamansal ve mekansal ilişkileri analiz eder ve belirli bir bölgede uzun süre kalma, yasaklı alana giriş veya şüpheli hareketlilik gibi karmaşık olayları otomatik olarak algılar. DiVA platformunun performansı ve yetenekleri, literatürdeki benzer sistemler ile karşılaştırılmıştır. Karşılaştırmalı analizler, DiVA'nın hem FPS hem de gecikme süreleri açısından rekabetçi bir performans sergilediğini ve artan video akışı yükleri altında ölçeklenebilirlik yeteneğinin diğer sistemlere kıyasla daha üstün olduğunu göstermiştir. Bu tez çalışması, gerçek zamanlı video analitiği alanına bütünsel bir platform sunarak, Kubernetes tabanlı Auto-Scaler algoritması ile dinamik yük değişimlerine karşı proaktif ve reaktif ölçeklendirme yetenekleri sağlayarak, Temporal Buffer Manager ve Karmaşık Olay İşleme (CEP) zincirinin entegrasyonu ile operasyonel zekayı artırarak ve modelden bağımsız tasarımı ile gelecekteki araştırmalar için esnek bir temel sunarak önemli bilimsel katkılar sağlamaktadır.
Özet (Çeviri)
This doctoral thesis addresses the critical need for real-time video analytics in areas such as urban security, industrial automation, and autonomous systems. To overcome scalability, low latency, and high efficiency challenges of traditional methods, the DiVA (Distributed Video Analytics) platform was developed. Given the impossibility of processing all complex video analysis scenarios within acceptable timeframes, deep learning-based approaches offer significant advancements. Ongoing research in new deep learning models and analytical platforms continues, and DiVA provides an alternative and effective solution in this evolving landscape. This thesis presents the design, implementation, and performance evaluation of DiVA, a distributed, scalable, deep learning-based real-time video analytics platform. DiVA features a holistic architecture that integrally manages all stages from video stream acquisition to deep learning inference, complex event detection, and automatic scaling. Its model-agnostic architecture allows for easy integration and modification of various deep learning models (e.g., YOLOv8s). This flexibility is crucial for adapting to rapid advancements in AI. DiVA's Kubernetes-based scalable deployment capability ensures system stability and performance under increasing video stream loads, offering a cost-effective operational model. Detailed performance analysis of the core YOLOv8s model within DiVA was conducted across different hardware (CPU and GPU) and software configurations. Findings clearly show GPUs provide significantly higher frame rates (FPS) and lower latency compared to CPUs. Inference frameworks like NVIDIA Triton Inference Server and DeepStream SDK were instrumental in optimizing model serving. Furthermore, the impact of TensorRT quantization (FP32, FP16, INT8) and ONNX optimizations on performance was evaluated. FP16 and INT8 quantization techniques yielded substantially higher inference speeds with acceptable accuracy reductions. DiVA's real-time video analytics capabilities were validated through comprehensive latency and throughput analyses on RTSP video streams, demonstrating its operational effectiveness in real-world scenarios. Beyond object detection, DiVA's Complex Event Processing (CEP) capabilities enable higher-level event detection. The CEP module, integrated with the Temporal Buffer Manager, analyzes temporal and spatial relationships between object detections to automatically identify complex events like prolonged presence, restricted zone entry, or suspicious movement. Comparative evaluations against similar literature systems demonstrated DiVA's competitive performance in both FPS and latency. Notably, DiVA's scalability under increasing video stream loads proved superior. This thesis contributes significantly to real-time video analytics by offering a holistic platform, providing proactive and reactive scaling via its Kubernetes-based Auto-Scaler algorithm, enhancing operational intelligence through CEP and Temporal Buffer Manager integration, and establishing a flexible foundation for future research with its model-independent design.
Benzer Tezler
- Transformer tabanlı derin öğrenme modelinin memekanseri görüntülemesinde kullanımı
Application of a transformer-based deep learning model inbreast cancer imaging
MEHMET ŞEKER
Yüksek Lisans
Türkçe
2025
Elektrik ve Elektronik MühendisliğiTarsus ÜniversitesiElektrik ve Elektronik Mühendisliği Ana Bilim Dalı
DOÇ. DR. MUSTAFA BERKAN BİÇER
- FPGA tabanlı derin öğrenme algoritması ile baskılı devre kusurlarının tespiti
FPGA based printed circuit board defect detection with a deep learning algorithm
ENES EMRE ÖNER
Yüksek Lisans
Türkçe
2025
Elektrik ve Elektronik MühendisliğiBaşkent ÜniversitesiElektrik-Elektronik Mühendisliği Ana Bilim Dalı
DOÇ. DR. SELDA GÜNEY
- Deep learning based dynamic turkish sign language recognition with leap motion
Derin öğrenme tabanlı leap motıon ile dinamik türk işaret dili tanıma
BURÇAK DEMİRCİOĞLU KAM
Yüksek Lisans
İngilizce
2020
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DOÇ. DR. HATİCE KÖSE
- Deep convolutional neural network based representations for person re-identification
Kişiyi yeniden tanıma için derin evrişimsel sinir ağı tabanlı modeller
ALPER ULU
Yüksek Lisans
İngilizce
2016
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DOÇ. DR. HAZIM KEMAL EKENEL
- Multi-Task U-Net Surrogate for Aerodynamic and Aeroacoustic Source Field Prediction of Airfoils
Kanat Profillerinin Aerodinamik ve Aeroakustik Kaynak Alanı Tahmini için Çoklu Görev U-Net Vekil Modeli
YUSUF AKTAŞ
Yüksek Lisans
İngilizce
2026
Uçak Mühendisliğiİstanbul Teknik ÜniversitesiUçak ve Uzay Mühendisliği Ana Bilim Dalı (disiplinlerarası)
DOÇ. DR. BAHA ZAFER