Low power application specific instruction set processor
Düşük güç tüketimli uygulamaya özel komut seti işlemcisi
- Tez No: 977902
- Danışmanlar: PROF. DR. SIDDIKA BERNA ÖRS YALÇIN, DR. FATİH SAY
- Tez Türü: Doktora
- Konular: Elektrik ve Elektronik Mühendisliği, Electrical and Electronics Engineering
- Anahtar Kelimeler: Mikroçipler, Ön bellek, Microchip, Cache
- Yıl: 2025
- Dil: İngilizce
- Üniversite: İstanbul Teknik Üniversitesi
- Enstitü: Lisansüstü Eğitim Enstitüsü
- Ana Bilim Dalı: Elektronik ve Haberleşme Mühendisliği Ana Bilim Dalı
- Bilim Dalı: Elektronik Mühendisliği Bilim Dalı
- Sayfa Sayısı: Belirtilmemiş.
Özet
Düşük Güç Tüketimli Uygulama Özel Komut Seti İşlemcisi başlıklı bu tez çalışması, derin öğrenme uygulamalarına yönelik olarak tasarlanan donanım ivmelendiricilerin, güç tüketimi, işlem gecikmesi, veri hareketliliği ve sistem entegrasyonu gibi temel tasarım boyutlarında karşılaştığı yapısal zorluklara yönelik çözüm önerileri sunmayı amaçlamaktadır. Özellikle enerji verimliliği gereksinimlerinin ön planda olduğu gömülü sistemler ve uygulama özel işlemciler (ASIP'ler) açısından, derin öğrenme iş yüklerine uygun mimarilerin tasarımı karmaşık ama kritik bir araştırma alanı hâline gelmiştir. Bu çalışma, hem algoritma düzeyinde hem de sistem düzeyinde yapılan eşzamanlı optimizasyonlarla, donanım mimarilerinin hem işlem kapasitesini artırmayı hem de güç tüketimini düşürmeyi hedeflemektedir. Tez kapsamında, derin öğrenme iş yüklerine uygun donanım mimarilerinin tasarlanabilmesi amacıyla iki temel yöntem benimsenmiştir. Birinci yöntemde, verilen yazılım probleminin donanım üzerinde etkin bir şekilde gerçekleştirilebilmesi için yazılım ve donanım birlikte optimize edilmiştir. Bu kapsamda, yazılımda kullanılan algoritmalar donanımda daha verimli işlenebilecek bir yapıya dönüştürülmüş, böylece hızlandırıcı birimlerin performansı artırılmıştır. Bu dönüşüm sürecinde yalnızca donanım tarafındaki hızlanma hedeflenmemiş, aynı zamanda elde edilen sonucun doğruluğundaki kayıplar da dikkatle değerlendirilmiştir. Doğruluk kaybı ile donanım hızlanması arasındaki denge noktası, çeşitli tasarım denemeleri ve optimizasyon çalışmaları ile ortaya konulmuş, böylece donanım-yazılım ortak tasarımının sağladığı avantajlar somut olarak gösterilmiştir. İkinci yaklaşımda ise, çip üzerinde yer alan ortak kaynakların doğru yönetilmesine odaklanmıştır. Özellikle işlemciler ve hızlandırıcı birimler gibi yoğun hesaplama yapan donanım bloklarının kesintisiz çalışabilmesi için bellek elemanlarının verimli kullanımı kritik öneme sahiptir. Bu doğrultuda, bellek yapılarının farklı mimari düzeylerdeki konumları, hiyerarşik düzenleri ve erişim politikaları ayrıntılı bir biçimde incelenmiştir. Bellek hiyerarşisinin tasarım kararları üzerindeki etkileri değerlendirilerek, performans ve enerji tüketimi arasında sağlanabilecek en uygun dengenin bulunmasına çalışılmıştır. Tez kapsamında gerçekleştirilen katkılar üç ana başlık altında toplanabilir. İlk olarak, özellikle tekrarlayan sinir ağlarında (RNN) yaygın olarak kullanılan doğrusal olmayan aktivasyon fonksiyonlarının donanımda etkin biçimde gerçekleştirilmesine yönelik bir çözüm önerilmektedir. Bu amaçla geliştirilen yöntemde, sigmoid ve tanh fonksiyonlarının sabit noktalı hesaplama için optimize edilmiş, LUT (lookup table) tabanlı yeni bir yaklaşık hesaplama yöntemini temel almaktadır. Bu yöntemin temel avantajı, düşük bit genişliğinde çalışmayı mümkün kılmasıdır. Bu sayede hem enerji tüketimi azalmakta hem de işlemcinin kapladığı fiziksel alan daha verimli kullanılabilmektedir. Özellikle gömülü sistemler gibi kaynak kısıtı olan ortamlarda, bu tür aktivasyon fonksiyonu sadeleştirmeleri, sistem genelinde önemli kazançlar sağlayabilmektedir. Donanım-yazılım ortak tasarımı çerçevesinde geliştirilen bu yaklaşım, RNN tabanlı uygulamaların enerji verimli ASIP mimarilerinde kullanılabilmesini desteklemektedir. Tezin ikinci önemli katkısı, konvolüsiyonel sinir ağlarına (CNN) yönelik derin öğrenme ivmelendiricilerinde bellek erişim performansını ve veri aktarım verimliliğini iyileştirmeye odaklanmaktadır. Derin öğrenme modelleri yalnızca hesaplama yoğunluklu değildir; aynı zamanda büyük miktarda verinin, bellekler arasında zamanında ve düzenli aktarımı gerekir. Donanım tasarımında düşük güç tüketimi sağlamak için, yalnızca hesaplama birimlerinin değil, aynı zamanda bellek yapılarının da optimizasyonu gereklidir. Bu bağlamda, geleneksel sistemlerde işlemciler ile paylaşılan son seviye önbellek (LLC) genellikle evrensel bir yapıdadır ve bu durum bazı uygulamalarda bellek bant genişliği darboğazlarına yol açabilmektedir. Bu tez kapsamında önerilen mimari yaklaşımda, LLC'nin tamamı ya da bir kısmı yazılımla yönetilen bir scratchpad belleğe dönüştürülmektedir. Bu dönüşüm, işlemcinin belleği doğrudan ve önceden planlanabilir şekilde kontrol etmesini sağlar. Ek olarak entegre edilen prefetching (ön alma) mekanizması, gerekli verilerin daha önceden taşınmasını mümkün kılarak işlem ile veri transferi işlemlerinin aynı anda yürütülmesini sağlar. Bu yöntem sayesinde, veri bekleme süreleri düşürülmüş, iş birimlerinin aktif kullanım süresi artırılmıştır. Bu tür bir bellek yeniden yapılandırması, CNN tabanlı uygulamalarda özellikle faydalıdır çünkü bu modellerde veri erişim desenleri çalışma zamanından önce belirlenir ve prefetch stratejileriyle uyumludur. Ayrıca, bu mimari yaklaşım paylaşımlı kaynaklara sahip diğer sistemlerde de uyarlanabilir olup, genel sistem verimliliğine katkı sağlar. Üçüncü katkı ise, donanım tasarım sürecinde zaman ve doğruluk arasında denge kurmayı hedefleyen yüksek hızlı bir simülasyon altyapısının geliştirilmesidir. Derin öğrenme hızlandırıcılarının tasarımı sırasında kullanılan cycle-accurate simülatörler, yüksek doğruluk sağlamasına karşın, oldukça yavaş çalıştıkları için büyük ölçekli sistemlerin analizinde verimli değildir. Bu çalışma kapsamında geliştirilen“Simple SoC Model”adlı simülasyon altyapısı, sistem seviyesinde tasarım keşfine olanak tanıyan hızlı ve yapılandırılabilir bir çerçeve sunmaktadır. Bu model, çeşitli bellek hiyerarşilerini, DMA (Direct Memory Access) mekanizmalarını ve ön alma yapılarını parametrik olarak tanımlamaya izin verir. Böylece tasarımcılar, farklı yapılandırmalar altında sistemin enerji ve performans davranışlarını hızla test edebilirler. Geliştirilen simülatör, yalnızca hız açısından değil, aynı zamanda esneklik ve entegrasyon kolaylığı açısından da avantaj sağlamaktadır. Özellikle erken tasarım aşamasında sistemin genel davranışını analiz etmek isteyen sistem mimarları için etkili bir araç olarak öne çıkmaktadır. Sonuç olarak, bu tez çalışması, düşük güç tüketimi ile çalışan uygulama özel işlemci mimarilerinin derin öğrenme uygulamalarına uyarlanmasında bütüncül bir çözüm yaklaşımı önermektedir. Donanım ve algoritma düzeyinde yapılan iyileştirmeler, enerji tüketiminin azaltılması, sistem kaynaklarının daha etkin kullanımı ve tasarım sürecinin hızlandırılması gibi çok yönlü katkılar sunmaktadır. Geliştirilen teknikler; doğrusal olmayan fonksiyon hesaplamalarının sadeleştirilmesi, bellek sistemlerinin yeniden yapılandırılması ve simülasyon araçlarının hızlandırılması gibi çok katmanlı iyileştirmeler sunarak, geleceğin enerji verimli ve yüksek performanslı yapay zeka donanımlarının tasarımına somut katkılar sağlamaktadır. Bu çerçevede sunulan çözümler, yalnızca mevcut sistemlerin verimliliğini artırmakla kalmayıp, aynı zamanda yeni nesil ASIP mimarilerinin daha kısa sürede, daha az kaynakla ve daha yüksek doğrulukla geliştirilmesine olanak tanımaktadır.
Özet (Çeviri)
The increasing need for high-throughput yet energy-efficient computing has shifted attention towards application-specific instruction set processors (ASIPs), especially in domains such as deep learning, where traditional general-purpose architectures fail to meet strict latency and power constraints. This dissertation explores architectural and methodological techniques to enhance the performance and energy efficiency of ASIPs tailored for machine learning inference. The work begins by targeting the computational inefficiencies in non-linear activation functions commonly used in recurrent neural networks. A quantization-aware approximation technique is proposed, enabling low-bitwidth execution while preserving inference accuracy. This method supports efficient deployment of LSTM-based models on ASIPs by eliminating floating-point dependencies and reducing power-hungry arithmetic. To further optimize data locality and reduce memory access energy, this research explores architectural enhancements tailored for convolutional neural network (CNN) accelerators. Specifically, it introduces a reconfigurable memory hierarchy in which the last-level cache is repurposed as a software-managed scratchpad. This transformation, combined with application-aware data prefetching, enables fine-grained control over memory usage and timing. Such memory subsystem customization is particularly beneficial in accelerator-based ASIP designs, where efficient data movement is as critical as compute throughput. The dissertation also presents a high-speed simulation platform that enables rapid evaluation of memory and compute subsystems in ASIP designs. Unlike traditional simulation frameworks that are often too slow for full-system exploration, the proposed method offers orders of magnitude speedup while providing sufficiently accurate modeling of system behavior, enabling iterative design-space exploration and validation. Altogether, this work delivers a holistic framework for designing low-power, application-specific processors by co-optimizing quantization methods, memory hierarchies, and system-level modeling. The proposed techniques contribute to bridging the gap between high-level algorithm design and efficient hardware implementation, supporting future ASIP development for embedded AI workloads.
Benzer Tezler
- Ticari banka yönetimi ve Türk ticari bankalarının temel yönetim sorunları
The management of the commercial bank and the basic problems of the Turkish comercial bank
AYŞE ÇİĞDEM ÖNAL
- Doğrusal kontrol sistemlerinin optimizasyonu
Optimisation of linear control systems
DURMUŞ ÖKMEN
Yüksek Lisans
Türkçe
1997
Makine Mühendisliğiİstanbul Teknik ÜniversitesiMakine Mühendisliği Ana Bilim Dalı
PROF. DR. A. TALHA DİNİBÜTÜN
- İmalat sistemlerinin tasarlanması ve öncelik kurallarının belirlenmesinde yapay sinir ağlarının kullanılması
<the use of neural networks in determination of the manufacturing systems design and dispatching rules
TARIK ÇAKAR
Doktora
Türkçe
1997
İşletmeİstanbul Teknik Üniversitesiİşletme Mühendisliği Ana Bilim Dalı
PROF. DR. AYHAN TORAMAN
- Yüzey kurma probleminin transputer tabanlı sistemlerde paralel çözümü
Başlık çevirisi yok
ZİYA MERT GÜRAY
Yüksek Lisans
Türkçe
1998
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
YRD. DOÇ. DR. COŞKUN SÖNMEZ
- Isı transferi eğitiminin etkileşimli bilgisayar ortamında jawa destekli WEB tarayıcısı formatı kullanılarak gerçekleştirilmesi
Başlık çevirisi yok
TAYFUN DURAN
Yüksek Lisans
Türkçe
1998
Eğitim ve Öğretimİstanbul Teknik ÜniversitesiGıda Mühendisliği Ana Bilim Dalı
DOÇ. DR. Y. ONUR DEVRES
- Avrupa Merkez Bankası'nın oluşumu, para politikası, uygulama sorunları ve Türkiye etkileri
Formation of European Central Bank, its monetary policy, application problems and its effects on Turkey
ALİ POLAT