A comparatıve analysıs of LSTM and XGBoost methods for day ahead electrıcıty prıce forecastıng
Gün öncesi elektrik fiyatı öngörüsü için LSTM ve XGBoost yöntemlerinin karşılaştırmalı analizi
- Tez No: 643223
- Danışmanlar: PROF. DR. AHMET DURMAYAZ
- Tez Türü: Yüksek Lisans
- Konular: Enerji, Makine Mühendisliği, Energy, Mechanical Engineering
- Anahtar Kelimeler: Kısa dönemli öngörü, Yapay sinir ağları, Short-term forecasting, Artificial neural networks
- Yıl: 2020
- Dil: İngilizce
- Üniversite: İstanbul Teknik Üniversitesi
- Enstitü: Enerji Enstitüsü
- Ana Bilim Dalı: Enerji Bilimi ve Teknolojileri Ana Bilim Dalı
- Bilim Dalı: Enerji Bilim ve Teknoloji Bilim Dalı
- Sayfa Sayısı: Belirtilmemiş.
Özet
Yapay sinir ağı modelleri, öngörülü modelleme çalışmalarının geliştirilmesinde önemli bir yere sahiptir. Bu tezde, son yıllarda birçok makine öğrenimi yarışmasında başarılı olan Extreme Gradient Boosting (XGBoost) algoritması kullanılarak, bir gün öncesi elektrik piyasa takas fiyatı (MCP) tahmin modeli geliştirilmiştir. Bu model, başka bir makine öğrenme algoritması olan Uzun Kısa Süreli Bellek (LSTM) tabanlı fiyat tahmin modeli ile karşılaştırılmıştır. XGBoost, düzenli karar ağacı ve degrade iniş yöntemlerinin öğrenme yeteneğini güçlendiren tekrarlayan bir yöntemdir. Doğruluğu artırmak için, hesaplama gücünün sınırları ağaç tabanlı karar algoritmalarında zorlanır. Öte yandan LSTM, zaman serisi tahminlerinde kullanılan tekrarlayan sinir ağlarıdır. LSTM, zamansal bilgiyi taşıyarak gradyan problemine bir çözüm sunduğundan, zaman serisi problemlerinde sıklıkla tercih edilir. Bu nedenle, LSTM eğitim verilerinin karıştırılmaması tercih edilir. İnsan beyni ve tekrarlayan sinir ağları arasında bir paralellik kurabiliriz. Geri bildirim sistemleri olan karmaşık bir nöron ağı vardır. Bu ağlar kalıpları, davranışları ve esasen ardışık zaman serisi verilerini öğrenebilir. Bu tez çalışması sırasında, MCP tahmini için XGBoost ve LSTM modelleri Python kullanılarak geliştirilmiştir. Makine öğrenimi uygulamasında TensorFlow ve Keras kütüphaneleri kullanılmıştır. Farklı katman yapılarına sahip 28 LSTM modeli ve değişken parametreler kullanılarak geliştirilen 50 XGBoost modeli eğitilmiş ve doğrulukları tarihi verilerle test edilmiş, sonuçlar rapor edilmiş ve karşılaştırma için en iyi performans gösteren LSTM ve XGBoost modelleri seçilmiştir. Tez çalışmasında, test verilerinde ilk seçilen modellerin performansları seçilen ölçüm kriterlerine göre ölçülmüş, karşılaştırılmalı olarak analiz edilmiş ve raporlanmıştır. Ayrıca her iki modelin çıktıları her gün 02-30 Nisan 2020 dönemi için kaydedilmiş ve tez çalışmasının bir parçası olarak rapor edilmiştir. Aylık hata kriterlerine ek olarak, 02-30 Nisan'da 696 saatin her biri için hesaplama hatası verilerinin dağılımı histogram olarak sunulmuştur.
Özet (Çeviri)
Artificial neural network models have an important place in developing predictive modelling studies. In this thesis, a day ahead electricity market clearing price (MCP) prediction model has been developed using the Extreme Gradient Boosting (XGBoost) algorithm, which has been successful in many machine learning contests in recent years. This model has been compared to another machine learning algorithm, a Long Short-Term Memory (LSTM) based MCP prediction model. XGBoost is a repetitive method that strengthens the learning ability of regular decision tree and gradient landing methods. To increase accuracy, the limits of computing power are forced in tree-based decision algorithms. LSTM, on the other hand, are recurrent neural networks used in time series estimates. Since LSTM offers a solution to the gradient problem by carrying the temporal information, it is often preferred in time series problems. Hence, LSTM training data is preferred to be not shuffled. We can establish a parallel between the human brain and recurrent neural networks. There is a complex neuron network with feedback systems. These networks can learn patterns, behaviors and essentially any successive time series data. In this thesis study, XGBoost and LSTM models have been developed using Python. TensorFlow and Keras libraries have been used in the application of machine learning. 28 LSTM models with different layer structures and 50 XGBoost models developed using variable parameters have been trained, and accuracy has been tested with historic data, the results are reported and the best performing LSTM and XGBoost models are selected for comparison. Furthermore, the performances of the models selected first on the test data have been measured and reported according to the selected measurement criteria. In addition, the outputs of both models have been recorded every day for the period of 02-30 April 2020 and reported as part of the thesis study. In addition to the monthly error criteria, the distribution of the calculation error data for each of the 696 hours in 02-30 April 2020 is presented as histogram.
Benzer Tezler
- A comparative study of classical and machine learning approaches for time series forecasting: An empirical analysis on exports in turkey
Zaman serilerinin tahminlenmesinde klasik ve makine öğrenmesi yaklaşımlarına yönelik karşılaştırmalı bir çalışma: Türkiye'nin ihracatı üzerine deneysel bir analiz
EDA GÜNEL
Yüksek Lisans
İngilizce
2020
EkonometriOrta Doğu Teknik Üniversitesiİstatistik Ana Bilim Dalı
DOÇ. DR. CEYLAN YOZGATLIGİL
- Hava kalitesi tahmininde derin öğrenme modellerinin karşılaştırmalı analizi
Comparative analysis of deep learning models in air quality prediction
CANSU ÇALIK
Yüksek Lisans
Türkçe
2022
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve KontrolEskişehir Osmangazi ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DR. ÖĞR. ÜYESİ EFNAN ŞORA GÜNAL
- Yinelemeli sinir ağları ile sermaye piyasası yön tahmini üzerine bir çalışma
A study on direction prediction of capital markets with recurrent neural networks
MUHİDDİN ÇAĞLAR EREN
Yüksek Lisans
Türkçe
2022
Endüstri ve Endüstri Mühendisliğiİstanbul Teknik ÜniversitesiEndüstri Mühendisliği Ana Bilim Dalı
PROF. DR. ALP ÜSTÜNDAĞ
- Identification of object manipulation anomalies for service robots
Servis robotları için nesne etkileşim anomalilerinin tanısı
DOĞAN ALTAN
Doktora
İngilizce
2021
Bilgisayar Mühendisliği Bilimleri-Bilgisayar ve Kontrolİstanbul Teknik ÜniversitesiBilgisayar Mühendisliği Ana Bilim Dalı
DOÇ. DR. SANEM SARIEL UZER
- Büyük veri ve makine öğrenmesi kullanılarak elektrik tüketim örüntülerinin çıkarılması
Extracting electricity consumption patterns using big data and machine learning
FATİH ÜNAL
Doktora
Türkçe
2022
EnerjiFırat ÜniversitesiEnerji Sistemleri Mühendisliği Ana Bilim Dalı
PROF. DR. SAMİ EKİCİ