УДК 621.311:681.3

КОРОТКОСТРОКОВЕ ПРОГНОЗУВАННЯ ЕЛЕКТРИЧНОГО НАВАНТАЖЕННЯ ЕЛЕКТРОПОСТАЧАЛЬНОЇ КОМПАНІЇ З ВИКОРИСТАННЯМ ШТУЧНОЇ НЕЙРОННОЇ МЕРЕЖІ ГЛИБИННОГО НАВЧАННЯ

П.О. Черненко, докт. техн. наук, В.О. Мірошник, інж.
Інститут електродинаміки НАН України,
пр. Перемоги, 56, Київ-57, 03680, Україна,
е-mail: cher@ied.org.ua

Запропоновано нову архітектуру штучної нейронної мережі глибинного навчання eResNet для короткострокового прогнозування електричного навантаження електропостачальної компанії. Базовими блоками такої архітектури є шари автокодувального типу з обхідними з'єднаннями. Перший шар блока зменшує розмірність даних для виділення найбільш інформативних сигналів, другий – відновлює розмірність. Кожний шар включає нелінійну функцію SELU (scaled exponential linear unit). Обхідні з'єднання спрощують розповсюдження градієнта похибки, що дає змогу однаково ефективно навчати всі шари нейронної мережі. Проведено дослідження впливу розміру навчальної вибірки на точність прогнозування. Похибка MAPE нейронної мережі eResNet становить 3,69 % (у разі навчання на інформації за 11 років), похибка багатошарового персептрона становить 3,85 % (у разі використання інформації за вісім років). Бібл. 13, рис. 3, табл. 1.
Ключові слова: електричне навантаження, короткострокове прогнозування, штучна нейронна мережа, глибинне навчання.

КРАТКОСРОЧНОЕ ПРОГНОЗИРОВАНИЕ ЭЛЕКТРИЧЕСКОЙ НАГРУЗКИ ЭНЕРГОСНАБЖАЮЩЕЙ КОМПАНИИ С ИСПОЛЬЗОВАНИЕМ ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ ГЛУБИННОГО ОБУЧЕНИЯ

П.А. Черненко, докт. техн. наук, В.А. Мирошник, инж.
Институт электродинамики НАН Украины,
пр. Победы, 56, Киев-57, 03680, Украина

При внедрении нового рынка электрической энергии Украины у энергоснабжающих компаний появятся прямые экономические стимулы для повышения точности краткосрочных прогнозов своего потребления. В последнее время благодаря развитию вычислительной техники и наличию огромных объёмов данных большую популярность в задачах классификации образов и прогнозирования приобрели нейронные сети глубинного обучения. В данной работе предложена новая архитектура искусственной нейронной сети глубинного обучения eResNet для краткосрочного прогнозирования электрической нагрузки энергоснабжающей организации. Базовыми блоками такой архитектуры являются слои типа автокодировщика с обходными соединениями. Первый слой блока уменьшает размерность данных для выделения наиболее информативных сигналов, второй слой восстанавливает размерность. Каждый слой включает нелинейную функцию SELU (scaled exponential linear unit). Обходные соединения упрощают распространение градиента погрешности, что позволяет одинаково эффективно обучать все слои нейронной сети. Проведено исследование влияния размера обучающей выборки на точность прогнозирования. Погрешность MAPE нейронной сети eResNet составляет 3,69 % (при обучении на информации за 11 лет), погрешность многослойного персептрона составляет 3,85 % (при использовании информации за 8 лет). Библ. 13, рис. 3, табл. 1.
Ключевые слова: электрическая нагрузка, краткосрочное прогнозирование, искусственная нейронная сеть, глубинное обучение.

Література
1. Про ринок електричної енергії: Закон України від 13.04.2017 р. № 2019-VIII. URL: http://zakon3.rada.gov.ua/laws/show/2019-19 (дата звернення 21.07.2017).
2. Постанова НКРЕКП Про затвердження Правил ринку №307. URL: http://zakon2.rada.gov.ua/laws/show/v0307874-18#n9 (дата звернення 14.03.2018).
3. Черненко П.О., Мартинюк О.В. Декомпозиція добового графіка електричного навантаження енергосистеми та моделювання його складових під час короткострокового прогнозування. Вісник Вінницького політехнічного інституту. 2017. Вип. 135. № 6. С. 86–93.
4. LeCunn Y., Bengio Y., Hinton G. Deep learning. Nature. 2015. Vol. 521. P. 436–444.
5. Amarasinghe K., Marino D.L., Manic M. Deep Neural Networks for Energy Load Forecasting. Proc. 2017 IEEE 26TH International Symposium on Industrial Electronics (ISIE). 2017. P. 1483–1488.
6. Kuo P.H., Huang, C.J. A High Precision Artificial Neural Networks Model for Short-Term Energy Load Forecasting. Energies. 2018. Vol. 11. Issue 1. P. 213–226.
7. He W. Load Forecasting via Deep Neural Networks. Proc. 5TH International Conference On Information Technology And Quantitative Management. 2017. Vol. 122. P. 308–314.
8. Zhang B., Wu J.L., Chang P.C. A multiple time series-based recurrent neural network for short-term load forecasting. Soft Computing. 2018. Vol. 22. Issue 12. P. 4099–4112.
9. Mhaskar H.N., Poggio T. Deep vs. shallow networks: An approximation theory perspective. Analysis and Applications. 2016. Vol.14. Issue 6. P. 829–848.
10. He K.M., Zhang X.Y., Ren S.Q., Sun J. Deep Residual Learning for Image Recognition. Proc. Conference on Computer Vision and Pattern Recognition. 2016. P. 770–778.
11. Veit A., Wilber M., Velongie S. Residual networks behave like ensembles of relatively shallow networks. Proc. Advances in Neural Information Processing Systems 29. 2016. P. 550–558.
12. Klambauer G., Unterthiner T., Mayr A., Hochreiter S. Self-Normalizing Neural Networks. Proc. Advances in Neural Information Processing Systems 30. 2017. P. 971–980.
13. Reddi S.J., Kale S., Kumar S. On the Convergence of Adam and Beyond. ICLR 2018 Conference Submission. URL: https://openreview.net/pdf?id=ryQu7f-RZ

SHORT-TERM ELECTRICAL LOAD FORECASTING FOR THE ELECTRICAL SUPPLY COMPANY WITH DEEP NEURAL NETWORK

P. Chernenko, V. Miroshnyk
Institute of Electrodynamics of the National Academy of Sciences of Ukraine,
Peremohy, 56, Kyiv-57, 03680, Ukraine,
е-mail: cher@ied.org.ua

With liberalization of the electricity market of Ukraine, electricity supply companies will have direct economic incentives to increase the accuracy of hourly load forecasts. Over the past 10 years, significant results achieved in the areas of computer vision, automated control, text and sound processing which outperform human-level. The basis for the breakthrough was a significant increase in computing capabilities, due to modern graphics processors (GPUs), increased the availability of data, the development of more sophisticated machine learning algorithms. We present a new deep learning architecture eResNet for short-term forecasting of the hourly electrical load of the electrical supply company. Basic blocks of this architecture are the layers of the autoencoder type with the shortcut connections. The first layer of the block reduces the dimension of the data, to select the most informative signals, the second layer restores the dimension. Each layer includes a non-linear SELU (scaled exponential linear unit) function. Shortcut connections simplify the error gradient flow, which allows to effectively train all layers of the neural network. The study of the influence of the size of the training set on the accuracy of forecasting conducted. The MAPE of the eResNet is 3.69 % (when training set includes information for 11 years), the error of the multilayer perceptron is 3.85 % (using information for 8 years). References 13, figures 3, table 1.
Key words: electrical load, short-term forecasting, artificial neural network, deep learning.



1. Pro rynok elektrychnoi enerhii: Zakon Ukrainy vid 13.04.2017 r. № 2019-VIII. URL: http://zakon3.rada.gov.ua/laws/show/2019-19 (data zatverdzhennia 21.07.2017).
2. Postanova NKREKP Pro zatverdzhennia Pravyl rynku №307. URL: http://zakon2.rada.gov.ua/laws/show/v0307874-18#n9 (data zatverdzhennia 14.03.2018).
3. Chernenko P.O., Martyniuk O.V. Dekompozytsiia dobovoho hrafika elektrychnoho navantazhennia enerhosystemy ta modeliuvannia yoho skladovykh pid chas korotkostrokovoho prohnozuvannia. Visnyk Vinnytskoho politekhnichnoho instytutu. Vinnytsia, 2017. № 6. Vyp. 135. S. 86–93.
4. LeCunn Y., Bengio Y., Hinton G. Deep learning. Nature. 2015. Vol. 521. P. 436–444.
5. Amarasinghe K., Marino D.L., Manic M. Deep Neural Networks for Energy Load Forecasting. Proc. 2017 IEEE 26TH International Symposium on Industrial Electronics (ISIE). 2017. P. 1483–1488.
6. Kuo P.H., Huang, C.J. A High Precision Artificial Neural Networks Model for Short-Term Energy Load Forecasting. Energies. 2018. Vol. 11. Issue 1. P. 213–226.
7. He W. Load Forecasting via Deep Neural Networks. Proc. 5TH International Conference On Information Technology And Quantitative Management. 2017. Vol. 122. P. 308–314.
8. Zhang B., Wu J.L., Chang P.C. A multiple time series-based recurrent neural network for short-term load forecasting. Soft Computing. 2018. Vol. 22. Issue 12. P. 4099–4112.
9. Mhaskar H.N., Poggio T. Deep vs. shallow networks: An approximation theory perspective. Analysis and Applications. 2016. Vol.14. Issue 6. P. 829–848.
10. He K.M., Zhang X.Y., Ren S.Q., Sun J. Deep Residual Learning for Image Recognition. Proc. Conference on Computer Vision and Pattern Recognition. 2016. P. 770–778.
11. Veit A., Wilber M., Velongie S. Residual networks behave like ensembles of relatively shallow networks. Proc. Advances in Neural Information Processing Systems 29. 2016. P. 550–558.
12. Klambauer G., Unterthiner T., Mayr A., Hochreiter S. Self-Normalizing Neural Networks. Proc. Advances in Neural Information Processing Systems 30. 2017. P. 971–980.
13. Reddi S.J., Kale S., Kumar S. On the Convergence of Adam and Beyond. ICLR 2018 Conference Submission. URL: https://openreview.net/pdf?id=ryQu7f-RZ