Применение рекуррентной нейронной сети для моделирования стока рек Европейской Территории России.
Введение
Последние десятилетие стало решающим для развития искусственного интеллекта абсолютно во всех сферах жизни человека. Во многом такой интерес к этой области можно объяснить двумя вещами: Увеличением вычислительной мощности современных компьютеров и доступностью больших объёмов данных о состоянии окружающей среды. Методы машинного обучения применяются как в таких простых вопросах как рекомендация кино на вечер и ценообразование в магазинах, так и в таких сложных как диагностирование раковых опухолей, корректировка движения спутников, прогнозирование котировок акций и т.д. Географические науки, а также входящая в их состав область исследования гидрологии суши, так же ищут решения существующих проблем в применении алгоритмов машинного обучения. Например, глубокое обучение – область машинного обучения, которая основывается на обучении искусственных нейронных сетей – вносит значительные коррективы в современные методики решения таких гидрологических задач как: моделирование стока рек
Оглавление
Введение2
Глава 1. Математическая основа искусственных нейронных сетей4
1.1 Общие представления4
1.2 Виды нейронных сетей и возможности их применения в науках о Земле13
1.3. Особенности архитектуры нейронной сети LSTM25
1.4. Проблемы использования искусственных нейронных сетей28
Глава 2. Применение нейронной сети LSTM в гидрологических задачах35
2.1. Опыт применения LSTM в международной гидрологической практике35
2.2. Сопоставление подходов физико-математического моделирования гидрологических процессов и моделирования с помощью ИНС52
Глава 3. Подготовка исходных данных для запуска модели58
Глава 4. Процесс создания реализации модели суточного стока рек ЕТР на основе рекуррентной нейронной сети LSTM65
Глава 5. Результаты моделирования среднесуточного стока рек ЕТР с помощью модели на основе рекуррентной нейронной сети LSTM81
Заключение93
Список литературы97
Приложения103
Список литературы
Anderson J. A. An introduction to neural networks. – MIT press, 1995.Sharma S., Sharma S., Athaiya A. Activation functions in neural networks //Towards Data Sci. – 2017. – Т. 6. – №. 12. – С. 310-316.Sibi P., Jones S. A., Siddarth P. Analysis of different activation functions using back propagation neural networks //Journal of theoretical and applied information technology. – 2013. – Т. 47. – №. 3. – С. 1264-1268.Pinkus A. Approximation theory of the MLP model in neural networks //Acta numerica. – 1999. – Т. 8. – С. 143-195.Abiodun O. I. et al. State-of-the-art in artificial neural network applications: A survey //Heliyon. – 2018. – Т. 4. – №. 11. – С. e00938.Barron J. T. A general and adaptive robust loss function //Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition. – 2019. – С. 4331-4339.https://practicum.yandex.ru/blog/svertochnye-neyronnye-seti/ (Дата обращения: 20.02.2023)Berkhahn S., Fuchs L., Neuweiler I. An ensemble neural network model for real-time prediction of urban floods //Journal of hydrology. – 2019. – Т. 575. – С. 743-754.
Liu, Y., Racah, E., Correa, J., Khosrowshahi, A., Lavers, D., Kunkel, K., ... & Collins, W. (2016). Application of deep convolutional neural networks for detecting extreme weather in climate datasets. arXiv preprint arXiv:1605.01156. O'Malley D., Golden J. K., Vesselinov V. V. Learning to regularize with a variational autoencoder for hydrologic inverse analysis //arXiv preprint arXiv:1906.02401. – 2019.LeCun Y., Bengio Y., Hinton G. Deep learning //nature. – 2015. – Т. 521. – №. 7553. – С. 436-444.Jamali, A., & Mahdianpari, M. (2021). A cloud-based framework for large-scale monitoring of ocean plastics using multi-spectral satellite imagery and generative adversarial network. Water, 13(18), 2553. https://neurohive.io/ru/osnovy-data-science/rekurrentnye-nejronnye-seti/ (Дата обращения: 20.02.2023)https://neurohive.io/ru/osnovy-data-science/lstm-nejronnaja-set/ (Дата обращ
Рис. 2.1.5. Пример распределений параметров базы данных CAMELS-GB [37]
Данные о высотке снежного покрова и влажности почвы, которые будут является целевой переменной, были получены с помощью реанализа ERA-5. Для этого, авторы сравнили данные натурных наблюдений за влажностью почвы на 4 разных глубинах и посчитали корреляцию с данными реанализа (Рис. 2.1.6.).
Рис. 2.1.6. График корреляции между наблюденными значениями за влажностью почвы и данными реанализа [37]
По полученным значениям корреляции можно сказать, что данные реанализа о влажности почв весьма схожи с натурными наблюдениями и могут быть использованы в моделировании. Для проверки точности данных реанализа по снегу, были выбраны 16 станций на северо-востоке страны, так как именно в этом регионе выпадение снега является самым сильным (Рис. 2.1.7).
Рис. 2.1.7. Корреляционный ана