155 Metoda ANET2: statistično poprocesiranje vremenskih napovedi s pomočjo nevronskih mrež in normalizacijskih tokov Peter Mlakar 1,2 , Janko Merše 2 , Jana Faganeli Pucer 1 Uvod Poprocesiranje vremenskih napovedi je pomemben korak v formiranju bolj natančnih vremenskih napovedi. Razlog, da potrebujemo metode poproceisranja, stoji za tem, da numerične vremenske napovedi vsebujejo sistematične napake. Te so posledica računskih poenostavitev, omejene ločljivosti napovednega modela in negotovosti, ki je prisotna že v atmosferski analizi (Bauer idr., 2015; Vannitsem idr., 2021; Hakim, Patoux, 2017). Evropski center za srednjeročne vremenske napovedi (ECMWF) z namenom, da bi bolje zajel negotovost vremenske napovedi, izdaja ansambelske vremenske napovedi. Te vsebujejo 51 različnih vremenskih napovedi za isti časovni termin ter iste lokacije z namenom simuliranja potencialno različnih vremenskih scenarijev v prihodnosti. Kljub temu ansambelske napovedi še vedno vsebujejo napake, ki z večanjem napovednega časa naraščajo ter zmanjšujejo zanesljivost same napovedi, prav tako ostajajo že prej omenjene sistematične napake izračuna. Z namenom, da bi te napake omilili, lahko uporabimo metode poprocesiranja vremenskih napovedi (Vannitsem idr., 2021). Te delujejo tako, da na podlagi vremenske napovedi tvorijo novo verjetnostno napoved za določeno vremensko spremenljivko (npr. temperatura, količina padavin, hitrost vetra). Ta verjetnostna napoved opisuje kako verjetna je pojavitev določene vrednosti vremenske spremenljivke na določeni lokaciji ter ob določenem času. Cilj metod poprocesiranja je tvorjenje dobro kalibriranih verjetnostnih napovedi (Gneiting idr., 2007). Pristopov za poprocesiranje je mnogo, razlikujejo pa se predvsem po predpostavkah, na katerih slonijo. Vsaka metoda ima svoje prednosti in slabosti, njena uporaba pa je odvisna od specifik problema. Pred kratkim so se na področju poprocesiranja vremenskih napovedi izkazale tudi nevronske mreže (Bremnes idr., 2020, Rasp in Lerch, 2018). Žal pa so v mnogih primerih aplikacije le teh omejene na en napovedni čas ali pa na posamezno lokacijo. Prav tako je veliko pristopov omejenih glede na tip verjetnostne porazdelitve, ki jo modelirajo, saj vrsto porazdelitve predpostavijo vnaprej (Rasp in Lerch, 2018). To predpostavko lahko sicer omilimo z metodo kvantilne regresije s pomočjo Bernsteinovih polinomov (Bremnes, 2020), a ta ne tvori eksaktne verjetnostne porazdelitve. Metoda in evalvacija V našem raziskovalnem delu smo predlagali novo metodo za poprocesiranje vremenskih napovedi, Atmosferska nevronska mreža 2 (angleško "Atmosphere NETwork" (ANET2), ki predstavlja nadgradnjo naše prvotne metode ANET1. Za razliko od mnogih konkurenčnih pristopov ANET1 in ANET2 tvorita napoved za celoten napovedni čas naenkrat. Dodatno, ANET1 in ANET2 tvorita en sam model za poprocesiranje vseh napovednih lokacij, za kar mnogi pristopi potrebujejo toliko napovednih modelov, kot je lokacij samih. Pristop ANET2 se razlikuje od ANET1 po uporabi normalizacijskih tokov za modeliranje napovedne porazdelitve (Durkan idr., 2019; Dinh idr., 2016). S pomočjo slednjih lahko ANET2 tvori 1 Univerza v Ljubljani, Fakulteta za računalništvo in informatiko, Večna pot 113, Ljubljana 2 Agencija Republike Slovenije za okolje, Vojkova 1b, Ljubljana 156 fleksibilne vremenske napovedi različno porazdeljenih spremenljivk, kot sta temperatura ali pa količina padavin, brez predhodnega poznavanja porazdelitve spremenljivke same. To omogoča ANET2 dodatno prilagodljivost ter zmožnost bogatejšega verjetnostnega opisovanja vremenskih realizacij. Obe metodi smo evalvirali na podatkovni zbirki EUPPBench (Demaeyer idr., 2023) za poprocesiranje vremenskih napovedi. Natančneje, z metodama ANET1 in ANET2 smo poprocesirali napoved temperature za različne lokacije po srednji in zahodni Evropi in za napovedni čas petih dni. Prav tako smo normalizacijske tokove metode ANET2 primerjali z metodo Bernsteinovih polinomov, da bi bolje ocenili doprinos normalizacijskih tokov na področju poprocesiranja. Rezultati Metoda ANET1 se je na podatkovni zbirki EUPPBench uvrstila med najboljše (Demaeyer idr., 2023). Posebej konkurenčna je bila na gorskih postajah v Švici, kjer je učinkovito odpravljala napake, ki so posledica razgibanega gorskega terena. Naš pristop modeliranja napovedi za celoten napovedni čas naenkrat pa je metodi ANET1 omogočil znatno zmanjšanje napake napovedi v prehodu dnevno nočnega cikla. Metoda ANET2 pa je še dodatno prekašala ANET1. V kombinaciji z novo arhitekturo nevronske mreže ter normalizacijskimi tokovi ANET2 uspe tvoriti bolj kalibrirane napovedi od referenčnih metod (Mlakar idr., 2023). ANET2 metoda z normalizacijskimi tokovi pa se je prav tako izkazala kot zelo konkurenčna napram metodi Bernsteinovih polinomov in tako predstavlja smiseln doprinos področju statističnega poprocesiranja vremenskih napovedi. Slika 1 - Zvezna rangirana verjetnostna cenilka (angl. "continuous ranked probability score" CRPS) metod ANET1, ANET2 v primerjavi z dvema najboljšima metodama iz 157 EUPPBench podatkovne zbirke, metodo statistike ansambelskega modela (angl. "ensemble model output statistics" EMOS) ter kvantilne regresije s pomočjo D-vine kopul (angl. "D- vine copula quantile regression" DVQR). Nižja vrednost CRPS (v Kelvinih) odraža boljšo napovedno moč. Cenilka CRPS je povprečena preko vseh napovednih lokacij ter zagonov napovednega modela. Iz slike lahko razberemo, da različica ANET2FLOW, ki temelji na nevronski mreži ANET2 in normalizacijskih tokovih, doseže najnižjo vrednost CRPS. Sledita ji preostala dva ANET2 pristopa, ki temeljita na Bernsteinovih polinomih ter normalni porazdelitvi. Literatura Bauer, P., Thorpe, A., & Brunet, G., 2015. The quiet revolution of numerical weather prediction. Nature, 525(7567), 47–55. doi:10.1038/nature14956 Bremnes, J. B., 2020. Ensemble postprocessing using quantile function regression based on neural networks and Bernstein polynomials. Monthly Weather Review, 148(1), 403–414. Demaeyer, J., Bhend, J., Lerch, S., Primo, C., Van Schaeybroeck, B., Atencia, A., … Vannitsem, S., 2023. The EUPPBench postprocessing benchmark dataset v1.0. Earth System Science Data Discussions, 2023, 1–25. doi:10.5194/essd-2022-465. Dinh, L., Sohl-Dickstein, J., & Bengio, S., 2016. Density estimation using real nvp. arXiv Preprint arXiv:1605. 08803. Durkan, C., Bekasov, A., Murray, I., & Papamakarios, G., 2019. Neural spline flows. Advances in Neural Information Processing Systems, 32. Gneiting, T., Balabdaoui, F., & Raftery, A. E., 2007. Probabilistic forecasts, calibration and sharpness. Journal of the Royal Statistical Society. Series B: Statistical Methodology, 69(2). doi:10.1111/j.1467-9868.2007.00587.x. Hakim, G. J., & Patoux, J., 2017. Weather: A Concise Introduction. Retrieved from https://books.google.si/books?id=pqXoAQAACAAJ. Mlakar, P., Merše, J., & Pucer, J. F., 2023. Ensemble weather forecast post-processing with a flexible probabilistic neural network approach. arXiv [Cs.LG]. Retrieved from http://arxiv.org/abs/2303.17610. Rasp, S., & Lerch, S., 2018. Neural networks for postprocessing ensemble weather forecasts. Monthly Weather Review, 146(11), 3885–3900. Vannitsem, S., Bremnes, J. B., Demaeyer, J., Evans, G. R., Flowerdew, J., Hemri, S., … Ylhaisi, J., 2021. Statistical postprocessing for weather forecasts review, challenges, and avenues in a big data world. Bulletin of the American Meteorological Society, 102(3). doi:10.1175/BAMS-D-19- 0308.1.