Notebooks python de Visualisation-Extraction (& Téléchargement éventuellement) des données de Météo-France, ouvertes en open-data en décembre 2023, en ligne sur meteo.data.gouv.fr
Portail meteo.data.gouv.fr - Carte des postes météorologiques de Météo-France (Métropole & outre-mer)
CE code fonctionnel en janvier 2024 fonctionne maintenant en mode en partie dégradée, faute de quoi l'exécution est sans fin. L'instruction de sauvegarde du fichier PNG par fig.write_image(file_png) est pour l'instant désactivée.
Une connexion internet est nécessaire pour accéder aux fichiers TEXTE Météo-France et au fond de carte OpenStreetMap
NB: les fichiers TEXTE couvrent tous les postes OUVERTS et FERMES, ainsi que les postes dit "complémentaires" qui correspondent au Type 5 (expertise absente ou non garantie)
Pour connaitre les détails sur les postes, et notamment la période de mesure pour chaque paramètre, voir les fiches PDF accessibles en ligne au lien indiqué à la fin.
- La carte dynamique des postes est tracée à partir du fichier TEXTE de Météo-France. Elle différencie les postes professionnels et complémentaires, et permet de sélectionner les postes fermés ou ouverts.
Le survol à la souris permet d'afficher le noms du poste et de la commune, l'altitude, les coordonnées en lat/lon & Lambert, et surtout les dates d'ouverture et de fermeture - La carte dynamique est enregistrée en Html (et théoriquement la version png si l'export fig.write_image() marche)
- La liste est enregistrée au format excel, avec en plus l'url qui permet d'afficher le PDF Météo-France des informations détaillées sur la station (même si le document n'existe pas parfois)
- NB: code adapté au nouveau format TEXTE beaucoup plus complet et stable que le fichier JSON posant encore des problèmes aux utilisateurs après plus d'une année de mise en service de meteo.data.gouv.fr.
data : https://meteo.data.gouv.fr/
Fiche PDF des postes : https://www.data.gouv.fr/fr/datasets/r/bee4b0c7-260a-40fe-b463-ed5631d6dc39 (paramètres et périodes de mesure)
Portail meteo.data.gouv.fr - Téléchargement-affichage-Extraction des données MENSUELLES de Météo-France (Métropole & outre-mer)
Une connexion internet est nécessaire pour le téléchargement automatique des archives de données.
- Téléchargement des fichiers et décompression automatique, pour différents postes, dans plusieurs départements si besoin
- Tracé du graphique chronologique pour le paramètre Précipitations RR des postes choisis par l'utilisateur
- Sauvegarde des données intégrales et du graphique dans un fichier Excel (tous paramètres pour tous les postes des départements concernés).
data : https://meteo.data.gouv.fr/ (6 min, horaire, quotidien, mensuel)
Fiche PDF des postes : https://www.data.gouv.fr/fr/datasets/r/bee4b0c7-260a-40fe-b463-ed5631d6dc39 (paramètres et périodes de mesure)
Fichier CSV descriptif champs: https://www.data.gouv.fr/fr/datasets/r/6d4ac560-8f7c-477f-9a3f-3c33137fc04e
- NB: code adapté au format du fichier JSON en décembre 2023 (ATTENTION le fichier JSON Météo-France est variable entre 2 formats, ce qui oblige à supprimer parfois ".T" à la ligne df = pd.DataFrame(data_json['features']).T)
Utilisez mon autre script pour visualiser sous forme de carte la liste des postes météorologiques fournie par Météo-France sous forme de fichier JSON https://meteo.data.gouv.fr/https://www.data.gouv.fr/fr/datasets/r/1fe544d8-4615-4642-a307-5956a7d90922
NB:
- Les historiques MENSUELS sont réparties en 3 fichiers pour chaque département: xxxx-1949, previous-1950-2022, latest-2023-2024 (LATEST indique le dernier fichier mis à jour quotidiennement depuis janvier de l'année précédente jusqu'au mois en cours, XXXX représent l'année de début de la période la plus ancienne variable selon le département).
- Les données MENSUELLES ne sont pas simplement équivalentes à des données QUOTIDIENNE agrégées (les paramètres ne sont pas strictement les mêmes. Par exemple, il existe des des NOMBRES DE JOURS DE PLUIE/GELEE/CHALEUR/etc.., ainsi que des précipitations MENSUELLES ESTIMEES 'RR_ME' plus anciennes que les mesures)
Portail meteo.data.gouv.fr - Téléchargement-affichage-Extraction des données QUOTIDIENNES LATEST de Météo-France (RR-T-Vent)
Ce script ntraite uniquement le fichier "RR-T-vent" (Paramètres liés aux Précipitations, Température & Vent) à l'exclusion du fichier "autres-parametres" contenant notamment l'ETP.
Une connexion internet est nécessaire pour accéder aux archives des données à l'url ci-dessous.
- Téléchargement des fichiers quotidiens et décompression automatique, pour plusieurs départements si besoin
- Tracé du graphique chronologique QUOTIDIEN pour le paramètre Précipitations RR des postes choisis par l'utilisateur
- Tracé du graphique chronologique de l'agrégation MENSUELLE
- Sauvegarde d'un fichier excel rassemblant:
- Les données intégrales QUOTIDIENNES et agrégées MENSUELLEMENT (tous paramètres de la période "Latest" pour tous les postes des départements concernés).
- la comparaison des paramètres pour les postes et la période choisis, ainsi que pour les précipitations les graphiques quotidien & mensuel
data : https://meteo.data.gouv.fr/ (6 min, horaire, quotidien, mensuel)
Fiche PDF des postes : https://www.data.gouv.fr/fr/datasets/r/bee4b0c7-260a-40fe-b463-ed5631d6dc39 (paramètres et périodes de mesure)
Fichier CSV descriptif champs: https://www.data.gouv.fr/fr/datasets/r/6a8df7e9-45ff-445d-9260-6c65475dda86
- NB: code adapté au format du fichier JSON en décembre 2023 (ATTENTION le fichier JSON Météo-France est variable entre 2 formats, ce qui oblige à supprimer parfois ".T" à la ligne df = pd.DataFrame(data_json['features']).T)
Utilisez mon autre script pour visualiser sous forme de carte la liste des postes météorologiques fournie par Météo-France sous forme de fichier JSON https://meteo.data.gouv.fr/https://www.data.gouv.fr/fr/datasets/r/1fe544d8-4615-4642-a307-5956a7d90922
NB:
- Les données LATEST correspondent aux DERNIERS FICHIERS mis à jour quotidiennement, et qui vont du mois de janvier de l'année précédente au mois en cours même partiel.
- Les données QUOTDIENNES agrégées mensuellement ne sont pas simplement équivalentes aux donnée MENSUELLES. Les paramètres ne sont pas strictement les mêmes. Certains paramètres quotidiens n'existent pas en mensuel (par exemple concernant le vent), mais les paramètres mensuels sont globalement plus nombreux à cause des paramètres "calculés" (par exemple des NOMBRES DE JOURS DE PLUIE/GELEE/CHALEUR/etc.., ainsi que des précipitations MENSUELLES ESTIMEES 'RR_ME' plus anciennes que les mesures)
Portail meteo.data.gouv.fr - Téléchargement-affichage-Extraction des données HORAIRES LATEST de Météo-France (RR-T-Vent)
Une connexion internet est nécessaire pour le téléchargement automatique des archives de données.
- Téléchargement des fichiers HORAIRES et décompression automatique, pour différents postes (si besoin dans plusieurs départements mais au prix d'une longue durée de lecture)
- Tracé du graphique chronologique HORAIRE pour le paramètre Précipitations RR des postes choisis par l'utilisateur
- Tracé du graphique chronologique de l'agrégation QUOTIDIENNE
- Sauvegarde d'un fichier excel rassemblant:
- la comparaison des paramètres QUOTIDIENS & MENSUELS pour les postes et la période choisis, ainsi que les graphiques pour les précipitations uniquement
- NB: Les données intégrales HORAIRES ne sont pas sauvegardées pour cause de poids excessif (tous paramètres de la période "Latest" pour tous les postes des départements concernés).
- NB: code adapté au format du fichier JSON en décembre 2023 (ATTENTION le fichier JSON Météo-France est variable entre 2 formats, ce qui oblige à supprimer parfois ".T" à la ligne df = pd.DataFrame(data_json['features']).T)
data : https://meteo.data.gouv.fr/ (6 min, horaire, quotidien, mensuel)
Fiche PDF des postes : https://www.data.gouv.fr/fr/datasets/r/bee4b0c7-260a-40fe-b463-ed5631d6dc39 (paramètres et périodes de mesure)
Fichier CSV descriptif champs: https://www.data.gouv.fr/fr/datasets/r/5d0f9af9-149b-463a-9472-445dafb698d9
Utilisez mon autre script pour visualiser la carte des postes météorologiques dont la liste est fournie par Météo-France sous forme de fichier JSON https://meteo.data.gouv.fr/https://www.data.gouv.fr/fr/datasets/r/1fe544d8-4615-4642-a307-5956a7d90922
NB:
- Les données LATEST correspondent aux DERNIERS FICHIERS mis à jour quotidiennement, et qui vont du mois de janvier de l'année précédente à la veille du jour en cours même partielle.
- Les données HORAIRES agrégées quotidiennement ne sont pas simplement équivalentes aux donnée QUOTIDIENNES
- l'agréation quotiodienne est effectuée depuis 0:00 et non depuis 6:00 (et Météo-France affecte le résultat au jour précédent)
- les paramètres ne sont pas strictement les mêmes. Certains paramètres horaires n'existent pas en quotidiens (ex. DRR1 durée des précipitations (en mn/heure)), et inversement
- NB: code adapté au format du fichier JSON en décembre 2023 (ATTENTION le fichier JSON Météo-France est variable entre 2 formats, ce qui oblige à supprimer parfois ".T" à la ligne df = pd.DataFrame(data_json['features']).T)
Données climatiques quotidienne (SIM2 = SAFRAN-ISBA) - Extraction de série chronologique pour une maille (1x1 km)
Auparavant, télécharger les données depuis le portail ci-dessous (chaque décennie repésente 1.1 Go en archive et 5 Go décompressé)
- Lecture du fichier de la décennie voulue
- Extraction du point voulu et tracé de la carte de situation
- Tracé du graphique chronologique de la décennie pour les paramètres et le point de maille choisis (par exemple 10 paramètres pour limiter l'occupation en mémoire vive)
- Sauvegarde des séries chronologiques avec le graphique dans un fichier Excel
Le graphique dynamique est également sauvegardé en Html
- NB: code adapté au format du fichier JSON en décembre 2023 (ATTENTION le fichier JSON Météo-France est variable entre 2 formats, ce qui oblige à supprimer parfois ".T" à la ligne df = pd.DataFrame(data_json['features']).T)
SIM2 Quotidien - Lecture des données du dernier mois (LATEST) & agrégation mensuelle Ce script ne traite que le fichier LATEST Quotidien, contenant le mois précédent et le dernier mois en cours
- data: https://meteo.data.gouv.fr/datasets
- Auteur: L. Duffar
Ce script a un intérêt dans 2 cas :
- si le dernier mois est incomplet, cela permet d'avoir la valeur mensuelle partielle avant la diffusion par Météo-France 1 fois par mois de la valeur mensuelle officielle
- Certains paramètres n'existent pas sous forme mensuelle (comme Equivalent en eau du manteau neigeux), cela permettra à terme de constituer un historique depuis 1958
2025-07-Z20 11:49 Téléchargement: QUOT_SIM2_latest-20250601-20250719.gz Décompression QUOT_SIM2_latest-20250601-20250719.gz LAMBX LAMBY DATE PRENEI_Q PRELIQ_Q T_Q FF_Q Q_Q DLI_Q SSI_Q ... RESR_NEIGE6_Q HTEURNEIGE_Q HTEURNEIGE6_Q HTEURNEIGEX_Q SNOW_FRAC_Q ECOULEMENT_Q WG_RACINE_Q WGI_RACINE_Q TINF_H_Q TSUP_H_Q 0 600 24010 2025-06-01 0.0 0.3 15.5 4.8 8.672 2962.4 971.8 ... 0.0 0.0 0.0 0.0 0.0 0.0 0.265 0.0 12.8 18.7 1 600 24010 2025-06-02 0.0 0.2 15.1 3.9 8.017 2983.0 1755.3 ... 0.0 0.0 0.0 0.0 0.0 0.0 0.265 0.0 12.0 19.2 2 600 24010 2025-06-03 0.0 4.4 14.1 5.6 8.927 3138.6 528.3 ... 0.0 0.0 0.0 0.0 0.0 0.0 0.263 0.0 10.7 15.6 3 600 24010 2025-06-04 0.0 1.6 14.4 5.3 8.602 2946.5 979.5 ... 0.0 0.0 0.0 0.0 0.0 0.0 0.264 0.0 10.9 16.6 4 600 24010 2025-06-05 0.0 4.5 14.6 5.3 9.371 3308.5 541.5 ... 0.0 0.0 0.0 0.0 0.0 0.0 0.264 0.0 14.0 16.0 ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... ... 484703 11960 17450 2025-07-15 0.0 0.0 24.9 1.9 14.310 3371.8 2726.6 ... 0.0 0.0 0.0 0.0 0.0 0.0 0.218 0.0 20.7 29.1 484704 11960 17450 2025-07-16 0.0 0.0 26.2 1.6 15.059 3428.4 2687.6 ... 0.0 0.0 0.0 0.0 0.0 0.0 0.218 0.0 22.6 30.0 484705 11960 17450 2025-07-17 0.0 0.0 26.4 1.5 15.206 3427.3 2390.4 ... 0.0 0.0 0.0 0.0 0.0 0.0 0.217 0.0 22.2 31.2 484706 11960 17450 2025-07-18 0.0 0.0 26.4 2.2 14.846 3431.0 2584.3 ... 0.0 0.0 0.0 0.0 0.0 0.0 0.217 0.0 20.6 31.0 484707 11960 17450 2025-07-19 0.0 0.3 26.3 3.2 16.752 3471.4 2158.8
Ce script ne gère ni le téléchargement ni la décompression des archives qui doit être effectué préalablement à la main (1h50 de décompression pour chaque décennie)
Intérêt : les futurs développements pourront lire les fichiers PARQUET par décennie plus rapidement que les fichier CSV originaux
SIM2 MENS (SAFRAN) - Génération d'un fichier PARQUET unique par téléchargement/lecture des fichiers CSV de Météo-France par décennie depuis 1958
- le fichier PARQUET généré est un dataframe d'une image fidèle des données originales . Le format PARQUET plus compact et rapide permet l'exécution des autres scripts traitant les données sous forme de rasters géographiques temporels (dataset xarray). Ce notebook montre également la construction de ce dataset xarray à titre d'exemple.
- En option un fichier Excel peut être généré pour des utilisateurs lambdas sans compétence de programmation
Opérations:
-
- Personalisation / Importation
-
- Lecture des fichiers CSV Météo-France couvrant la France entière depuis 1958 + enregistrement fichier PARQUET (il contient TOUS les paramètres sur la France ENTIERE depuis 1958 (territoire métropolitain)
- 1bis. Lecture du fichier PARQET déjà généré pour OPTIONNEL POUR TEST UNIQUEMENT
Version pour environnement 3.11.8 (numpy V1.26.4 pas encore en V2).
Ajout des indices SSWI dans le fichier excel de la moyenne par polygone (mais indices SSWI non cartographiés à ce jour)
C'est le 2ème script de la chaine de traitement des données SIM2 MENSUELLES
- Un 1er script permet de générer le fichier PARQUET de tous les paramètres pour la France entière, à partir des fichiers CSV originaux téléchargés automatiquement)
- Ce 2ème script de traitement PAR MAILLE est indispensable pour générer un fichier EXCEL indispensable au 3ème script
- Le 3ème script de traitement PAR POLYGONE utilise le fichier EXCEL créé précédemment pour générer des cartes agrégées par département, bassin-versant ou polygones quelconques
Ce 2EME SCRIPT produit les traitements suivants PAR MAILLE à partir d'un fichier PARQUET issu des CSV Météo-France :
-
cartographie mois par mois de 6 paramètres bruts prédéterminés
-
NB: les paramètre SSWI1 est lu et enregistré dans le fichier par polygone, mais ne fait pas l'objet de carte dans ce scrit
-
calcul et cartographie de la moyenne interannuelle sur une période d'années choisie (un fichier geotif est produit pour la carte annuelle),
-
cartographie de l'écart à cette moyenne pour chaque mois de la période d'années choisie,
-
A partir des polygones fournis, le script calcule la moyenne agrégée par polygone et génère un fichier EXCEL des séries chronologiques correspondantes. Ce fichier EXCEL alimente notamment un 3EME SCRIPT de traitement par POLYGONE).
NB: Tout est personalisable en terme de secteur géographique (les paramètres ne le sont pas, à moins de faire évoluer le script)
- Zone d'intérêt (1 polygone) pour laquelle les mailles seront traitées et cartographiées (ce qui permet de travailler sur toute la France, ici la région PACA)
- Polygones multiples (fichier unique, à l'intérieur de la zone d'intérêt), sur lesquels les paramètres seront agrégeés par la moyenne (ici départements de PACA ou bassins versants de la Concession) NB: Le fichier PARQUET généré contient un dataframe pandas qui peut être lu par une simple instruction pd.read_parquet(). La lecture de tout l'historique SIM2 pour la France entière et la totalité des paramètre prend 10 s au lieu de 1 minute pour les fichier CSV. Cette rapidité est exploité pour le développement des scripts suivants de la chaine de traitement des données SIM2 MENSUELLES.
SIM2 MENSUEL SIM2 (SAFRAN) - Cartographie de l'écart à la moyenne par POLYGONE pour un paramètres et un mois choisis
C'est le 3ème script de la chaine de traitement des données SIM2 MENSUELLES
- Un 1er script permet de générer le fichier PARQUET de tous les paramètres pour la France entière, à partir des fichiers CSV originaux téléchargés automatiquement)
- Un 2ème script de traitement par maille est indispensable pour générer un fichier EXCEL indispensable au 3ème script
- Le présent 3ème script de traitement par polygone utilise le fichier EXCEL créé précédemment pour générer des cartes/graphiques agrégés par polygones quelconques, départements ou bassins-versants (= moyenne des mailles pour chaque polygone et pour chaque paramètre SIM2)
NB: Le présent script traite uniquement un tableau 2D représentant la moyenne par polygone (dataframe pandas, et non 3D rasters xarray représentant des cartes des mailles)
- La statistique (écart à la moyenne et période de retour) est établie sur une période choisie par l'utilisateur (impérativement incluse dans la période contenue dans le fichier Excel).
- SSWI en plus : le script trace également le graphique chronologique des index SSWI de 1 à 12 mois OPTIONNEL
Les données doivent être téléchargées à la main (1 fichier par mois). Les images horaires couvrent la France métropolitaine et le géoréférencement original est en coordonnées Lambert2 étendues.
- Tracé des cartes de l'évènement (carte statique heure par heure PNG + carte animée HTML) - OPTIONNEL
- Extraction de la série chronologique pour un point (obligatoire) et un polygone et stockage dans un fichier Excel
- Tracé d'une carte de cumul sur une période choisie PGN, geoTIFF & HTML - OPTIONNEL
- Sauvegarde dans un fichier excel
Il faut nécessairement personaliser:
- Le dossier des fichier geotiff Météo-France (NB: le nom du sous-dossier doit être explicite car il sera utilisé pour nommer les fichiers de sortie)
- Un dossier de sortie quelconque pour les fichiers de sortie
- un rectangle d'intérêt à extraire de l'image originale de la France hexagonale entière
- une date de début et de fin de l'èvènement (nécessairement incluses dans les fichiers d'entrée )
- un point (obligatoire) et un polygone (optionnel) desquels extraire la série chronologique de la pluie (en projection WGS84 lat long)
- Un fichier vecteur (optionnel) permettant d'habiller la carte, avec des cours d'eau par exemple
- Toute la subtilité de la personalisation consiste à définir tous ces parmètres de façon cohérente
NB: toutes les coordonnées de personalisation doivent être exprimées en lat lon WGS84 (rectangle d'intérêt, point, polygone, couche d'habillage)