Comment fonctionne un LLM (bonus 7) : la carte comme langage ?
Qui a écrit cette série ?
Cette série a été pilotée, critiquée et validée par Alex, qui en a fixé le plan, les règles de sources et le ton. Les textes ont été rédigés en co-écriture avec Claude (Anthropic) : Claude a proposé des plans, des calculs, des sources et des formulations, qu’Alex a relus, corrigés ou refusés. Alex est responsable du contenu publié.
Une carte peut-elle se lire comme une phrase ? On découpe un territoire en hexagones, on cache une case, et un modèle la devine d’après ses voisins. Exemple de feu fictif calculé pas à pas, données réelles par famille, et limites : le modèle ne donne ni le lieu précis ni la date d’un feu.
Ce bonus reprend trois notions de la série : le token, l’unité qu’un modèle lit et prédit (épisode 1), le vecteur (épisode 2) et la probabilité.
Avant de commencer
- Le modèle de ce bonus n’est pas un LLM, ni même un Transformer : il estime, pour chaque case d’une grille, une probabilité à partir de ses caractéristiques et de ses voisins. Ce qu’il partage avec un LLM, c’est le principe : prédire un élément d’après son contexte.
- Les chiffres de l’exemple sont fictifs. Ils ne décrivent aucune région réelle.
- Ce n’est pas une prévision de feu : aucune date ni aucun lieu précis n’est annoncé.
1. Une carte découpée en hexagones
Une carte se découpe en cases : chaque case est une petite surface, repérée par un identifiant. H3, développé par Uber, découpe la surface en hexagones. Il compte 16 niveaux de finesse, de 0 à 15. Presque toutes les cases sont des hexagones ; quelques-unes sont des pentagones (documentation officielle, h3geo.org).
Une case hexagonale a six voisins, sauf les pentagones, qui en ont cinq. Chacun partage un côté avec elle. Ce blog a déjà utilisé cette grille sur un cas réel : une carte H3 des mouvements du sol à Saint-Julien-Montdenis.
2. Un exemple fictif : vingt hexagones
Imaginons une carte de vingt hexagones, inventée pour l’exemple. Une case est masquée, marquée « ? ». Ses six voisins sont colorés : plein s’ils brûlent, clair sinon.
3. Un modèle qui devine la case cachée
Le principe ressemble à un jeu de texte à trous : on cache une case, et le modèle la devine. Chaque case peut se lire comme une suite de tokens, par métaphore : un identifiant, puis des caractéristiques, comme le sol, la saison ou la météo.
Le modèle regarde les voisins dans toutes les directions. Il apprend une probabilité, notée P : P(la case brûle | caractéristiques et voisins). Le signe « | » se lit « sachant que ». Il apprend ainsi une régularité dans les données passées ; il ne connaît pas la cause du feu.
4. Le feu : les voisins brûlent-ils ensemble ?
Hypothèses inventées. La saison est sèche avec probabilité 0,4, humide avec probabilité 0,6. En saison sèche, une case brûle avec probabilité 0,5. En saison humide, avec probabilité 0,05. Une case n’allume jamais sa voisine : une fois la météo connue, chaque case brûle sans tenir compte des autres.
Sans connaître la météo, une case brûle avec une probabilité de 23 %. Si un voisin brûle, cette probabilité monte à 44,1 %. Si aucun voisin ne brûle, elle tombe à 16,7 %.
Le calcul, pas à pas
Une case brûle : 0,4 × 0,5 + 0,6 × 0,05 = 0,20 + 0,03 = 0,23.
Deux cases voisines brûlent ensemble : 0,4 × 0,5 × 0,5 + 0,6 × 0,05 × 0,05 = 0,1000 + 0,0015 = 0,1015.
Sachant que le voisin brûle : 0,1015 / 0,23 ≈ 0,441, soit 44,1 %.
Sachant que le voisin ne brûle pas : (0,23 − 0,1015) / (1 − 0,23) = 0,1285 / 0,77 ≈ 0,167, soit 16,7 %.
Le voisin semble donc aider. Pourquoi ? Parce que les voisins partagent la même météo. Dans cet exemple, une saison sèche fait brûler plusieurs cases à la fois.
| Situation (fictif, météo inconnue) | Au moins un voisin brûle | Aucun voisin ne brûle |
|---|---|---|
| Case avec un seul voisin | 44,1 % | 16,7 % |
| Case centrale, six voisins | 37,1 % | 5,6 % |
Avec six voisins, la lecture change. « Au moins un voisin brûle » devient un indice plus faible (37,1 % au lieu de 44,1 %) : sur six cases, il est plus facile qu’une brûle par hasard. En revanche, « aucun voisin ne brûle » devient un indice fort : six cases épargnées désignent presque sûrement une saison humide, et la probabilité tombe à 5,6 %.
Quand la saison est connue, le signal disparaît : en saison sèche, la case brûle avec une probabilité de 50 %, que son voisin brûle ou non ; en saison humide, 5 %. Le voisin ne change plus rien.
Message central : un voisin qui brûle est un indice pour le modèle. Ce n’est pas une preuve que le feu passe de case en case. La propagation reste une hypothèse à tester.
5. Les données réelles, par famille
Une carte réelle demande des données. Chaque donnée est ramenée à une case H3.
- Météo : ERA5, réanalyse d’ECMWF diffusée par le Climate Data Store (CDS) de Copernicus, depuis 1940. Maille d’environ 31 km, trop grossière pour des hexagones fins.
- Météo fine, France : AROME (Météo-France), maille d’environ 1,3 km. Paquets téléchargeables sur data.gouv.fr, sous Licence Ouverte 2.0.
- Surfaces brûlées, la cible : EFFIS (JRC, Commission européenne), base en accès libre. Seuls les feux d’environ 30 ha et plus y sont cartés.
- Feux actifs : FIRMS (NASA), pixels de 375 m à 1 km. Accès gratuit ; l’usage par API peut demander une clé.
- Végétation : CORINE Land Cover 2018 (Agence européenne de l’environnement), téléchargeable gratuitement ; unité minimale d’environ 25 ha. NDVI de Copernicus Global Land : licence libre avec mention d’attribution.
- Relief : Copernicus DEM GLO-30, 30 m, licence Copernicus avec attribution « Copernicus WorldDEM-30 © DLR e.V. ». Les conditions d’accès peuvent changer : vérifier avant téléchargement.
- Routes et bâti : OpenStreetMap, licence ODbL 1.0 (attribution, partage à l’identique pour les bases dérivées). Complétude variable selon les zones.
- Historique des feux, France : BDIFF (base de données sur les incendies de forêt en France, produite par l’IGN pour le ministère de l’Agriculture), agrégée à l’échelle de la commune.
- Causes des feux, Espagne : ESFire30 (université d’Alcalá, dépôt Zenodo, CC BY 4.0). Pour la France, aucune base publique de causes comparable n’est citée ici.
- Portugal : PT-FireSprd, données de propagation sans causes.
Les produits ne mesurent pas la même chose : un départ de feu, un point chaud et une surface brûlée sont trois objets différents.
6. Ce que le modèle ne peut pas prédire
- Le départ d’un feu d’origine humaine. Ces départs restent largement imprévisibles.
- La date et le lieu précis d’un feu. La sortie est une probabilité, pour une zone et une période.
- Les grands feux, rares. Il y a peu d’exemples pour les apprendre.
- Un climat qui change. Le passé ne décrit pas toujours l’avenir.
Pour juger le modèle, on le teste sur des régions qu’il n’a jamais vues. Un test sur des cases proches de celles de l’apprentissage serait trop optimiste. Pour les crues, un modèle appris a été évalué sur des bassins sans station de mesure (Nearing et al., Nature, 2024).
Sur des tableaux de données, comme une table de cases et d’attributs, les modèles à arbres surpassent souvent les réseaux de neurones (Grinsztajn et al., 2022) : un modèle simple est donc le point de comparaison à battre d’abord.
Les modèles appris pour la météo, comme GraphCast (Science, 2023), ont surpassé sur de nombreux indicateurs les prévisions classiques. Ils prévoient le temps qu’il fera, pas les feux.
Une probabilité de 20 % doit aussi se réaliser environ une fois sur cinq. C’est la calibration : les probabilités annoncées doivent correspondre aux fréquences observées.
7. Une carte peut-elle devenir un modèle du monde ?
Voici les réponses, avec ce qui est établi et ce qui reste une hypothèse.
- Un vecteur par case : oui. Une case H3 peut recevoir un vecteur appris, comme un mot reçoit un vecteur dans un LLM. Un travail publié (Hex2vec, arXiv 2111.00970, 2021) a appris un vecteur par hexagone à partir d’OpenStreetMap. L’identifiant de la case n’a pas de sens numérique : ce qui compte, c’est sa place dans la hiérarchie et ses voisins.
- Un LLM : pas au sens strict. Un LLM lit une suite de tokens dans l’ordre. Une carte n’a pas d’ordre : les voisins sont dans toutes les directions. Le modèle décrit ici ressemble plutôt à un texte à trous, où l’on cache une case pour la deviner.
- Un modèle du monde : pas encore. Un modèle du monde prédit ce qui se passe si l’on agit : couper une route, ouvrir un pare-feu. Une grille de risque n’agit pas. Elle répond seulement à des questions d’observation. L’expression vient de Ha et Schmidhuber (2018).
- Le voisin qui brûle : un indice, pas une preuve. Dans l’exemple fictif, l’effet du voisin disparaît dès que la saison est connue : la météo explique les deux.
Ce qui existe déjà. Un réseau de neurones sur des cellules H3 a été proposé pour les incendies européens (Rösch, Nolde et Riedlinger, 2024, « Data-Driven Wildfire Spread Modelling Of European Wildfires », EARSeL Workshop on Forest Fires, Milan). Aucune étude citée ici ne combine un vecteur par case H3, la prévision d’incendie et l’effet sur les cases voisines, avec des résultats vérifiés.
À retenir
Une carte découpée en cases peut se traiter comme un tableau de probabilités : un modèle apprend, à partir de données passées, la chance qu’une case brûle selon ses caractéristiques et celles de ses voisins.
Ce n’est pas un modèle du monde : il ne sait pas ce qui se passe si l’on coupe une route ou ouvre un pare-feu, car il ne simule ni le temps ni les actions.
Un voisin qui brûle est un indice, pas une preuve de propagation.
8. Conclusion : une carte de probabilités
Au sens du modèle, une carte peut se lire comme une suite de tokens. C’est une métaphore : ce n’est pas une langue, et le modèle ne comprend pas le territoire.
Pour le feu, le voisinage aide à prédire. Il ne prouve pas la propagation. Le résultat reste une probabilité, pas une prévision.
Cette carte est un exercice pédagogique. Elle ne remplace pas les prévisions officielles.
Ce bonus est le dernier. Pour reprendre la série depuis le début : « C’est quoi, au juste ? ».
Dans cette série
- 1/6 : C’est quoi, au juste ?
- 2/6 : Les vecteurs, quand le sens devient géométrie
- 3/6 : L’attention
- 4/6 : Du neurone artificiel aux réseaux
- 5/6 : Le Transformer en entier
- 6/6 : De la prédiction à la conversation
- Bonus 1 : La chaîne de raisonnement
- Bonus 2 : Le mélange d’experts
- Bonus 3 : Pourquoi des petits modèles
- Bonus 4 : La distillation, ou apprendre d’un professeur
- Bonus 5 : Et demain ?
- Bonus 6 : Pourquoi les LLM sont si bons avec le code informatique ?
- Bonus 7 : La carte comme langage ? (vous êtes ici)
Références
- Hex2vec : Woźniak et Szymański, GeoAI’21, arXiv 2111.00970 (2021), en anglais.
- H3, système d’indexation spatiale hexagonal (Uber) : h3geo.org.
- Grinsztajn, Oyallon et Varoquaux, « Why do tree-based models still outperform deep learning on typical tabular data? », arXiv 2207.08815 (2022), en anglais.
- Nearing et al., « Global prediction of extreme floods in ungauged watersheds », Nature, 2024 (doi:10.1038/s41586-024-07145-1), en anglais.
- Lam et al., « Learning skillful medium-range global weather forecasting » (GraphCast), Science, 2023 (doi:10.1126/science.adi2336), en anglais.
- Ha et Schmidhuber, « World Models », arXiv 1803.10122 (2018), en anglais.
- Rösch, Nolde et Riedlinger, « Data-Driven Wildfire Spread Modelling Of European Wildfires », EARSeL Workshop on Forest Fires, Milan, 2024 (elib.dlr.de).
- ERA5 : réanalyse d’ECMWF, Climate Data Store de Copernicus.
- AROME : Météo-France, données ouvertes diffusées sur data.gouv.fr.
- BDIFF : base de données sur les incendies de forêt en France, produite par l’IGN pour le ministère de l’Agriculture.
- EFFIS : European Forest Fire Information System, Service Copernicus de gestion des urgences, forest-fire.emergency.copernicus.eu.
- ESFire30 : université d’Alcalá, dépôt Zenodo, CC BY 4.0 (causes des feux, Espagne).
- FIRMS : Fire Information for Resource Management System, NASA, firms.modaps.eosdis.nasa.gov.
- CORINE Land Cover 2018 : Agence européenne de l’environnement, Copernicus Land Monitoring Service, land.copernicus.eu.
- Copernicus DEM GLO-30 : Copernicus Data Space Ecosystem.
- OpenStreetMap : openstreetmap.org/copyright, licence ODbL 1.0.
- PT-FireSprd : Benali et al., « The Portuguese Large Wildfire Spread database (PT-FireSprd) », Earth System Science Data, 2023 (lien).