Building Disaster Pulse : ce qui s'est passé quand j'ai laissé l'IA décider si une catastrophe était réelle

Quand l’IA devient un gardien : dans les coulisses de la création de Disaster Pulse. Imaginez que vous viviez dans un endroit où une catastrophe n’est jamais qu’à une vidéo virale. En Indonésie, les alertes aux catastrophes ne sont pas seulement diffusées par les canaux officiels, elles explosent sur TikTok, WhatsApp, les fils d’actualité et les messages désespérés de personnes à la recherche de leurs proches. Mais tous les cris en ligne ne signalent pas une véritable urgence. C’est le chaos qui a inspiré la création de Disaster Pulse, une plateforme ambitieuse alimentée par l’IA, conçue pour couper le bruit et décider, en temps réel, si une catastrophe se déroule réellement. Au cœur de Disaster Pulse se trouve un pipeline de raisonnement à cinq agents, une sorte de course de relais numérique où chaque agent d’IA s’attaque à une seule tâche cruciale. Tout d’abord, l’Observateur passe au crible les signaux bruts (textes, vidéos, publications sur les réseaux sociaux) et en extrait des observations objectives. Ensuite, le Classificateur étiquette l’événement : s’agit-il d’une inondation, d’un incendie, ou d’autre chose ? Quelle est sa gravité ? Le sceptique, peut-être le plus important, remet en question les hypothèses, recherche les erreurs ou les hallucinations et évite les erreurs embarrassantes, comme confondre une machine à fumée de concert avec un incendie déchaîné. Le Synthétiseur pèse ensuite les preuves, en évaluant sa confiance dans ce qui se passe, avant que l’agent d’action ne prenne la décision : déclencher une alerte, mettre à jour un incident ou ignorer le bruit. La véritable innovation de la plateforme est sa capacité à analyser non seulement le texte, mais aussi la vidéo en temps réel. Les vidéos des réseaux sociaux sont disséquées image par image, à la recherche d'eaux de crue, de lueurs d'incendie ou de bâtiments effondrés. Et avec une règle de fraîcheur stricte, les anciennes séquences, si souvent recyclées dans les moments de panique, sont signalées et rétrogradées, garantissant que seuls les événements actuels déclenchent des alertes en temps réel. Mais la construction d’un système aussi transparent nécessitait plus qu’une IA intelligente. Disaster Pulse devait montrer son travail, pas seulement ses résultats. Une alerte en cas de catastrophe n’est fiable que si les preuves qui la sous-tendent sont fiables. C'est pourquoi la plateforme dispose d'un panneau de transparence de l'IA, un simple bouton « Pourquoi ? » qui révèle toute la chaîne de raisonnement, du signal brut au verdict final, donnant aux coordinateurs des catastrophes la confiance nécessaire pour agir ou attendre. Le parcours n'a pas été sans défis. Les pipelines multi-agents peuvent échouer lorsque le résumé vague d’un agent empoisonne toute la chaîne. L’analyse vidéo devient rapidement coûteuse, de sorte qu’un échantillonnage et une mise en cache intelligents des images étaient essentiels. Et lors de la première démonstration de la plateforme, l’état vide (pas de catastrophes, pas d’alertes) a presque tout saboté jusqu’à ce qu’un système d’amorçage de données de démonstration soit construit. Le plus frappant a peut-être été le moment où l’IA s’est révélée plus prudente que son créateur. Lors d'un test avec ce qui semblait être un reportage dramatique en direct, l'agent Skeptic a correctement signalé que les photos provenaient d'une ancienne catastrophe. Ce fut une révélation qui nous a fait prendre conscience de nos limites et qui a renforcé la confiance : parfois, le système est plus apte à repérer les erreurs que son créateur. Disaster Pulse n'est pas seulement une merveille technique, il représente un changement dans la façon dont les communautés peuvent faire confiance, examiner et agir sur les informations dans les moments qui comptent vraiment. Un système qui est non seulement plus rapide, mais aussi plus prudent, plus transparent et plus fiable. Dans un monde où la désinformation se propage aussi vite que la catastrophe elle-même, donner à l'IA le pouvoir, et la responsabilité, de décider de ce qui est réel pourrait faire la différence entre le chaos et une réponse coordonnée.