Notre organisation existe pour faire progresser l’éducation, la recherche et la compréhension publique de l’intelligence artificielle. Cela fait de ReefBeacon, notre projet phare qui utilise l’IA, un endroit où démontrer quelque chose que nous considérons fondamental : l’IA ne mérite la confiance que lorsqu’elle est utilisée là où elle aide, et écartée de là où elle ne doit pas aller.
La règle
La règle est simple à énoncer. Les chiffres qui comptent sont calculés par du code déterministe à partir de données publiées ; l’IA est utilisée pour ce qu’elle fait vraiment bien — orchestrer la chaîne quotidienne, interpréter les images, rédiger des textes, répondre à des questions — et jamais comme calculatrice.
En pratique
Concrètement, sur ReefBeacon :
- Les chiffres de stress thermique — température de surface de la mer, HotSpot, Degree Heating Weeks — proviennent des produits satellitaires publiés de NOAA Coral Reef Watch, et les jugements de seuil (DHW supérieur à 4 déclenche une alerte, supérieur à 8 indique un risque élevé) relèvent d’une simple arithmétique dans du code déterministe. Aucune sortie de modèle ne peut faire basculer un récif d’un niveau de risque à un autre.
- La chaîne quotidienne — lire les données, les vérifier, noter 65 stations, générer les courtes évaluations qui accompagnent les alertes — est orchestrée par appel de fonctions IA : le modèle coordonne les outils ; les outils produisent les valeurs.
- L’interprétation des photos de relevé utilise la vision IA là où elle aide véritablement — évaluer la gravité du blanchissement sur des milliers d’images — avec un niveau de confiance associé à chaque jugement, les cas à faible confiance étant orientés vers une revue humaine.
- Les questions historiques trouvent leur réponse dans une bibliothèque d’événements citée, et lorsque la bibliothèque ne contient pas assez d’histoire pour répondre honnêtement, le système le dit plutôt que d’improviser.
Pourquoi cela compte au-delà des récifs
Pour une organisation à but non lucratif qui enseigne également la culture de l’IA, c’est la leçon que nous voulons le plus voir le public intérioriser : la question n’est jamais « un modèle peut-il faire cela ? » mais « un modèle devrait-il être celui qui décide cela ? » Une mesure de température est une mesure. Un niveau de risque est une règle appliquée à cette mesure. Ni l’un ni l’autre ne s’améliore parce qu’un modèle de langage l’a produit — et tous deux empirent dès que plus personne ne peut les vérifier. La traçabilité n’est pas une fonctionnalité que nous avons ajoutée ; c’est l’architecture.
Enseigner ce que nous pratiquons
Le même principe irrigue désormais nos programmes et nos contenus pédagogiques : montrer aux apprenants toute la chaîne — donnée, règle, sortie, doute — et les laisser l’examiner à leur guise. Si vous enseignez l’IA ou l’étudiez et souhaitez utiliser ReefBeacon comme cas d’école, écrivez à hello@fledged.org.