Nuestra organización existe para promover la educación, la investigación y la comprensión pública de la inteligencia artificial. Por eso, ReefBeacon, nuestro programa insignia que usa IA, es el lugar ideal para demostrar algo que consideramos fundamental: la IA solo genera confianza cuando se usa donde ayuda y se mantiene lejos de donde no debe estar.
La regla
La regla es fácil de enunciar. Los números que importan los calcula código determinista a partir de datos publicados; la IA se usa para lo que la IA hace bien de verdad — orquestar el pipeline diario, interpretar imágenes, redactar textos, responder preguntas — y nunca como calculadora.
En la práctica
En concreto, en ReefBeacon:
- Las cifras de estrés térmico — temperatura superficial del mar, HotSpot, Degree Heating Weeks (Semanas de Calentamiento por Grados) — provienen de los productos satelitales publicados por NOAA Coral Reef Watch, y los juicios de umbral (DHW superior a 4 activa alertas, superior a 8 marca riesgo alto) son aritmética sencilla en código determinista. Ninguna salida de un modelo puede mover un arrecife de un nivel de riesgo a otro.
- El pipeline diario — leer los datos, verificarlos, calificar 65 estaciones, generar las breves evaluaciones que acompañan a las alertas — se orquesta con llamadas a funciones de IA: el modelo coordina las herramientas; las herramientas producen los valores.
- La interpretación de fotos de muestreo usa visión por IA donde realmente aporta valor — calificar la severidad del blanqueamiento en miles de imágenes — con un nivel de confianza asociado a cada juicio, y los casos de baja confianza se envían a revisión humana.
- Las preguntas históricas se responden a partir de una biblioteca de eventos citada, y cuando la biblioteca no tiene suficiente historial para responder con honestidad, el sistema lo dice en lugar de improvisar.
Por qué esto importa más allá de los arrecifes
Para una organización sin fines de lucro que además enseña alfabetización en IA, esta es la lección que más queremos que el público interiorice: la pregunta nunca es «¿puede un modelo hacer esto?», sino «¿debería ser un modelo quien decida esto?». Una lectura de temperatura es una medición. Un nivel de riesgo es una regla aplicada a esa medición. Ninguna de las dos mejora porque un modelo de lenguaje la haya producido, y ambas empeoran en el momento en que ya nadie puede verificarlas. La trazabilidad no es una función que añadimos; es la arquitectura.
Enseñar lo que practicamos
El mismo principio recorre ahora nuestros currículos y nuestros materiales de divulgación: mostrar a quienes aprenden la cadena completa — datos, regla, resultado, duda — y dejarlos tirar de ella. Si enseñas o estudias IA y quieres usar ReefBeacon como caso de aula, escribe a hello@fledged.org.