AI 该出手的地方，与它绝不该出手的地方

2026年10月21日Green Horizon AI Scholars 团队

Green Horizon AI Scholars 致力于推动教育、研究，以及公众对人工智能的理解。正因如此，我们以 AI 为核心的旗舰项目 ReefBeacon，成了一个可以展示我们认为至关重要之原则的地方：AI 只有被用在它确实帮得上忙的地方，同时被挡在它绝不该去的地方，才能赢得信任。

这条规则

这条规则说出来很简单：重要的数字，一律由确定性代码基于公开发布的数据计算得出；AI 只用于它真正擅长的事情——编排日常流水线、解读图像、起草文字、回答问题——而绝不做那个负责算数的人。

落到实处

具体到 ReefBeacon 上：

热压力数据——海表温度（SST）、HotSpot、度热周（DHW）——来自 NOAA Coral Reef Watch 发布的卫星产品；而阈值判断（DHW 超过 4 触发预警，超过 8 标记为高风险）只是确定性代码里最普通的算术。任何模型输出都无法让一片珊瑚礁在风险档位之间移动。
日常流水线——读取数据、核对数据、为 65 个站点评级、生成随预警一同发出的简短评估——通过 AI 函数调用来编排：由模型协调各个工具，由工具产出数值。
调查照片的解读则在 AI 视觉确实能派上用场的地方使用它——为数千张图片的白化严重程度评级——每一个判断都附有置信度，置信度偏低的案例转交人工复核。
历史类问题依据一个带出处的历史事件库来回答；当库中沉淀的历史不足以给出诚实的答案时，系统会直说，而不是临场编造。

这为什么重要，且不止于珊瑚礁

对于一个同时教授 AI 素养的非营利组织而言，这是我们最希望公众真正内化的道理：问题从来不是“模型能不能做到这件事？”，而是“这件事该不该由模型来决定？”。温度读数是一次测量，风险档位是套用在这份测量结果上的一条规则。两者都不会因为出自语言模型就变得更好——而一旦没有人能够复核，它们都会立刻变差。可追溯性不是我们事后补上的功能，它本身就是架构。

把我们自己所践行的教出来

同样的原则如今贯穿于我们的课程与解读材料：把完整的链条摊开给学习者看——数据、规则、输出、质疑——并让他们自己去拉一拉这条链条。如果你正在教或学 AI，并且希望把 ReefBeacon 当作一个课堂案例，欢迎写信至 hello@fledged.org。