AI 幫得上忙的地方,與不該介入的地方

我們的組織存在的目的,是推動人工智慧的教育、研究與公眾理解。也因此,我們以 AI 為核心的旗艦專案 ReefBeacon,成為一個能夠示範我們視為最根本之事的地方:AI 只有用在有幫助的地方、並被隔絕在不該踏入之處,才能贏得信任。

這條規則

這條規則說起來很簡單。真正要緊的數字,一律由具確定性的程式碼依據已公開的資料算出;AI 則用在 AI 真正擅長的地方——調度每日作業流程、判讀影像、起草文字、回答問題——而絕不拿來算數。

實際做法

以 ReefBeacon 為例,具體做法如下:

  1. 熱壓力數值——海表溫度(SST)、HotSpot、累積熱度週(DHW)——取自 NOAA Coral Reef Watch 公布的衛星產品;閾值判斷(DHW 高於 4 發出警示、高於 8 標示為高風險)則是具確定性程式碼裡的單純算術。沒有任何模型輸出能把一座珊瑚礁從一個風險等級移到另一個。
  2. 每日作業流程——讀取資料、查核資料、為 65 個觀測站評分、產出隨警示附上的簡短評估——以 AI 的函式呼叫(function-calling)來調度:模型負責協調工具,工具負責產出數值。
  3. 調查照片判讀在 AI 視覺真正有幫助的地方使用它——為數千張照片評定白化嚴重度——每一項判斷都附有信賴水準,信賴程度偏低的個案則轉交人工複核。
  4. 歷史問題由附有出處的事件資料庫作答;當資料庫沒有足夠的歷史、不足以誠實回答時,系統會據實說明,而不是即興編造。

這件事不只關乎珊瑚礁

對一個同時教導 AI 素養的非營利組織而言,這是我們最希望公眾內化的一課:問題從來不是「模型能不能做這件事?」而是「這件事該不該由模型來決定?」溫度讀數是一項量測,風險等級則是套用在量測上的規則。兩者都不會因為出自語言模型而變得更好——反而在沒有任何人能加以查核的那一刻,同時變差。可追溯性不是我們事後加上的功能;它就是架構本身。

把我們的實踐變成教材

同一條原則如今也貫穿我們的課程與解說:把整條鏈路攤開給學習者看——資料、規則、輸出、懷疑——讓他們自己去追問。如果你在教或學 AI,並希望把 ReefBeacon 當作課堂案例,請寫信給我們:hello@fledged.org。