Green Horizon AI Scholarsは、人工知能に関する教育・研究、そして一般社会におけるその理解の推進を目的としています。そのため、人工知能を活用した主力のReefBeaconは、私たちが基盤だと考えることを実演する場となっています。すなわち、AIが信頼を得られるのは、AIが役に立つ場所で使われ、あってはならない場所から遠ざけられているときだけだということです。
原則
原則は単純です。重要な数値は、公開データから決定論的コードで計算します。AIは、AIが実際に得意とすること——毎日のパイプラインの指揮、画像の解釈、文章の下書き、質問への回答——に使います。計算機として使うことは決してありません。
実践
具体的には、ReefBeaconでは次のようにしています。
- 熱ストレスの数値——海面水温（SST）、HotSpot、積算熱ストレス週（DHW）——は、NOAA Coral Reef Watchが公開している衛星プロダクトに基づくものです。しきい値の判定（DHWが4を超えたら警戒、8を超えたら高リスクとして表示）は、決定論的コードによる単純な算術で処理します。モデルの出力によって、サンゴ礁がリスク区分をまたいで動くことはありません。
- 日常のパイプライン——データの読み込み、内容の確認、65の観測点の採点、アラートに付随する短い評価文の生成——は、AIの関数呼び出しによって指揮されています。モデルがツールを調整し、ツールが値を生み出します。
- 調査写真の解釈には、AIの視覚機能が本当に助けになる場所——数千枚に及ぶ画像の白化の重症度判定——でのみ用います。すべての判定には信頼度が付され、信頼度の低いケースは人によるレビューに回されます。
- 歴史に関する質問には、出典が示された過去事象ライブラリから答えます。ライブラリが正直に答えるのに必要な歴史を十分に保持していない場合、システムはその場しのぎの回答を選ぶのではなく、その旨を伝えます。
サンゴ礁以外でも重要な理由
人工知能のリテラシーも教えている非営利団体にとって、これは、私たちが最も一般に受け入れてほしい教訓です。問いは「モデルはこれができるか」ではなく、いつも「決めるのはモデルであるべきか」だからです。水温の測定値は計測値であり、リスク区分はその計測値に適用されるルールです。どちらも、言語モデルが生成したからといって良くなることはなく、誰も検証できなくなった瞬間に、どちらも悪化します。追跡可能性は後から付け加えた機能ではなく、設計そのものなのです。
実践していることを教える
同じ原則は、いま私たちのカリキュラムや解説にも流れ込んでいます。学習者に連鎖の全体——データ、ルール、出力、疑い——を見せ、そこから問いを掘り起こすよう促すのです。人工知能を教えたり学んだりしていて、ReefBeaconを授業の題材として使いたい場合は、hello@fledged.orgまでご連絡ください。