우리의 조직은 인공지능에 대한 교육, 연구, 그리고 대중의 이해를 발전시키기 위해 존재합니다. 이것이 AI를 사용하는 우리 대표 프로그램인 ReefBeacon이 우리가 근본적으로 중요하게 여기는 것을 실천할 수 있는 장소인 이유입니다. 즉, AI는 도움이 되는 곳에서 사용될 때, 그리고 절대로 다가가면 안 되는 곳에서는 멀리할 때만 신뢰를 얻습니다.
원칙
이 원칙은 말로 옮기기는 간단합니다. 중요한 숫자는 공개된 데이터로부터 결정론적 코드로 계산되고, AI는 AI가 실제로 잘하는 일 — 일일 파이프라인 조율, 이미지 해석, 문안 작성, 질문에 답하기 — 에만 사용되며, 절대 계산기로 쓰이지 않습니다.
실제로는
구체적으로, ReefBeacon에서는 다음과 같이 진행합니다:
- 열 스트레스 수치 — 해수면 온도, HotSpot, Degree Heating Weeks — 는 NOAA Coral Reef Watch가 공개한 위성 제품에서 가져오며, 임계값 판단(DHW 4 초과 시 경보, 8 초과 시 높은 위험 표시)은 결정론적 코드의 단순한 산술 연산입니다. 어떤 모델의 출력도 산호초를 위험 등급 사이로 이동시킬 수 없습니다.
- 일일 파이프라인 — 데이터를 읽고, 검증하고, 65개 관측 지점을 평가하고, 경보와 함께 제공되는 짧은 평가 보고서를 생성하는 작업 — 은 AI 함수 호출로 조율됩니다. 모델이 도구를 조율하고, 도구가 값을 만들어 냅니다.
- 조사 사진 해석 에는 AI 비전이 실제로 도움이 되는 곳에서 사용됩니다 — 수천 장의 이미지에 걸친 백화 심각도 평가 — 이며, 모든 판단에는 신뢰 수준이 붙고, 신뢰도가 낮은 사례는 사람에 의한 검토로 전달됩니다.
- 과거에 관한 질문 은 출처가 명확한 사건 라이브러리를 기반으로 답하며, 라이브러리에 정직하게 답할 만큼의 기록이 없을 때에는 시스템이 즉흥적으로 지어내지 않고 그 사실을 그대로 알려줍니다.
이것이 산호초를 넘어 중요한 이유
AI 문해력을 가르치는 비영리 단체로서, 이것은 우리가 대중에게 가장 각인시키고 싶은 교훈입니다. 질문은 결코 “모델이 이걸 할 수 있는가?“가 아니라 “결정하는 쪽이 모델이어야 하는가?“입니다. 온도 측정값은 측정값입니다. 위험 등급은 그 측정값에 적용된 규칙입니다. 언어 모델이 만들어냈다는 이유로 둘 중 어느 것도 더 좋아지지 않으며, 누구도 확인할 수 없게 되는 순간 둘 다 더 나빠집니다. 추적 가능성은 우리가 덧붙인 기능이 아닙니다. 그것이 곧 아키텍처입니다.
우리가 실천하는 것을 가르치기
같은 원칙이 이제 우리의 커리큘럼과 해설 자료 전반에 흐르고 있습니다: 학습자에게 전체 체인 — 데이터, 규칙, 출력, 의문 — 을 보여주고, 그들이 직접 잡아당겨 보게 하세요. AI를 가르치거나 공부하며 ReefBeacon을 교실 사례로 사용하고 싶다면 hello@fledged.org로 편지해 주세요.