Tổ chức của chúng tôi tồn tại để thúc đẩy giáo dục, nghiên cứu và sự hiểu biết của công chúng về trí tuệ nhân tạo. Điều đó khiến ReefBeacon, chương trình trụ cột có dùng AI của chúng tôi, trở thành nơi để thể hiện một điều chúng tôi coi là nền tảng: AI chỉ gây được lòng tin khi được dùng ở nơi nó giúp ích, và được giữ cách xa nơi nó không nên bước vào.
Quy tắc
Quy tắc này rất dễ phát biểu. Những con số có ý nghĩa được tính toán bằng mã tất định từ dữ liệu đã công bố; AI được dùng cho đúng những việc AI thực sự giỏi — điều phối quy trình hằng ngày, diễn giải hình ảnh, soạn thảo văn bản, trả lời câu hỏi — và không bao giờ đóng vai máy tính.
Trong thực tế
Cụ thể, trên ReefBeacon:
- Các con số về stress nhiệt — nhiệt độ bề mặt biển (SST), HotSpot, Degree Heating Weeks — đến từ các sản phẩm vệ tinh đã công bố của NOAA Coral Reef Watch, và các đánh giá theo ngưỡng (DHW trên 4 là cảnh báo, trên 8 là mức rủi ro cao) chỉ là phép tính đơn giản trong mã tất định. Không có kết quả của mô hình nào có thể đưa một rạn san hô qua lại giữa các mức rủi ro.
- Quy trình hằng ngày — đọc dữ liệu, kiểm tra dữ liệu, chấm điểm 65 trạm, tạo ra các đánh giá ngắn đi kèm cảnh báo — được điều phối bằng cơ chế gọi hàm của AI (AI function-calling): mô hình điều phối các công cụ; các công cụ tạo ra các giá trị.
- Diễn giải ảnh khảo sát dùng thị giác AI ở nơi nó thực sự hữu ích — chấm điểm mức độ bạc màu trên hàng nghìn ảnh — với mức độ tin cậy được gắn vào mỗi đánh giá, và các trường hợp có độ tin cậy thấp được chuyển cho con người rà soát.
- Các câu hỏi về lịch sử được trả lời từ một thư viện sự kiện có trích dẫn, và khi thư viện không có đủ dữ liệu lịch sử để trả lời một cách trung thực, hệ thống sẽ nói thẳng điều đó thay vì tự bịa ra.
Vì sao điều này quan trọng ngoài rạn san hô
Với một tổ chức phi lợi nhuận vừa dạy hiểu biết AI cho công chúng, đây là bài học chúng tôi muốn công chúng thấm nhuần nhất: câu hỏi không bao giờ là “mô hình có làm được điều này không?” mà là “mô hình có nên là bên quyết định điều này không?” Một số đọc nhiệt độ là một phép đo. Một mức rủi ro là một quy tắc áp dụng cho phép đo đó. Không điều nào trở nên tốt hơn chỉ vì một mô hình ngôn ngữ tạo ra nó — và cả hai đều trở nên tệ hơn ngay khi không ai có thể kiểm chứng. Khả năng truy vết không phải là một tính năng chúng tôi bổ sung thêm; nó chính là kiến trúc của hệ thống.
Dạy đúng điều chúng tôi thực hành
Nguyên tắc ấy giờ xuyên suốt các chương trình học và các tài liệu giải thích của chúng tôi: cho người học thấy trọn chuỗi — dữ liệu, quy tắc, kết quả, sự nghi ngờ — rồi để họ tự kéo thử từng mắt xích. Nếu bạn dạy hoặc học về AI và muốn dùng ReefBeacon làm một ca học trên lớp, hãy viết cho chúng tôi tại hello@fledged.org.