人工監督協議
本頁定義自動化驗證(驗證器)可以檢查的內容與需要人工審查(人機協作)的內容之間的邊界。它釐清 AI 治理證據流程中機器與人工判斷的責任。
目的
自動化驗證工具可以有效檢查結構和語法正確性,但無法取代依賴情境的決策所需的人工判斷。此協議:
- 釐清驗證器可以和不能驗證的內容
- 定義有效治理所需的人工審查範圍
- 透過記錄人工監督流程來支援稽核說明
- 為實施 AI 治理工作流程的組織提供框架
自動化驗證可以做的事(驗證器範圍)
AIMO 驗證器和類似的自動化工具可以檢查:
| 能力 | 說明 |
|---|---|
| 必要欄位/文件的完整性 | 驗證清單、EV 記錄和其他人工產物中所有必要欄位是否存在 |
| 結構一致性 | 驗證人工產物之間的參照、ID 和交叉連結(例如 request_id → review_id) |
| 結構描述驗證 | 檢查 JSON/YAML 人工產物是否符合定義的結構描述 |
| 代碼格式驗證 | 驗證分類代碼是否符合預期模式(例如 UC-001) |
| 完整性檢查 | 驗證雜湊格式和存在(非針對內容重新計算) |
| 字典驗證 | 確認代碼存在於分類字典中 |
請參閱驗證器了解詳細的驗證規則和參考實作。
需要人工審查的內容(人機協作範圍)
以下領域需要人工判斷,無法自動化:
| 能力 | 說明 |
|---|---|
| 依賴情境的風險判斷 | 根據組織情境評估業務、倫理和營運風險 |
| 例外核准理由 | 評估例外是否合理,補償控制是否充分 |
| 補救決策 | 優先處理修復、分配資源和確定時程 |
| 政策權衡 | 平衡競爭性要求(例如速度與徹底性、成本與風險) |
| 殘餘風險接受 | 決定控制後的剩餘風險是否可接受 |
| 跨領域影響評估 | 評估對法律、人力資源、營運和其他功能的影響 |
| 內容準確性驗證 | 確認證據內容在事實上正確且完整 |
| 利害關係人溝通 | 向稽核員、監管機構和領導層解釋決策 |
責任邊界
| 面向 | 驗證器(機器) | 人工審查者 |
|---|---|---|
| 結構 | ✓ 可以驗證 | 如被標記則審查 |
| 完整性 | ✓ 可以驗證欄位 | 驗證內容充分性 |
| 格式 | ✓ 可以驗證 | — |
| 風險判斷 | ✗ 無法評估 | ✓ 必須評估 |
| 例外核准 | ✗ 無法決定 | ✓ 必須決定 |
| 補救優先順序 | ✗ 無法排定優先順序 | ✓ 必須排定優先順序 |
| 法律解釋 | ✗ 無法解釋 | ✓ 必須與法律顧問確認 |
| 稽核結論 | ✗ 無法得出結論 | ✓ 稽核員責任 |
!!! note "互補角色" 驗證器和人工審查是互補的,而非替代方案。驗證器在人工審查前確保結構一致性;人工審查確保情境適當性。
證據期望
實施人工監督的組織應記錄:
| 證據類型 | 說明 |
|---|---|
| 審查記錄 | 誰審查、何時審查以及做了什麼決定 |
| 核准理由 | 為什麼做出該決定(特別是對於例外) |
| 上報記錄 | 何時以及為什麼將問題上報給更高權限 |
| 補救計畫 | 計劃的行動、負責人和處理問題的時程 |
| 簽核 | 正式證明審查已完成 |
這些記錄應根據最低證據要求納入證據包中。
不過度聲明
!!! warning "重要" 此協議定義了記錄人工監督的框架。它不會:
- 提供法律建議或法規解釋
- 保證符合任何法規或標準
- 用自動化決策取代合格的人工判斷
- 規定特定的組織流程
組織必須根據其特定情境、風險概況和法規要求調整此框架。