跳轉到

人工監督協議

本頁定義自動化驗證(驗證器)可以檢查的內容與需要人工審查(人機協作)的內容之間的邊界。它釐清 AI 治理證據流程中機器與人工判斷的責任。

目的

自動化驗證工具可以有效檢查結構和語法正確性,但無法取代依賴情境的決策所需的人工判斷。此協議:

  • 釐清驗證器可以和不能驗證的內容
  • 定義有效治理所需的人工審查範圍
  • 透過記錄人工監督流程來支援稽核說明
  • 為實施 AI 治理工作流程的組織提供框架

自動化驗證可以做的事(驗證器範圍)

AIMO 驗證器和類似的自動化工具可以檢查:

能力 說明
必要欄位/文件的完整性 驗證清單、EV 記錄和其他人工產物中所有必要欄位是否存在
結構一致性 驗證人工產物之間的參照、ID 和交叉連結(例如 request_id → review_id)
結構描述驗證 檢查 JSON/YAML 人工產物是否符合定義的結構描述
代碼格式驗證 驗證分類代碼是否符合預期模式(例如 UC-001
完整性檢查 驗證雜湊格式和存在(非針對內容重新計算)
字典驗證 確認代碼存在於分類字典中

請參閱驗證器了解詳細的驗證規則和參考實作。

需要人工審查的內容(人機協作範圍)

以下領域需要人工判斷,無法自動化:

能力 說明
依賴情境的風險判斷 根據組織情境評估業務、倫理和營運風險
例外核准理由 評估例外是否合理,補償控制是否充分
補救決策 優先處理修復、分配資源和確定時程
政策權衡 平衡競爭性要求(例如速度與徹底性、成本與風險)
殘餘風險接受 決定控制後的剩餘風險是否可接受
跨領域影響評估 評估對法律、人力資源、營運和其他功能的影響
內容準確性驗證 確認證據內容在事實上正確且完整
利害關係人溝通 向稽核員、監管機構和領導層解釋決策

責任邊界

面向 驗證器(機器) 人工審查者
結構 ✓ 可以驗證 如被標記則審查
完整性 ✓ 可以驗證欄位 驗證內容充分性
格式 ✓ 可以驗證
風險判斷 ✗ 無法評估 ✓ 必須評估
例外核准 ✗ 無法決定 ✓ 必須決定
補救優先順序 ✗ 無法排定優先順序 ✓ 必須排定優先順序
法律解釋 ✗ 無法解釋 ✓ 必須與法律顧問確認
稽核結論 ✗ 無法得出結論 ✓ 稽核員責任

!!! note "互補角色" 驗證器和人工審查是互補的,而非替代方案。驗證器在人工審查前確保結構一致性;人工審查確保情境適當性。

證據期望

實施人工監督的組織應記錄:

證據類型 說明
審查記錄 誰審查、何時審查以及做了什麼決定
核准理由 為什麼做出該決定(特別是對於例外)
上報記錄 何時以及為什麼將問題上報給更高權限
補救計畫 計劃的行動、負責人和處理問題的時程
簽核 正式證明審查已完成

這些記錄應根據最低證據要求納入證據包中。

不過度聲明

!!! warning "重要" 此協議定義了記錄人工監督的框架。它不會

- 提供法律建議或法規解釋
- 保證符合任何法規或標準
- 用自動化決策取代合格的人工判斷
- 規定特定的組織流程

組織必須根據其特定情境、風險概況和法規要求調整此框架。

相關頁面