PCPD 關於代理式 AI 的指引：要求你控制什麼

聊天機械人負責回答，代理則負責行動。當系統可以發送電郵、查詢資料庫或呼叫其他服務，治理問題就不再關於模型的輸出，而是關於它持有的權限。

指引建議的事項

• 只授予代理所需的最低權限，不多不少。
• 把外掛與連接的工具，當作第三方供應商般審視。
• 為代理儲存與記錄的內容設定保留期限。
• 持續評估，而不是只在部署時評估一次。
• 對有重大後果的動作保留人工介入。
• 指派具名的治理責任人。

從哪裡開始

在現有的 AI 清冊上加一欄「代理」：自主程度、可用的工具、資料範圍、負責人及上次覆核日期。這是半天的工作，卻能在問題被提出前先回答它。