先抓重點
- AI Agent 不應使用共用高權限帳號。
- 高風險操作要有人審或二次確認。
- 操作日誌要能追到誰、何時、用哪個工具、對哪筆資料做了什麼。
判斷流程
先把問題拆成五個關卡
這個流程用來判斷能不能用、怎麼用,以及哪些情況要升級給負責人、法務、資安或其他專業人員確認。
- 01
先看資料類型
要處理的內容是公開資料、內部文件、個人資料,還是機密資料?不同資料,能用的工具與審核強度不同。
- 02
確認工具與權限
工具是否經組織允許或審查?帳號、工作區、資料留存與模型訓練設定是否有人管理?
- 03
判斷輸出用途
只是個人草稿,還是會影響評量、服務、交易、契約、醫療或其他重要權益?用途越接近對外承諾或權益判斷,越需要人工審核。
- 04
指定責任邊界
誰能使用或送出?誰要覆核?出錯時誰修正?不要讓 AI 產出直接變成最後判斷或對外承諾。
- 05
留下必要紀錄
工具審核、使用規則、人工覆核與例外核准都要留下紀錄,之後才說得清楚組織怎麼管理風險。
官方已確認
現在可以放心寫進頁面的事
- 資通安全管理法及其施行細則規範公務機關與特定非公務機關的資安管理,不能直接擴張為所有民間公司的同一套 Agent 義務。
- 人工智慧基本法建立 AI 風險治理上位框架,並要求政府使用 AI 時進行風險評估與內控管理。
- 個人資料保護法要求個資蒐集、處理與利用不得逾越特定目的的必要範圍,操作紀錄含個資時也要注意。
尚待細則
不要寫成已定案
- 民間 AI Agent 的細部責任、稽核與標示要求仍需看後續主管機關或產業指引。
- NIST 所引文件仍為 2026 年 2 月概念草案;不能把本文欄位稱為已完成的官方標準或認證要求。
實務風險
真正容易出事的地方
這些不是為了嚇人,而是組織導入 ChatGPT 或其他 AI 工具前,最需要先擋住的常見破口。
AI Agent 誤寄信、誤下單或誤觸外部 API,直接改變公司對外行為。
AI Agent 修改錯誤資料、覆蓋紀錄或批次處理錯誤,事後難以回復。
API 權限過大或共用高權限帳號,導致客戶資料、交易資料或內部系統資料外洩。
建議行動
第一版制度先做這幾件事
不用一開始做成厚重制度,先讓相關人員知道哪些資料不能輸入、哪些輸出要審、哪些工具可以用。
- 使用最小權限,避免共用高權限帳號。
- 建立可讀、可寫、可寄送、可下單與可刪除項目白名單。
- 高風險動作停在待核准狀態,不讓 Agent 自動完成。
- 把人審綁定這次任務的收件人、資料版本與動作;變更時重新確認。
- 測試到期、撤權、轉交其他 Agent 與重試情境,保留必要日誌並訂定停用、回復及補救流程。
紀錄與佐證
至少要留這些紀錄
補充說明
先看它能做什麼,不只看產品名稱
同樣是「幫我處理報價」,只產生一段文字、讀取客戶資料、建立郵件草稿和實際寄出,是四種不同範圍。不要因為前一步做得好,就把後面的權限一起開放。
例如先限定指定客戶和已核准報價單,只讓 Agent 在指定工作區產生草稿;寄出、修改金額、匯出名單或刪除資料都另行判斷。可直接用 AI Agent 權限控管檢查表填出這個任務的範圍。
Agent 是誰、代表誰,要分開記
Agent 的帳號或服務身分,用來辨識實際執行者;委派人、業務負責人與核准人,則用來說明任務和授權來源。只記「客服機器人」通常無法回答是哪個版本、哪個人的哪次任務。
建議替任務設定允許工具、資料對象、動作、期限與撤權負責人。需要交給另一個 Agent 時,另記轉委派範圍;原任務取消後,也要確認下游工作不會繼續執行。這是內控設計建議,不是要求所有企業使用同一套身分技術。
人審不是一句「同意」,而是核准這次動作
| 人審要看的項目 | 報價郵件的例子 |
|---|---|
| 實際對象 | 收件人與副本對象,而不是「客戶」兩字 |
| 實際內容 | 郵件內容、附件及報價版本 |
| 允許動作 | 只建草稿,或允許寄出這一封 |
| 變更與期限 | 改收件人、附件、金額或核准逾期時重新確認 |
高影響動作應由系統審核流程限制,不能只在提示詞寫「記得問人」。工具逾時也不等於沒有執行:寄信、下單等重試前先查實際結果;無法確認時,停下交給負責人處理。
日誌留到能追查,不是把秘密再存一份
至少先檢查能否串起任務編號、Agent 身分與版本、委派人、授權版本、工具、操作對象、時間、核准內容及實際結果;成功、拒絕與中止都需要可區分。輸入來源可記受控文件代號或版本,不一定要複製全文。
不要把密碼、token、無必要的完整客戶資料或整段對話一律寫入日誌。保存多久、誰能看、何時刪除,依目的、資料、產業規範與契約確認。已寄出的訊息未必能收回,事故流程要分開寫「停止後續動作」「可還原資料」與「對外補救」,不能只承諾全部自動復原。
官方資料說到哪裡,實務建議從哪裡開始
台灣《資通安全管理法》的直接義務有適用範圍,《人工智慧基本法》第 19 條則針對政府使用 AI 的風險評估與內控;不能據此宣布所有一般民間企業都有同一份法定 Agent 流程。若處理個資,仍要回到個人資料保護法確認蒐集、處理、利用與必要範圍。
NIST NCCoE 的 2026 年 2 月概念草案提供身分、委派、授權與留痕的研究方向,並不是已完成的標準。其初期範圍不含單純 RAG 問答;但只讀問答仍可能接觸敏感資料,不代表可以跳過資料權限。歐盟角色與義務另見 AI Agent 責任與風險,不要把國際草案當成台灣法律。
常見問題
讀完後通常還會問
AI Agent 只是輔助工具,也要留日誌嗎?
如果它能讀寫資料、呼叫 API 或改變系統狀態,就應該保留操作紀錄。
AI Agent 只讀資料、不寫入,也要控管權限嗎?
要。只讀權限仍可能接觸個資、營業秘密或內部系統資料,至少要限制可讀範圍、保留查詢紀錄,並避免共用高權限帳號。
只要把完整對話存下來,就算有操作留痕嗎?
不夠。對話未必包含實際工具結果、授權版本與核准內容,還可能多存個資或秘密。建議以任務、Agent、委派人、工具、對象、時間、核准及結果的必要欄位建立可追查紀錄。
來源與查證
回到官方原始頁面
- 01資通安全管理法全國法規資料庫 / 查證 2026-08-31開啟
- 02資通安全管理法施行細則全國法規資料庫 / 查證 2026-08-31開啟
- 03人工智慧基本法國科會主管法規共用系統 / 查證 2026-08-31開啟
- 04個人資料保護法全國法規資料庫 / 查證 2026-08-31開啟
- 05Software and AI Agent Identity and Authorization 專案說明NIST NCCoE / 查證 2026-08-31開啟
- 06Accelerating the Adoption of Software and AI Agent Identity and Authorization(2026-02 概念草案)NIST NCCoE / 查證 2026-08-31開啟