AI Agent 責任與風險

先講結論

AI Agent 的重點不是會聊天，而是會動手。只要它能寄信、下單、改資料、呼叫 API 或操作內部系統，企業就要先處理權限、資料、人審、留痕、回復與責任邊界。

但不能因為工具叫 AI Agent，就直接說它一定受某一套 AI 專法管理。台灣公司要先看台灣現行法規與實際用途；涉及歐盟的產品、使用情境或輸出用途時，應另外確認 EU AI Act 的適用範圍、角色與義務，不只看公司設立地。

準備接上公司系統的團隊，可先填 AI Agent 權限控管檢查表：把「代理誰、對什麼資料做什麼、誰核准、何時失效」寫清楚，再做拒絕、撤權與重試測試。

台灣公司現在先看什麼

台灣目前沒有一套涵蓋所有民間 AI Agent 的統一強制流程。實際上要拆開看：

• Agent 會不會讀取客戶、員工或其他可識別個人的資料；若會，就要先確認個資的蒐集、處理、利用、告知與安全維護依據。
• Agent 會不會使用內部文件、原始碼、報價、客戶名單或其他營業秘密；若會，要限制資料範圍、外部傳輸與模型供應商的使用方式。
• Agent 能不能寄信、付款、下單、刪檔、改權限或對外承諾；高影響操作不宜只有模型自己決定，應設人審、金額或範圍門檻與可回復機制。
• 公司是否屬公務機關或經指定的特定非公務機關。資通安全管理法的直接義務有適用範圍，不能寫成所有一般民間公司一律適用；其他企業仍可能因個資、產業規範、契約或客戶要求而需要相應資安控制。

人工智慧基本法已把隱私與資料治理、資安與安全、透明、問責、人類監督及風險分類列入治理方向。這些原則有助於企業設計內控，但不等於所有民間公司已經有同一份 AI Agent 法定檢查表。

EU AI Act 怎麼看 AI Agent

EU AI Act Service Desk 的官方 FAQ 說明，AI Agent 不是 AI Act 下的獨立法律類別，這個詞也沒有單獨的法定定義。一般所稱的 Agent，通常可能構成 AI 系統，也常包含 GPAI 模型，因此要回到 AI 系統、GPAI、公司角色、預定用途與風險分類判斷。

對台灣公司最實用的時間點是：

• Agent 若用來和自然人互動或生成內容，且符合 AI Act 的適用範圍與角色，Article 50 透明義務原則上已自 2026 年 8 月 2 日起適用；仍要看具體功能、是否明顯、內容類型與例外，不是所有 Agent 都用同一種標示。官方時程另列特定既有合成內容生成系統提供者的 Article 50(2) 過渡期限至 2026 年 12 月 2 日，不代表所有透明義務一起延後。
• Agent 只有在符合高風險 AI 系統分類時，才進一步適用高風險要求。依目前官方時程，Annex III 相關規則自 2027 年 12 月 2 日適用，Annex I 產品內嵌高風險規則自 2028 年 8 月 2 日適用。
• 若底層 GPAI 模型可能具有系統性風險，自主程度與工具使用能力可能成為風險判斷因素；這不等於每個使用一般模型的企業都自動成為系統性風險模型提供者。

NIST 草案提醒：Agent 身分不等於人的授權

NIST NCCoE 的 2026 年 2 月概念草案，把 Agent 身分、授權、存取委派、操作留痕與資料來源追蹤列為擬議專案議題。對台灣團隊的實務提醒是：知道「哪個 Agent 執行」還不夠，也要知道「它代表誰、取得哪段授權、是否能再交給別的 Agent，以及何時應停止」。

例如主管只核准產生報價草稿，不代表核准寄給客戶；換了收件人、附件或金額，也不宜沿用原核准。這些是企業內控建議，應由實際系統的權限與審核流程落實，不只靠提示詞或 Agent 自我回報。

這份概念草案不是已完成的標準、強制流程或認證；專案初期範圍不含單純 RAG 問答與不可信外部 Agent 的身分管理。沒有包含在該草案，不代表那些系統就不需要資料權限與安全控制。

尚待確認、不能講太滿的地方

歐盟執委會明講，目前對 AI Agent 的監管考量仍屬初步，後續可能隨技術、指引與執法實務調整。這份 FAQ 是官方說明，不是替每個產品完成法律分類的判決書。

台灣方面，各目的事業主管機關依人工智慧基本法建立的風險管理規範與產業指引仍要持續追蹤。現階段不能寫成「所有民間公司使用 AI Agent 都已經有同一套強制法定流程」。

台灣團隊可以怎麼做

1. 先寫清楚 Agent 的市場、使用者、功能與公司角色，不要只記產品名稱。
2. 列出它可讀取、修改、刪除與送出的資料，以及能呼叫的每一個外部工具或 API。
3. 把付款、對外承諾、刪除、改權限與大量操作設為人工確認或雙重核准。
4. 保存必要的輸入來源識別、工具呼叫、重要結果、人工核准與錯誤處理紀錄；設定保存期限與存取權限，不把密碼、token 或無必要的完整個資寫進日誌。
5. 若涉及歐盟市場、使用情境或輸出用途，再逐項確認適用範圍、Article 50、AI 系統或 GPAI 角色，以及是否落入高風險分類；不要把歐盟規則直接改寫成台灣義務。