
AI Agent 人工審核該放在哪一步,不必從風險分級矩陣查起。我們陪六家台灣企業導入的紀錄顯示,省下的時間全落在蒐集、換算與整理,沒有一個省在判斷。剩下那個判斷,就是不能交出去的決定。本文整理這六個流程的保留點,以及怎麼在自己的流程裡找到它。
本段重點:先看時間省在哪,不用查分級表
多數人第一次評估 AI Agent,真正猶豫的不是「做不做得到」。是「這個決定我不敢交出去」。這個直覺是對的,只是它常被講成全有全無:要嘛整段流程交給 AI,要嘛維持現狀。
我們陪六家企業走過的紀錄,答案比較具體。每一條都保留了一項決定,而且六個保留點的位置全都不一樣。木子留在利潤比例、一家飯店留在按下調價按鈕、IMAG 留在什麼時候可以多信任 AI 一點。位置不一樣,代表沒辦法從一張通用分級表查到。
國際標準這一年動得很快。OWASP 把過度代理權(Excessive Agency,指系統被給了超過必要的權限、功能或自主程度)排到第三 [1],防護原則仍是要求高影響動作在執行前先由人核准 [2]。NIST 針對 AI Agent 的標準計畫在 2026 年 2 月才剛啟動 [3][4],企業還是沒有現成規範可以照抄。資策會 MIC 2025 年的調查建議也指向同一件事:先確認應用情境,再找落差 [5]。標準在追、企業在跑,劃線只能自己做。
起點在哪裡?六個案例給了同一個答案:先定義邊界,不是先建系統。通知門檻、價格的天花板與地板、分析規則、材質計算規則、核准權歸誰、資料開放到哪裡。這些邊界定完,哪些東西不能交出去就浮出來了。風險分級是邊界定完之後的檢查工具,不是起點。
本段重點:被自動化的全是整理,被留下的全是判斷
六個流程被自動化的都是蒐集、換算、整理這三類動作,被保留的則是具體的商業判斷。下表按「自動化哪一段、省下什麼、人保留哪個決定」對照,每一列的保留點位置都不同。
把六列並排看,有兩件事會跳出來。
第一,省下的時間全部集中在同一類動作。打開後台抄價、把不同平台的價格換成同一套口徑、把工程算完的料件逐筆輸進 CRM,都屬於這一類。這些動作耗時間,但不需要承擔後果。
第二,六個保留點散落在不同位置。有的在數字,有的在某個動作,有的在某個範圍,有的在時間點。散開的原因是每條流程的不可逆之處本來就不在同一處。這也說明為什麼通用分級表會失靈:它可以告訴你「涉及金流要人核准」,但它沒辦法告訴 IMAG,他們真正要守的是信任升級的節奏,而不是任何單一筆報告。
本段重點:每個都是定義邊界之後才冒出來的
以下六個流程的保留點都不是事前規劃出來的。全都是在把流程拆開、定義邊界的過程中浮現的。
客戶寄來圖紙,業務轉給工程判讀 UL、VDE 等安規。確認後查料件、計算 BOM(物料清單,Bill of Materials);工程算完,業務還要把資料逐筆輸入 CRM 建成本單。客戶改一次規格就重跑一次,來回三到五次是常態。
我們和木子沒有一次處理整條報價流程,只選了一段:BOM 後段自動建立 CRM 成本單。前置工作是資訊主管整理 CRM 的 API 文件、工程端整理安規知識與不同材質的計算規則,Agent 才有東西可讀。完成後報價生成縮短到兩分鐘內,業務與工程的往返時間減少約 80%,手動輸入錯誤率從 20% 降到趨近於零。
保留下來的是利潤比例,加上一道主管審核。Agent 算得出成本,但這張單該用什麼利潤牽涉客戶關係與這一季的策略,沒有一條規則寫得完。
導入前由一名同仁負責五個通路的競品巡查。涵蓋數十個品牌系列、上百個 SKU,還要支援品牌與行銷企劃。難的不只是量,而是口徑:同一項商品可能同時有組合價、會員價、運費補貼、點數抵扣與搭贈,只比標價會得出相反的結論。一輪完整巡查約 3 小時。檔期前後,競品可能一天內再調價。
專案的第一件事不是建系統,是定義「哪些變動要立即通知、哪些放進例行摘要」。這件前置工作看起來拖慢進度,但它決定了後續雜訊多寡。監控邏輯確認後,Agent 才依排程蒐集、依品牌定義的規則換算單位成本與實際折扣率。每月例行查價工時從 30 到 40 小時降到 6 到 8 小時,單次整理從約 3 小時縮短為約 20 分鐘的重點審閱。
保留點是價格決策。Agent 把輸入整理得一致又及時,要不要調、調多少,留給了解毛利、庫存與品牌定位的主管。讓 AI 進一步提供定價建議列在下一階段,仍在規劃中。
艾邁格(IMAG)團隊 86 人,服務全球 50 多個精品品牌。分析師產出一份全球營運月報要花整整 3 天。報告送出後客戶的追問才開始,業務只能回頭找分析師補數據;客戶遍布歐洲多國,不少人英文程度有限。
我們和 IMAG 花了大量時間訪談與反覆測試。目標是把資深分析師腦中的規則轉成 AI 讀得懂的條件。例如一線精品珠寶的店長長期觀察到,約 70% 買了手鍊的顧客會在六個月內回購戒指,這種藏在個人經驗裡的洞察被寫成 AI 能自動辨識的商機規則。月報從 3 天縮到 1 分鐘,現在 3 個人就能顧全球 50 多個品牌的分析需求;助手支援中、英、法、西四種語言,客戶能用母語直接追問。
IMAG 的保留點比較少見:它不在某一筆數字,而在信任升級的時機。團隊先把這支 AI 定位成「菜鳥數據分析師」,等團隊和客戶都認可它的表現,才升級為「資深數據分析師」、交給它更複雜的任務。這個決定無法自動化,因為它要判斷的是「我們現在相信它到什麼程度」。執行長 Henry 把前置條件講得更前面:「導入 AI 最大的挑戰,在於問題定義要清楚。企業必須先釐清自己真正的痛點,問題清楚了,技術解決方案就水到渠成。」
收益經理每天約 2 小時花在競品房價。追 OTA(線上旅行社)上的報價,再回頭對 PMS(飯店管理系統)的住房數據,資料散在不同系統,要人去搬、去對。
這個流程的第一步是先設定價格的天花板與地板。界線定好,Agent 才整合 OTA 競品房價與 PMS 住房數據產出調價建議,把每天的 2 小時壓到 5 分鐘。保留的是按下按鈕這個動作本身,再加上三道都能否決 AI 建議的安全閥。如果你想看這三道安全閥各自擋什麼,飯店定價那篇有完整的矩陣。
良興的業務對練教材由 AI 產生草稿,要主管核准才能正式生效。專案一開始就把「產生內容」和「核准發布」兩個權限分開。另一個業務對練專案的每輪練習會產生評分、回饋與改善方向。主管看的是練習次數與能力缺口。是否開放完整對話,則先問主管要解決什麼問題,再決定資料開放範圍。
六個流程還有一處共通:都從一段流程開始,用過之後才知道下一步要什麼。木子從報價助手走到專屬工作台、婕洛妮絲從監控走向定價建議、IMAG 從菜鳥走到資深、飯店從部分房型走到全面。如果你想了解這種「先解一個具體問題、再根據使用紀錄接著改」的合作方式,FDE 這篇完整拆解過。
本段重點:三步加一題,照時間反推就找得到
定位保留點有三個步驟,加上一個容易被略過的前置確認。三步做完,審核節點的位置就確定了。
拿一件最近做過的實例。一張報價、一份月報、一輪巡查、一次調價都可以。從頭到尾拆成步驟,每步標上花多久,再圈出純粹在搬資料、換算、彙整的步驟。這些就是可以交出去的部分。這一步不需要工具,只需要一件真的做過的事。
圈完之後會剩下一到兩步。對每一步問:這個決定,需不需要把商業脈絡理解透才能下?需要的,就是保留點。婕洛妮絲那個案例就是這樣:Agent 能把到手價換成同一套口徑,但要不要跟著降仍然需要人判斷。
如果剩下的那一步也不需要理解脈絡,它通常是一條還沒寫出來的規則,不是審核節點。該做的是把規則寫出來,不是叫人每次蓋章。
最後一步是把責任與可逆性接上。這個決定錯了誰要出面處理?能不能改回來、要多久?
對外價格屬於改得回來、但代價已經產生的那一類,所以護欄要設在執行之前。飯店定價那個流程就設了三道閥,每一道都能否決 AI 的建議。
這一步也是向稽核與主管解釋的依據:你不是在說「AI 會幫我們盯」,而是「這個決定還是某個人負責的,紀錄在這裡」。
IMAG 和婕洛妮絲都在前期花了大量時間訪談與測試。目的是把資深同事腦中的個人經驗寫成 AI 讀得懂的條件。這份梳理本身就是公司資產,而且往往比建系統花更久。如果你的流程裡有「只有某個人知道怎麼判斷」的步驟,先把那套邏輯寫出來,是排在三步之前的準備工作。
如果你走完三步,發現剩下的那一步整段都不該交給 AI Agent,那是另一題,不在本文處理範圍。
本段重點:留得住的不是人盯著,是紀錄
保留點確定之後,系統要讓這個決定留得下紀錄。誰在什麼時候核准了什麼、Agent 當時讀了什麼、出問題時能回到哪一版,都要可追溯。少了這一層,審核節點只是口頭約定。
AltaBots.ai 是企業級 AI Agent 平台。在這一層它提供的能力包括:關鍵流程可設人工審核節點(Human-in-the-Loop,指在自動化流程中保留人類核准或介入的環節);Logtree 節點級日誌依時間順序與執行層級展示節點流程,可查每個節點的輸入與輸出;業務層級操作日誌記錄誰、何時、對哪個 Agent 執行了什麼操作;版本控制支援草稿、發布、還原與儲存,知識庫與設定可隨時回滾至上一版本;權限層提供精細化角色與權限管理,含 RBAC 與 SSO。良興把「產生內容」和「核准發布」分開,靠的就是最後這兩項。
給 IT 主管的補充:導入時先確認三件事。① 審核節點放在 Workflow 的哪一步之前,以及被擋下來時走哪條路。② 日誌保存多久、誰有權調閱,特別是紀錄涉及員工個人資料時。③ 部署方式,平台支援本地、私有雲與混合架構。還有一點值得先講清楚:審核節點不等於每一步都停下來等人,六個案例的節點都只攔一個決定,其餘步驟照跑。
權限該怎麼分層,是另一題。如果你正在處理「誰能看、誰能改、誰能發布」,權限管理這篇有完整的角色矩陣與盤點清單;如果你要劃的那條線落在售後客服,可逆與不可逆這條判準比本文的三步法更貼近那個場景。
走到這裡你可能會發現一件事。難的地方不在平台有沒有這些功能,而在把自家流程的邊界定義出來。這段工作六個案例都是和我們的顧問一起完成的,不是買完工具之後各自憑經驗推進。
本段重點:不是別用,是別把那個決定交出去
六個流程跑下來,被省掉的全是整理工作,沒有一項省在判斷。結論不是別用 AI Agent,是別把那個決定也交出去。而它在哪裡,從時間省在哪反推就找得到。
手上有一段反覆發生、牽涉多人或多個系統的流程,但不確定線該劃在哪一步?Data-DI 提供 30 分鐘免費 AI Agent 導入診斷。我們的顧問會和你一起把流程拆開、標出哪些步驟可以交出去、哪一個決定要留著,以及紀錄該怎麼留。不需要先準備資料或寫規格,把這段流程目前怎麼跑的講給我們聽就可以開始。
本文案例素材來自 Data-DI 客戶導入實績:木子、IMAG 艾邁格、婕洛妮絲與良興已公開或已授權具名,另一組業務對練專案維持匿名。各案數字為該客戶在特定流程下的成果,不代表每家企業都會得到相同結果。
[1] OWASP GenAI Security Project。(2026.09)。OWASP GenAI Security Project Unveils 2026 Top 10 for LLM Applications, New Agent Control Standard and Sponsors as Community Tops 30,000 Members。OWASP GenAI Security Project。
https://genai.owasp.org/2026/09/01/owasp-genai-security-project-unveils-2026-top-10-for-llm-applications-new-agent-control-standard-and-sponsors-as-community-tops-30000-members/
[2] OWASP GenAI Security Project。(2025.03)。LLM06:2025 Excessive Agency。OWASP Top 10 for LLM Applications 2025。
https://genai.owasp.org/llmrisk/llm062025-excessive-agency/
[3] National Institute of Standards and Technology(NIST)。(2023.01)。Artificial Intelligence Risk Management Framework(AI RMF 1.0),NIST AI 100-1。NIST。
https://www.nist.gov/itl/ai-risk-management-framework
[4] National Institute of Standards and Technology(NIST)。(2026.02)。Announcing the "AI Agent Standards Initiative" for Interoperable and Secure Innovation。NIST。
https://www.nist.gov/news-events/news/2026/02/announcing-ai-agent-standards-initiative-interoperable-and-secure
[5] 資策會產業情報研究所(MIC)。(2025.03)。八成電子製造業面臨資料挑戰,企業如何透過資料工程突破困境。MIC。
https://mic.iii.org.tw/research.aspx?id=710