essays · humans in the loop
自動化越多,人越重要
AI 時代的人機協作:邊界、標準與把關
撰文:丁后儀|2026.10.25|閱讀約 8 分鐘|瀏覽 – 次
生成式 AI 正從回答問題的助手,走向能自己拆解任務、調用工具、一路往下做的代理人(AI Agent)。過去,我們練習的是如何把指令下好;如今,AI 已能把一份教材、一支影片或一份文獻整理,從頭跑到尾。
我自己也是如此。這兩年,我陸續把影音教材製作,以及研究稿件的潤飾與自我審查等工作,拆成與 AI 協作的工作流程。越往自動化走,我越清楚一件事:AI 跑得越遠,人越需要知道自己該站在哪裡――哪些事可以放手,哪些事必須親自把關,又該用什麼標準去檢視。
這篇文章想以我的影音教材與研究工作流為例,藉由「人一定要在場的四個時刻」,探討代理人時代的人機協作需要什麼樣的邊界與觀念,以及在自動化的過程中,人何以依然重要,而且不可或缺。
AI 可以一路往下做;方向、真偽與責任,仍要由人來把關。
代理人時代:AI 開始自己往下做
過去使用 AI,多半是一問一答:我下指令,它給答案,再由我決定下一步。代理人則不同――給它一個目標,它會自己拆解步驟、呼叫工具、檢查結果,再接著往下做;AI 公司的工程團隊,也開始專文討論如何讓代理人跨越數小時、甚至數天,持續推進一件複雜的工作(Anthropic, 2025)。
然而,交出去的工作越多,越容易出現一種錯覺:既然 AI 都能自己做完,人似乎就可以退場了。人因工程學者 Bainbridge 早在 1983 年便提出「自動化的反諷」:系統自動化的程度越高,留給人的,往往是最難、也最關鍵的那幾次介入;人非但不能少學,反而要練得更紮實,才接得住那些少見卻重要的時刻。
四十多年後讀來,這段話依然切中代理人時代。比起追問「AI 還能替我做多少」,我更想追問:在這條越來越自動的流程裡,人應該站在哪裡?
理論依據「自動化的反諷(Ironies of Automation)」:自動化接手大部分工作後,人反而要為少見卻關鍵的介入做好準備(Bainbridge, 1983)。另有「自動化偏誤」:人容易過度相信系統的建議,即使它與其他正確資訊相左。
AI 能做的越多,人越要清楚:哪一刻,必須由自己來。
分工之外:還要標準與 harness
談人機協作,多數人會先想到分工:哪些交給 AI,哪些留給人。我在教師研習中,也常請老師們先想一想――在教與學的場域中,什麼可以外包給 AI,什麼不適合?分工很重要,卻還不夠。分工回答的是「誰來做」;至於「做得對不對」「什麼時候該停」「誰來放行」,則需要標準,以及一套把關的架構。
我在大梅老師(Shirley)的「AI 工作系統設計課」,第一次認識 harness 這個詞。Harness 原意是馬具,讓馬的力氣朝對的方向使;課程講義把它定義為讓整套工作流能被啟動、調度、監控、記錄與驗收的控制架構,像是外殼、控制台與安全帶。這個比喻讓我豁然開朗:AI 是力量,標準是尺,harness 是韁繩與安全帶;握著韁繩的,始終是人。

把工作拆清楚
把一件事拆成步驟,決定哪一步交給 AI、哪一步留給人。
把「好」寫成檢查得了的條件
核准的母版、判準、尺規與原文,讓每一份產出都有尺可量。
讓流程依標準自動檢核
在該停的地方停下、留下紀錄,最後交由人放行。
有了標準與 harness,人就不必守在每一步旁邊;但有四個時刻,人一定要在場――
目標、判準與核准的母版,由人來定。
引用、數據與規定,一律回到原文。
AI 無法確定、資料矛盾時,交給人判斷。
發布、付費、寄出與簽核,AI 不代送。
分工決定誰來做;標準與 harness,決定做得對不對、何時該停。
定方向與標準:什麼叫做好,由人來定
製作〈學習目標怎麼寫〉這套數位教材時,腳本、分鏡、配音與影片,都有 AI 參與。一開始,我在每一次生成時反覆叮嚀:教師五官要一致、光線要自然、比例不能變形、圖片要自然融入,也不能遮住老師。然而,叮嚀得再多,下一鏡仍可能改變老師的長相。
後來我明白,與其每次重新叮嚀,不如先把「什麼叫做好」定下來。我選定一張封面,作為整套教材唯一的母版,寫成一份主視覺規範:哪些必須鎖定,哪些可以變化,哪些絕對禁止;也挑出一張最滿意的分鏡、一段最自然的配音,作為後續每一支影片的比對標準。如此一來,AI 每產出一個片段,都有一把可以對照的尺。
標準一旦寫得出來,檢查就不必全靠人眼緊盯。人要做的,是在前製時定下方向與標準、核准第一件成品,最後再驗收整支影片;中間大量的比對與重做,交給流程自動進行。
可以變化
- 各單元的標題、圖示與重點詞
- 教師服裝依場景調整
- 版面改成圖解或重點卡片
必須鎖定
- 教師的五官、髮型與專業形象
- 配色、字體與標誌
- 自然光線,不遮住老師


標準寫得出來,AI 才檢查得了;什麼叫做好,要由人來定。
認定真偽:回到原文與證據
研究工作最怕的,是看起來很像真的。AI 產出的內容,常常格式工整、語句流暢;然而,只要有一筆文獻不存在、一個數字無從查起,整份研究的可信度便隨之動搖。
在研究工作中,我會請 AI 協助潤飾文字,並在投稿前模擬審查,替自己找出盲點。即便如此,我仍為自己訂下幾條不能退讓的規則:潤飾只調整語句,不更動論點、數據與引用;稿件中的每一筆引用,都要回到原文逐筆核實;查不到、拿不準的地方,就誠實標上「待確認」。
自我審查時,我讓 AI 在一個乾淨的對話裡閱讀完稿,不提供修改的來龍去脈――AI 若看過整個過程,容易順著原本的思路說好話,審查也就少了批判性。AI 指出的每一個問題,都要對應到稿件中的具體位置;採納與否、如何修改,仍由我自己決定。
- 01引用逐筆核實稿件中的每一筆引用,都要回到原文確認,而非抽查。
- 02潤飾不動內容只調整語句與用詞;論點、數據與引用,不由 AI 更動。
- 03體例回到原文投稿格式與審查規範,以期刊官網或公告原文為準。
- 04寧可留白,不可捏造不確定就標「待確認」;資料不足,就不下結論。
機器先攔下判斷得了的錯;需要判斷的事,留給人。
格式、字數、引用與正文是否對得上,交給程式逐筆比對;這筆文獻可不可信、這個論點站不站得住,仍要由研究者負責。如此一來,人的心力,便能留給真正需要判斷的地方。
AI 可以幫我看得更細;但哪一筆是真的,只能由人來認定。
例外與送出:人留在最關鍵的地方
自動化,並不是要人一路陪著看。一開始,我在每一步都要求「經我確認,才能進下一步」,結果自己成了不停按下確認的人;關卡一多,人反而越看越快,真正需要細看的地方,也就被淹沒了。
後來,我改變了設計:例行的檢核交給流程自動進行,格式對不對、檔案齊不齊、片段是否符合母版,都由機器先攔下;只有 AI 無法確定、資料互相矛盾,或同一個鏡頭重做兩次仍不理想時,才把問題整理好,交給我判斷。例外也不必讓流程停擺――研究趨勢掃描曾遇到寄信失敗,報告其實早已完成;我的決定是報告照常存檔,失敗則清楚標示、每期重複提醒,直到處理為止。
另一條紅線,是對外送出。付費生成、公開上架、刪除檔案、寄出信件――這些一旦出手就難以收回的動作,AI 只能準備到最後一步;按下送出的,永遠是人。
不是每一步都要人確認,而是讓人出現在最需要判斷的地方。
關卡太多,人會疲乏;關卡太少,風險就悄悄溜過。把關的價值,在於放對位置。
對應趨勢歐盟《人工智慧法》第 14 條「人類監督」要求,高風險 AI 系統須設計成能讓人有效監督:理解系統的能力與限制、留意自動化偏誤,並能推翻其輸出,或以「停止」鍵讓系統安全停下。
核定腳本、分鏡、母版與第一件測試。
只看通過檢核的首件,再授權量產。
比對、重做與停損,交給流程。
獨立評審先看過,再交我核准。
真的要公開或刪除時,另行授權。
影音教材的日常製作:人只在四個位置出現,其餘交給流程自動推進。
例外交給人,送出留給人;人不必步步緊盯,卻必須站在最關鍵的地方。
老師先學會,再帶學生一起做
人機協作,不只是我自己的工作方法,也是我在教師研習與課堂上最常分享的事。它其實有兩層:老師先與 AI 協作,開發教材與學習工具;再用這些工具陪學生學習,也教學生如何與 AI 協作。教師先轉變,學生才能改變。
面對老師,我常分享 AI 時代的四件事:提出正確的問題、辨識資訊真偽、建立自己的判斷框架,以及優化產出、但為自己的產出負責。面對學生,我在許多課程裡都會先分享這些經驗,再帶著他們做:實作之前,一定要先有素養――先了解 AI,知道人與 AI 如何一起協作。
期末專題,則模擬職場裡的人機協作。以「AI 文案與數位行銷」為例,學生扮演行銷小編,從市場與受眾分析出發,再決定 AI 要做什麼;內容上線前要通過倫理檢核、揭露 AI 生成,並留下生成與人工修改的紀錄。對學生而言,這正是一次縮小版的代理人時代:與 AI 一起工作,判斷與責任仍在自己身上。
研究提醒麻省理工學院媒體實驗室的一項初步研究(預印本)發現,寫作時過度依賴 AI 助理,可能累積「認知債務(cognitive debt)」(Kosmyna et al., 2025)――我在研習中常這樣提醒:別讓 AI 預支了未來的思考力。
相關案例〈讓 AI 創作歷程成為學習證據〉:期末專題裡的判斷與負責 ↗ 相關案例智匯共生〈自己先走一段〉:教師社群的人機協作共學 ↗

老師先學會人機協作,才能帶著學生一起做;實作之前,先有素養。
一位大學教師的省思:從下好指令,到握好韁繩
自動化不是讓人退場,而是讓人站到最需要判斷的位置。
AI 越能自己往下做,我越在意的,不是它替我省下多少時間,而是我是否仍握有方向、標準與最後的決定權。我們要的是人機協作,而不只是使用 AI,更不是讓 AI 牽著我們的思考走――這也是 AI 時代的人才培育,最需要守住的地方。
進一步而言,把工作交給 AI 之前,我們或許也可以先問問自己――
我說得出「什麼叫做好」嗎?
這份產出,回得到原文與證據嗎?
最後按下送出的,是我嗎?
所以惟有把標準握在手上、把責任留給自己,自動化方能真正成為助力。
未來,帶進教學與研發
教學:把人機協作的邊界,帶進每一門課
我希望在更多課程與教師研習中,把「人一定要在場的四個時刻」轉化為學習任務:學生在專題中先寫下自己的標準,標示 AI 參與了哪些步驟,記下採用或修改的理由,並為最後送出的成果負責。比起教會學生多用幾個工具,我更想涵養他們知道何時放手、何時把關的判斷力。
延伸閱讀〈從下指令到做判斷〉:AI 時代如何培養新一代行銷人才 ↗研發:讓工作流越用越準
每一次完整做完,我都會回頭問:這次學會了什麼?哪個問題反覆出現?一再被攔下的錯誤,就寫成新的檢核標準;自我審查的意見,在累積足夠的真實審查回饋之前,只當作粗篩參考。下一步,我也希望以教學實踐研究的方法,檢視學生在人機協作中的判斷與修正,作為課程滾動修正的依據。
延伸閱讀研發手記〈把教學專業,寫成 AI 的紅線〉:AI 碰到紅線,就停下來問🔒 文中截圖取自我的教師研習簡報、數位教材的母版與分鏡,以及課程網站的公開頁面;不含學生資料與研究稿件內容。
本文提及與延伸閱讀
- 課程大梅老師(Shirley),AI 工作系統設計課講義〈釐清 Workflow、Agent、Node、Skill 與 Skills〉
- 研究Bainbridge, L. (1983). Ironies of automation. Automatica
- 文章Anthropic (2025). Effective harnesses for long-running agents
- 法規EU Artificial Intelligence Act, Article 14: Human Oversight
- 研究Kosmyna et al. (2025). Your Brain on ChatGPT(預印本)
- 概念人在迴路 Human-in-the-loop・自動化偏誤 Automation bias
- 相關課程故事:AI 素養結合行銷實作・讓 AI 創作歷程成為學習證據
- 相關課程故事:從下指令到做判斷・智匯共生:自己先走一段
- 相關研發手記:好看,不等於學得會・把教學專業,寫成 AI 的紅線
- 相關專欄文章:理解,需要被設計
交流園地
歡迎留下想法與我交流。填暱稱即可留言,留言會公開顯示,請勿留下個資。