專欄分享 / 專欄文章 / 人機協作

essays · humans in the loop

專欄文章・人機協作

自動化越多,人越重要

AI 時代的人機協作:邊界、標準與把關

撰文:丁后儀|2026.10.25|閱讀約 8 分鐘|瀏覽 – 次

生成式 AI 正從回答問題的助手,走向能自己拆解任務、調用工具、一路往下做的代理人(AI Agent)。過去,我們練習的是如何把指令下好;如今,AI 已能把一份教材、一支影片或一份文獻整理,從頭跑到尾。

我自己也是如此。這兩年,我陸續把影音教材製作,以及研究稿件的潤飾與自我審查等工作,拆成與 AI 協作的工作流程。越往自動化走,我越清楚一件事:AI 跑得越遠,人越需要知道自己該站在哪裡――哪些事可以放手,哪些事必須親自把關,又該用什麼標準去檢視。

這篇文章想以我的影音教材與研究工作流為例,藉由「人一定要在場的四個時刻」,探討代理人時代的人機協作需要什麼樣的邊界與觀念,以及在自動化的過程中,人何以依然重要,而且不可或缺。

教師研習投影片【任務5】想一想:在教與學場域中,什麼可以外包給 AI 做?什麼不適合?歡迎與夥伴討論後回答
實際畫面|教師研習的提問:在教與學的場域中,什麼可以外包給 AI?什麼不適合?
AI 可以一路往下做;方向、真偽與責任,仍要由人來把關。
01

代理人時代:AI 開始自己往下做

過去使用 AI,多半是一問一答:我下指令,它給答案,再由我決定下一步。代理人則不同――給它一個目標,它會自己拆解步驟、呼叫工具、檢查結果,再接著往下做;AI 公司的工程團隊,也開始專文討論如何讓代理人跨越數小時、甚至數天,持續推進一件複雜的工作(Anthropic, 2025)。

然而,交出去的工作越多,越容易出現一種錯覺:既然 AI 都能自己做完,人似乎就可以退場了。人因工程學者 Bainbridge 早在 1983 年便提出「自動化的反諷」:系統自動化的程度越高,留給人的,往往是最難、也最關鍵的那幾次介入;人非但不能少學,反而要練得更紮實,才接得住那些少見卻重要的時刻。

四十多年後讀來,這段話依然切中代理人時代。比起追問「AI 還能替我做多少」,我更想追問:在這條越來越自動的流程裡,人應該站在哪裡?

回答問題的助手能往下做的代理人
一問一答→自己拆解任務、呼叫工具
等人下一個指令→自己判斷下一步
交出一段文字→交出一整份成品
人守在每一步旁邊→人在關鍵時刻把關

理論依據「自動化的反諷(Ironies of Automation)」:自動化接手大部分工作後,人反而要為少見卻關鍵的介入做好準備(Bainbridge, 1983)。另有「自動化偏誤」:人容易過度相信系統的建議,即使它與其他正確資訊相左。

AI 能做的越多,人越要清楚:哪一刻,必須由自己來。

02

分工之外:還要標準與 harness

談人機協作,多數人會先想到分工:哪些交給 AI,哪些留給人。我在教師研習中,也常請老師們先想一想――在教與學的場域中,什麼可以外包給 AI,什麼不適合?分工很重要,卻還不夠。分工回答的是「誰來做」;至於「做得對不對」「什麼時候該停」「誰來放行」,則需要標準,以及一套把關的架構。

我在大梅老師(Shirley)的「AI 工作系統設計課」,第一次認識 harness 這個詞。Harness 原意是馬具,讓馬的力氣朝對的方向使;課程講義把它定義為讓整套工作流能被啟動、調度、監控、記錄與驗收的控制架構,像是外殼、控制台與安全帶。這個比喻讓我豁然開朗:AI 是力量,標準是尺,harness 是韁繩與安全帶;握著韁繩的,始終是人。

教師研習投影片:AI 應用無撇步,您是專家,他是夥伴;用專業導航,讓 AI 助航
實際畫面|教師研習的最後,我常留給老師們一句話:您是專家,他是夥伴;用專業導航,讓 AI 助航。
分工|誰來做

把工作拆清楚

把一件事拆成步驟,決定哪一步交給 AI、哪一步留給人。

標準|什麼叫做好

把「好」寫成檢查得了的條件

核准的母版、判準、尺規與原文,讓每一份產出都有尺可量。

harness|怎麼把關

讓流程依標準自動檢核

在該停的地方停下、留下紀錄,最後交由人放行。

有了標準與 harness,人就不必守在每一步旁邊;但有四個時刻,人一定要在場――

時刻 1定方向與標準direction

目標、判準與核准的母版,由人來定。

時刻 2認定真偽truth

引用、數據與規定,一律回到原文。

時刻 3處理例外exception

AI 無法確定、資料矛盾時,交給人判斷。

時刻 4對外送出與負責release

發布、付費、寄出與簽核,AI 不代送。

分工決定誰來做;標準與 harness,決定做得對不對、何時該停。

03

定方向與標準:什麼叫做好,由人來定

製作〈學習目標怎麼寫〉這套數位教材時,腳本、分鏡、配音與影片,都有 AI 參與。一開始,我在每一次生成時反覆叮嚀:教師五官要一致、光線要自然、比例不能變形、圖片要自然融入,也不能遮住老師。然而,叮嚀得再多,下一鏡仍可能改變老師的長相。

後來我明白,與其每次重新叮嚀,不如先把「什麼叫做好」定下來。我選定一張封面,作為整套教材唯一的母版,寫成一份主視覺規範:哪些必須鎖定,哪些可以變化,哪些絕對禁止;也挑出一張最滿意的分鏡、一段最自然的配音,作為後續每一支影片的比對標準。如此一來,AI 每產出一個片段,都有一把可以對照的尺。

標準一旦寫得出來,檢查就不必全靠人眼緊盯。人要做的,是在前製時定下方向與標準、核准第一件成品,最後再驗收整支影片;中間大量的比對與重做,交給流程自動進行。

可以變化

  • 各單元的標題、圖示與重點詞
  • 教師服裝依場景調整
  • 版面改成圖解或重點卡片

必須鎖定

  • 教師的五官、髮型與專業形象
  • 配色、字體與標誌
  • 自然光線,不遮住老師
延伸閱讀研發手記〈好看,不等於學得會〉:AI 數位分身微課的教學設計
數位教材〈學習目標怎麼寫〉封面:3 分鐘帶你學會學習目標怎麼寫,用 ABCD 把目標寫清楚,授課丁后儀,畫面右側為教師的 AI 數位分身
實際畫面|整套教材唯一的母版:後續每一鏡,都以它的配色、字體與教師形象為準。
數位教材分鏡圖:常見寫法,一個學習目標如果只寫「讓學生了解課程內容」,左側為教師的 AI 數位分身手勢指向文字
我挑出最滿意的一張分鏡,請 AI 據此歸納「一張好分鏡」的標準。

標準寫得出來,AI 才檢查得了;什麼叫做好,要由人來定。

04

認定真偽:回到原文與證據

研究工作最怕的,是看起來很像真的。AI 產出的內容,常常格式工整、語句流暢;然而,只要有一筆文獻不存在、一個數字無從查起,整份研究的可信度便隨之動搖。

在研究工作中,我會請 AI 協助潤飾文字,並在投稿前模擬審查,替自己找出盲點。即便如此,我仍為自己訂下幾條不能退讓的規則:潤飾只調整語句,不更動論點、數據與引用;稿件中的每一筆引用,都要回到原文逐筆核實;查不到、拿不準的地方,就誠實標上「待確認」。

自我審查時,我讓 AI 在一個乾淨的對話裡閱讀完稿,不提供修改的來龍去脈――AI 若看過整個過程,容易順著原本的思路說好話,審查也就少了批判性。AI 指出的每一個問題,都要對應到稿件中的具體位置;採納與否、如何修改,仍由我自己決定。

  1. 01引用逐筆核實稿件中的每一筆引用,都要回到原文確認,而非抽查。
  2. 02潤飾不動內容只調整語句與用詞;論點、數據與引用,不由 AI 更動。
  3. 03體例回到原文投稿格式與審查規範,以期刊官網或公告原文為準。
  4. 04寧可留白,不可捏造不確定就標「待確認」;資料不足,就不下結論。
教師省思|研究誠信
機器先攔下判斷得了的錯;需要判斷的事,留給人。

格式、字數、引用與正文是否對得上,交給程式逐筆比對;這筆文獻可不可信、這個論點站不站得住,仍要由研究者負責。如此一來,人的心力,便能留給真正需要判斷的地方。

AI 可以幫我看得更細;但哪一筆是真的,只能由人來認定。

05

例外與送出:人留在最關鍵的地方

自動化,並不是要人一路陪著看。一開始,我在每一步都要求「經我確認,才能進下一步」,結果自己成了不停按下確認的人;關卡一多,人反而越看越快,真正需要細看的地方,也就被淹沒了。

後來,我改變了設計:例行的檢核交給流程自動進行,格式對不對、檔案齊不齊、片段是否符合母版,都由機器先攔下;只有 AI 無法確定、資料互相矛盾,或同一個鏡頭重做兩次仍不理想時,才把問題整理好,交給我判斷。例外也不必讓流程停擺――研究趨勢掃描曾遇到寄信失敗,報告其實早已完成;我的決定是報告照常存檔,失敗則清楚標示、每期重複提醒,直到處理為止。

另一條紅線,是對外送出。付費生成、公開上架、刪除檔案、寄出信件――這些一旦出手就難以收回的動作,AI 只能準備到最後一步;按下送出的,永遠是人。

教師省思|把關的位置
不是每一步都要人確認,而是讓人出現在最需要判斷的地方。

關卡太多,人會疲乏;關卡太少,風險就悄悄溜過。把關的價值,在於放對位置。

對應趨勢歐盟《人工智慧法》第 14 條「人類監督」要求,高風險 AI 系統須設計成能讓人有效監督:理解系統的能力與限制、留意自動化偏誤,並能推翻其輸出,或以「停止」鍵讓系統安全停下。

01 · 人前製鎖定lock

核定腳本、分鏡、母版與第一件測試。

02 · 人授權批次approve

只看通過檢核的首件,再授權量產。

03 · AI自動製作auto

比對、重做與停損,交給流程。

04 · 人最終驗收accept

獨立評審先看過,再交我核准。

05 · 人上架與清場release

真的要公開或刪除時,另行授權。

影音教材的日常製作:人只在四個位置出現,其餘交給流程自動推進。

例外交給人,送出留給人;人不必步步緊盯,卻必須站在最關鍵的地方。

06

老師先學會,再帶學生一起做

人機協作,不只是我自己的工作方法,也是我在教師研習與課堂上最常分享的事。它其實有兩層:老師先與 AI 協作,開發教材與學習工具;再用這些工具陪學生學習,也教學生如何與 AI 協作。教師先轉變,學生才能改變。

面對老師,我常分享 AI 時代的四件事:提出正確的問題、辨識資訊真偽、建立自己的判斷框架,以及優化產出、但為自己的產出負責。面對學生,我在許多課程裡都會先分享這些經驗,再帶著他們做:實作之前,一定要先有素養――先了解 AI,知道人與 AI 如何一起協作。

期末專題,則模擬職場裡的人機協作。以「AI 文案與數位行銷」為例,學生扮演行銷小編,從市場與受眾分析出發,再決定 AI 要做什麼;內容上線前要通過倫理檢核、揭露 AI 生成,並留下生成與人工修改的紀錄。對學生而言,這正是一次縮小版的代理人時代:與 AI 一起工作,判斷與責任仍在自己身上。

研究提醒麻省理工學院媒體實驗室的一項初步研究(預印本)發現,寫作時過度依賴 AI 助理,可能累積「認知債務(cognitive debt)」(Kosmyna et al., 2025)――我在研習中常這樣提醒:別讓 AI 預支了未來的思考力。

相關案例〈讓 AI 創作歷程成為學習證據〉:期末專題裡的判斷與負責 ↗ 相關案例智匯共生〈自己先走一段〉:教師社群的人機協作共學 ↗
教師研習投影片:后儀的小撇步,透過 AI 加成想像力、讓 AI 輔助學習成為真正的動詞、讓 AI 生態系協力創造自主適性學習機會、別忘了最重要的反思;AI 時代的素養:提出正確的問題、辨識資訊真偽、建立自己的判斷框架、優化但為自己的產出負責
實際畫面|教師研習簡報:AI 時代的素養。
課程新聞稿刊頭:AI 素養結合行銷實作,大葉大學跨域課程帶領新生走進人機協作
課程網站的新聞稿:先有素養,再進入行銷實作。

老師先學會人機協作,才能帶著學生一起做;實作之前,先有素養。

07

一位大學教師的省思:從下好指令,到握好韁繩

教師省思|人機協作
自動化不是讓人退場,而是讓人站到最需要判斷的位置。

AI 越能自己往下做,我越在意的,不是它替我省下多少時間,而是我是否仍握有方向、標準與最後的決定權。我們要的是人機協作,而不只是使用 AI,更不是讓 AI 牽著我們的思考走――這也是 AI 時代的人才培育,最需要守住的地方。

起初的人機協作代理人時代的人機協作
把指令下好→把標準寫清楚
每一步都親自確認→在關鍵時刻把關
相信看起來完整的產出→回到原文與證據
AI 做完就交出去→人放行,人負責

進一步而言,把工作交給 AI 之前,我們或許也可以先問問自己――

追問 1|標準

我說得出「什麼叫做好」嗎?

追問 2|真偽

這份產出,回得到原文與證據嗎?

追問 3|責任

最後按下送出的,是我嗎?

所以惟有把標準握在手上、把責任留給自己,自動化方能真正成為助力。

08

未來,帶進教學與研發

in the classroom

教學:把人機協作的邊界,帶進每一門課

我希望在更多課程與教師研習中,把「人一定要在場的四個時刻」轉化為學習任務:學生在專題中先寫下自己的標準,標示 AI 參與了哪些步驟,記下採用或修改的理由,並為最後送出的成果負責。比起教會學生多用幾個工具,我更想涵養他們知道何時放手、何時把關的判斷力。

延伸閱讀〈從下指令到做判斷〉:AI 時代如何培養新一代行銷人才 ↗
in development

研發:讓工作流越用越準

每一次完整做完,我都會回頭問:這次學會了什麼?哪個問題反覆出現?一再被攔下的錯誤,就寫成新的檢核標準;自我審查的意見,在累積足夠的真實審查回饋之前,只當作粗篩參考。下一步,我也希望以教學實踐研究的方法,檢視學生在人機協作中的判斷與修正,作為課程滾動修正的依據。

延伸閱讀研發手記〈把教學專業,寫成 AI 的紅線〉:AI 碰到紅線,就停下來問
期盼透過這篇文章拋磚引玉,也想聽聽大家―― 在你的工作裡,哪一個時刻,你一定不會交給 AI?

🔒 文中截圖取自我的教師研習簡報、數位教材的母版與分鏡,以及課程網站的公開頁面;不含學生資料與研究稿件內容。

本文提及與延伸閱讀

#人機協作 #AI代理人 #自動化 #人在迴路 #AI素養 #研究誠信 #數位教材 #教師培力 #人才培育 #以人為本

交流園地

歡迎留下想法與我交流。填暱稱即可留言,留言會公開顯示,請勿留下個資。