共用基礎:被增強的 LLM(augmented LLM)

本站每個模式都建立在同一個構件上:一顆被「檢索(retrieval)、工具(tools)、記憶(memory)」增強過的 LLM。Anthropic 形容它能自己產生搜尋查詢、挑選合適的工具、決定要記住什麼。

Google 的白皮書用三層來描述同一件事 — 模型層、負責推理的協調層(用 ReAct/Chain-of-Thought/Tree-of-Thoughts),以及對外互動的工具層。用詞不同,骨架相同。

工作流是『LLM 與工具透過預先定義的程式路徑被編排』的系統;代理則是『LLM 動態主導自己的流程與工具使用』的系統。— Anthropic

Workflow 與 Agent:真正的分界

分界在於「誰掌控流程」。工作流裡,控制流程是你寫死在程式中的,LLM 只負責填內容;代理裡,是 LLM 自己決定下一步要做什麼,並持續掌控任務如何完成。

OpenAI 講得很直接:代理是「能代表你獨立完成任務」的系統。那些嵌了 LLM 卻不讓它掌控執行流程的應用 —— 單純聊天機器人、單輪呼叫、情感分類器 —— 都不算代理。

跨過這條線會改變什麼

  • 控制流程:人工寫好的路徑 → 由模型自己決定。
  • 可預測性:高、可測試 → 較低、執行時才浮現。
  • 成本與延遲:大致固定 → 浮動,通常更高。
  • 適用時機:步驟事先可知 → 步驟開放、無法預先窮舉。

何時用哪種 — 先求最簡單

Anthropic 的總體建議:先找最簡單的解法,只有在「明顯改善結果」時才增加複雜度。代理系統是用延遲與成本換取更好的任務表現 —— 所以這筆預算要花得有理由。

當任務能拆成可預測的步驟,就用工作流;面對「無法預測要幾步、也無法寫死路徑」的開放性問題,才動用代理。

OpenAI 判斷「該建代理」的三個訊號

  • 複雜決策 —— 需要細緻判斷、處理例外、看情境決定(例如退款核准)。
  • 難以維護的規則 —— 規則龐雜、改一條就容易出錯(例如供應商資安審查)。
  • 高度依賴非結構化資料 —— 要理解文件或自然對話(例如處理保險理賠)。
  • 否則:用確定性(deterministic)的解法就夠了。

六種?五種?關於「到底有幾種模式」

促成這個網站的那篇文章談「六種模式」。這個數字其實是「怎麼陳列」的選擇,而非實質分歧 —— 所以值得釐清。

Anthropic 的權威分類是:一個基礎構件(augmented LLM)+ 五種工作流模式(提示鏈、路由、平行化、協調者—工作者、評估者—優化者)+ 自主代理。坊間文章湊出「六種」,要嘛是「五種工作流+代理」,要嘛是把「工具使用/脈絡增強/反思」升格成獨立模式。