是什麼

平行化讓多個 LLM 同時處理任務，輸出再用程式彙整。Anthropic 點出兩種變體：

  • 分節（Sectioning）—— 把任務切成彼此獨立的子任務並行跑。
  • 投票（Voting）—— 同一個任務跑很多次取得多樣輸出（再取共識／任一示警）。

運作方式

            ┌─▶ [ LLM A ] ─┐
  輸入  ────┼─▶ [ LLM B ] ─┼─▶ [ 彙整器 ] ─▶ 輸出
            └─▶ [ LLM C ] ─┘

  分節：A、B、C ＝ 不同的子任務
  投票：A、B、C ＝ 同一個任務，重複跑

何時用

「當切分的子任務能平行以加速，或需要多個視角／多次嘗試時很有效。」— Anthropic
  • 子任務真的彼此獨立（沒有一步要等另一步）。
  • 在意速度，而且工作能乾淨地展開（fan-out）。
  • 多次嘗試能提高信心（投票），或讓護欄與主任務並行。

取捨

  • 成本會隨平行呼叫數倍增。
  • 你需要一套合理的彙整規則（多數決、取最大、串接、任一示警）。
  • 若每個呼叫都有相同盲點，投票反而會掩蓋系統性錯誤。

實例

  • 分節：一個模型負責篩查輸入是否含不當內容，另一個同時生成回應。
  • 投票：多個提示同時審查程式碼漏洞 —— 只要任一個發現問題就示警。
  • 兩個例子都出自 Anthropic 的指南。