cross-provider handoff¶
cross-provider handoff（跨提供商切换）是指在單一對話或會話語境中，無縫地將底層大語言模型（LLM）提供商從一個服務（例如 Anthropic 的 Claude）切換到另一個服務（例如 OpenAI 的 GPT 或 Google 的 Gemini），同時保持對話上下文和狀態連續性的能力^[001-TODO__Pi_Monorepo_-_AI_Agent_开发工具包.md]。
這種機制通常出現在 AI Agent 開發工具包或統一 LLM API 抽象層中，旨在解決 LLM API 碎片化帶來的鎖定效應和遷移成本^[001-TODO__Pi_Monorepo_-_AI_Agent_开发工具包.md]。
核心特性¶
在支援跨提供商切換的系統中，切換過程通常具備以下特徵：
- 無縫轉換：應用程式或 Agent 可以在對話的任意節點更換模型提供商，而無需重置會話或丟失之前的歷史記錄^[001-TODO__Pi_Monorepo_-_AI_Agent_开发工具包.md]。
- 上下文適配：系統會自動處理不同提供商之間的差異。例如，當切換提供商時，特定的推理區塊會被自動轉換為通用標籤（如
<thinking>標籤），以確保新模型能正確解析上下文^[001-TODO__Pi_Monorepo_-_AI_Agent_开发工具包.md]。 - 上下文序列化：對話狀態通常被序列化為標準格式（如 JSON），這使得上下文可以在不同的服務或實例之間持久化和傳輸^[001-TODO__Pi_Monorepo_-_AI_Agent_开发工具包.md]。
應用場景¶
- 模型優化：針對特定任務動態選擇最合適的模型（例如用 Claude 進行創意寫作，用 GPT 進行程式碼生成）。
- 成本與可靠性：在某個提供商服務中斷或成本過高時，即時切換到備用提供商。
- 多模型協作：在複雜的 AI Agent 工作流中，利用不同模型的優勢協作完成單一任務^[001-TODO__Pi_Monorepo_-_AI_Agent_开发工具包.md]。
實作範例¶
在 pi-ai 等統一 API 工具包中，這種能力是作為核心功能實現的，允許開發者在同一個 conversation 物件中靈活切換底層驅動程式^[001-TODO__Pi_Monorepo_-_AI_Agent_开发工具包.md]。
相關概念¶
- [[Pi Monorepo - AI Agent 开发工具包]]：實現了跨提供商切換的開源 TypeScript 工具包。
- [[LLM API]]
- [[Agent Runtime]]
Sources¶
001-TODO__Pi_Monorepo_-_AI_Agent_开发工具包.md