模型與提供者
概述
Neotask 支援廣泛的 AI 模型提供者。您可以使用 Anthropic、OpenAI 和 Google 的雲端託管模型,透過 Ollama 或 vLLM 執行本機模型,或連接至任何與 OpenAI 相容的 API 端點。
支援的提供者
雲端提供者
| 提供者 | 模型 | 驗證 |
|---|---|---|
| Anthropic | Claude Opus 4.6、Claude Sonnet 4.1、Claude Haiku 4.5 | API 金鑰或設定令牌 |
| OpenAI | GPT-5.2、GPT-5.1、GPT-4 Turbo、GPT-4 | API 金鑰 |
| Google (Gemini) | Gemini 3 Pro、Gemini 2 Flash、Gemini 1 Pro | API 金鑰或 OAuth |
| Together AI | 各種開放權重模型(Llama、Mixtral 等) | API 金鑰 |
| Moonshot (Kimi) | Moonshot v1(32K、128K 上下文) | API 金鑰 |
| OpenRouter | 來自多個提供者的 100 個以上模型 | API 金鑰 |
| DeepSeek | DeepSeek Chat、DeepSeek Coder | API 金鑰 |
| OpenCode Zen | Claude 變體、自訂調整模型 | API 金鑰 |
本機模型提供者
| 提供者 | 說明 |
|---|---|
| Ollama | 在本機執行開放權重模型(Llama、Mistral 等) |
| vLLM | 高吞吐量本機推論伺服器 |
| LiteLLM | 支援 100 個以上提供者的統一代理 |
自訂提供者
透過指定基礎 URL 和 API 金鑰,連接任何與 OpenAI 相容或與 Anthropic 相容的 API。適用於自託管推論伺服器、企業代理端點和第三方模型 API。
模型設定
主要模型
為所有代理程式設定預設模型。每個代理程式可以用自己的主要模型覆蓋此設定。
備援鏈
設定優先備援模型清單。如果主要模型失敗(速率限制、停機、驗證錯誤),Neotask 自動嘗試鏈中的下一個模型。
圖像模型
用於圖像分析和生成的獨立模型設定。支援 Claude Vision、GPT-4 Vision 和 DALL-E 3。
模型別名
為長模型名稱建立捷徑。例如,將 fast 別名為 anthropic/claude-haiku-4-5 以便快速參考。
每代理程式覆蓋
每個代理程式可以有自己的模型設定,獨立於全域預設值。
模型允許清單
限制代理程式可以使用的模型。適用於成本控制或合規要求。
API 金鑰管理
金鑰來源(優先順序)
- 即時覆蓋金鑰(最高優先)
- 逗號分隔的金鑰清單(輪換)
- 主要金鑰
- 編號金鑰(key_1、key_2 等)
自動金鑰輪換
當達到速率限制時,Neotask 自動輪換至下一個可用金鑰。非速率限制故障立即返回錯誤,不進行輪換。
每提供者設定
每個提供者可以有自己的 API 金鑰組、驗證設定檔和模型特定設定。
提供者驗證方法
| 方法 | 說明 |
|---|---|
| API Key | 標準不記名令牌驗證 |
| Setup Token | 互動式驗證流程(Anthropic) |
| OAuth | 使用更新令牌的委派驗證(Google、GitHub Copilot) |
| Token Paste | 針對特殊提供者手動輸入令牌 |
模型選擇優先順序
當代理程式需要進行 LLM 呼叫時,模型按以下順序選擇:
- 每代理程式覆蓋(如果已設定)
- 全域預設模型
- 模型允許清單(如果已設定,限制選項)
- 第一個可用模型(備援)
提供者特定的工具限制
您可以限制特定模型或提供者可用的工具。例如,將較不受信任的模型限制為僅檔案操作,同時給予 Claude 完整工具存取權限。