Modeller och leverantörer

Översikt

Neotask stöder ett brett utbud av AI-modelleverantörer. Du kan använda molnhostade modeller från Anthropic, OpenAI och Google, köra lokala modeller via Ollama eller vLLM, eller ansluta till vilken OpenAI-kompatibel API-slutpunkt som helst.

Leverantörer som stöds

Molnleverantörer

Leverantör Modeller Autentisering
Anthropic Claude Opus 4.6, Claude Sonnet 4.1, Claude Haiku 4.5 API-nyckel eller setup-token
OpenAI GPT-5.2, GPT-5.1, GPT-4 Turbo, GPT-4 API-nyckel
Google (Gemini) Gemini 3 Pro, Gemini 2 Flash, Gemini 1 Pro API-nyckel eller OAuth
Together AI Olika öppna viktmodeller (Llama, Mixtral, osv.) API-nyckel
Moonshot (Kimi) Moonshot v1 (32K, 128K kontext) API-nyckel
OpenRouter 100+ modeller från flera leverantörer API-nyckel
DeepSeek DeepSeek Chat, DeepSeek Coder API-nyckel
OpenCode Zen Claude-varianter, anpassningstränade modeller API-nyckel

Lokala modelleverantörer

Leverantör Beskrivning
Ollama Kör öppna viktmodeller lokalt (Llama, Mistral, osv.)
vLLM Lokalt inferensserver med hög genomströmning
LiteLLM Enhetlig proxy för 100+ leverantörer

Anpassade leverantörer

Anslut vilken OpenAI-kompatibel eller Anthropic-kompatibel API som helst genom att ange en bas-URL och API-nyckel. Detta fungerar med självhostade inferensservrar, företagsproxyslutpunkter och tredjeparts modell-API:er.

Modellkonfiguration

Primär modell

Ange en standardmodell för alla agenter. Varje agent kan åsidosätta detta med sin egen primära modell.

Fallback-kedjor

Konfigurera en prioriterad lista med fallback-modeller. Om den primära modellen misslyckas (hastighetsgräns, driftstopp, autentiseringsfel) provar Neotask automatiskt nästa modell i kedjan.

Bildmodeller

Separat modellkonfiguration för bildanalys och bildgenerering. Stöder Claude Vision, GPT-4 Vision och DALL-E 3.

Modellalias

Skapa genvägar för långa modellnamn. Till exempel, skapa alias fast för anthropic/claude-haiku-4-5 för snabb referens.

Per-agent-åsidosättningar

Varje agent kan ha sin egen modellkonfiguration, oberoende av den globala standarden.

Modelltillåtningslistor

Begränsa vilka modeller agenter kan använda. Användbart för kostnadskontroll eller regelefterlevnad.

API-nyckelhantering

Nyckelkällor (prioritetsordning)

  1. Live-åsidosättningsnyckel (högsta prioritet)
  2. Kommaseparerad nyckellista (rotation)
  3. Primär nyckel
  4. Numrerade nycklar (key_1, key_2, osv.)

Automatisk nyckelrotation

När en hastighetsgräns uppnås roterar Neotask automatiskt till nästa tillgängliga nyckel. Icke-hastighetsgränsfel returnerar fel omedelbart utan rotation.

Per-leverantör-konfiguration

Varje leverantör kan ha sin egen uppsättning API-nycklar, autentiseringsprofiler och modellspecifika inställningar.

Leverantörsautentiseringsmetoder

Metod Beskrivning
API-nyckel Standard bearer-tokenautentisering
Setup-token Interaktivt autentiseringsflöde (Anthropic)
OAuth Delegerad autentisering med uppdateringstokens (Google, GitHub Copilot)
Token-inklistring Manuell tokeninmatning för specialiserade leverantörer

Modellvalsprioritet

När en agent behöver göra ett LLM-anrop väljs modeller i denna ordning:

  1. Per-agent-åsidosättning (om inställd)
  2. Global standardmodell
  3. Modelltillåtningslista (om konfigurerad, begränsar alternativ)
  4. Första tillgängliga modell (fallback)

Leverantörsspecifika verktygsbegränsningar

Du kan begränsa vilka verktyg som är tillgängliga för specifika modeller eller leverantörer. Till exempel, begränsa en mindre betrodd modell till enbart filoperationer, medan du ger Claude fullständig verktygstillgång.