Modele i dostawcy

Przegląd

Neotask obsługuje szeroką gamę dostawców modeli AI. Możesz używać hostowanych w chmurze modeli od Anthropic, OpenAI i Google, uruchamiać lokalne modele przez Ollama lub vLLM, lub łączyć się z dowolnym punktem końcowym API zgodnym z OpenAI.

Obsługiwani dostawcy

Dostawcy chmurowi

Dostawca Modele Uwierzytelnianie
Anthropic Claude Opus 4.6, Claude Sonnet 4.1, Claude Haiku 4.5 Klucz API lub token konfiguracyjny
OpenAI GPT-5.2, GPT-5.1, GPT-4 Turbo, GPT-4 Klucz API
Google (Gemini) Gemini 3 Pro, Gemini 2 Flash, Gemini 1 Pro Klucz API lub OAuth
Together AI Różne modele open-weight (Llama, Mixtral itp.) Klucz API
Moonshot (Kimi) Moonshot v1 (kontekst 32K, 128K) Klucz API
OpenRouter Ponad 100 modeli od wielu dostawców Klucz API
DeepSeek DeepSeek Chat, DeepSeek Coder Klucz API
OpenCode Zen Warianty Claude, modele dostrojone niestandardowo Klucz API

Lokalni dostawcy modeli

Dostawca Opis
Ollama Uruchamiaj lokalne modele open-weight (Llama, Mistral itp.)
vLLM Lokalny serwer wnioskowania o wysokiej przepustowości
LiteLLM Ujednolicony proxy dla ponad 100 dostawców

Niestandardowi dostawcy

Połącz dowolne API zgodne z OpenAI lub Anthropic, określając podstawowy adres URL i klucz API. Działa to z serwerami wnioskowania hostowanymi samodzielnie, korporacyjnymi punktami końcowymi proxy i zewnętrznymi API modeli.

Konfiguracja modelu

Model główny

Ustaw domyślny model dla wszystkich agentów. Każdy agent może to zastąpić własnym modelem głównym.

Łańcuchy awaryjne

Skonfiguruj priorytetowaną listę modeli awaryjnych. Jeśli model główny zawiedzie (limit szybkości, przestój, błąd uwierzytelniania), Neotask automatycznie próbuje następnego modelu w łańcuchu.

Modele obrazów

Oddzielna konfiguracja modelu do analizy i generowania obrazów. Obsługuje Claude Vision, GPT-4 Vision i DALL-E 3.

Aliasy modeli

Twórz skróty dla długich nazw modeli. Na przykład przypisz alias szybki do anthropic/claude-haiku-4-5 dla szybkiego odwołania.

Zastąpienia per agent

Każdy agent może mieć własną konfigurację modelu, niezależną od globalnej domyślnej.

Listy dozwolonych modeli

Ogranicz, których modeli agenci mogą używać. Przydatne do kontroli kosztów lub zgodności.

Zarządzanie kluczami API

Źródła kluczy (kolejność priorytetów)

  1. Klucz zastąpienia na żywo (najwyższy priorytet)
  2. Lista kluczy rozdzielona przecinkami (rotacja)
  3. Klucz główny
  4. Klucze numerowane (key_1, key_2 itp.)

Automatyczna rotacja kluczy

Gdy osiągnięty jest limit szybkości, Neotask automatycznie rotuje do następnego dostępnego klucza. Błędy inne niż limit szybkości zwracają błędy natychmiast bez rotacji.

Konfiguracja per dostawca

Każdy dostawca może mieć własny zestaw kluczy API, profili uwierzytelniania i ustawień specyficznych dla modelu.

Metody uwierzytelniania dostawcy

Metoda Opis
Klucz API Standardowe uwierzytelnianie tokenem bearer
Token konfiguracyjny Interaktywny przepływ uwierzytelniania (Anthropic)
OAuth Delegowane uwierzytelnianie z tokenami odświeżania (Google, GitHub Copilot)
Wklejanie tokena Ręczne wprowadzanie tokena dla wyspecjalizowanych dostawców

Priorytet wyboru modelu

Gdy agent musi wykonać wywołanie LLM, modele są wybierane w tej kolejności:

  1. Zastąpienie per agent (jeśli ustawione)
  2. Globalny domyślny model
  3. Lista dozwolonych modeli (jeśli skonfigurowana, ogranicza opcje)
  4. Pierwszy dostępny model (awaryjny)

Ograniczenia narzędzi specyficzne dla dostawcy

Możesz ograniczyć, które narzędzia są dostępne dla konkretnych modeli lub dostawców. Na przykład ogranicz mniej zaufany model tylko do operacji na plikach, jednocześnie dając Claude pełny dostęp do narzędzi.