Модели и провайдеры
Обзор
Neotask поддерживает широкий спектр провайдеров моделей ИИ. Вы можете использовать облачные модели от Anthropic, OpenAI и Google, запускать локальные модели через Ollama или vLLM или подключаться к любому API-эндпоинту, совместимому с OpenAI.
Поддерживаемые провайдеры
Облачные провайдеры
| Провайдер | Модели | Аутентификация |
|---|---|---|
| Anthropic | Claude Opus 4.6, Claude Sonnet 4.1, Claude Haiku 4.5 | Ключ API или токен настройки |
| OpenAI | GPT-5.2, GPT-5.1, GPT-4 Turbo, GPT-4 | Ключ API |
| Google (Gemini) | Gemini 3 Pro, Gemini 2 Flash, Gemini 1 Pro | Ключ API или OAuth |
| Together AI | Различные модели с открытыми весами (Llama, Mixtral и т.д.) | Ключ API |
| Moonshot (Kimi) | Moonshot v1 (32K, 128K контекст) | Ключ API |
| OpenRouter | 100+ моделей от нескольких провайдеров | Ключ API |
| DeepSeek | DeepSeek Chat, DeepSeek Coder | Ключ API |
| OpenCode Zen | Варианты Claude, дообученные модели | Ключ API |
Провайдеры локальных моделей
| Провайдер | Описание |
|---|---|
| Ollama | Запуск локальных моделей с открытыми весами (Llama, Mistral и т.д.) |
| vLLM | Высокопроизводительный локальный сервер инференса |
| LiteLLM | Унифицированный прокси для 100+ провайдеров |
Пользовательские провайдеры
Подключайте любой API, совместимый с OpenAI или Anthropic, указав базовый URL и ключ API. Это работает с самостоятельно размещаемыми серверами инференса, корпоративными прокси-эндпоинтами и сторонними API моделей.
Конфигурация моделей
Основная модель
Задайте модель по умолчанию для всех агентов. Каждый агент может переопределить это своей собственной основной моделью.
Цепочки резервных вариантов
Настройте приоритетный список резервных моделей. Если основная модель отказывает (ограничение частоты запросов, сбой, ошибка аутентификации), Neotask автоматически пробует следующую модель в цепочке.
Модели для изображений
Отдельная конфигурация модели для анализа и генерации изображений. Поддерживает Claude Vision, GPT-4 Vision и DALL-E 3.
Псевдонимы моделей
Создавайте сокращения для длинных имён моделей. Например, дайте псевдоним fast для anthropic/claude-haiku-4-5 для быстрого использования.
Переопределения на уровне агента
Каждый агент может иметь собственную конфигурацию модели, независимую от глобального значения по умолчанию.
Белые списки моделей
Ограничивайте, какие модели могут использовать агенты. Полезно для контроля расходов или соответствия требованиям.
Управление ключами API
Источники ключей (в порядке приоритета)
- Активный ключ переопределения (наивысший приоритет)
- Список ключей через запятую (ротация)
- Основной ключ
- Нумерованные ключи (key_1, key_2 и т.д.)
Автоматическая ротация ключей
При достижении ограничения частоты запросов Neotask автоматически переключается на следующий доступный ключ. Ошибки, не связанные с ограничением частоты, немедленно возвращаются без ротации.
Конфигурация на уровне провайдера
Каждый провайдер может иметь собственный набор ключей API, профилей аутентификации и настроек для конкретных моделей.
Методы аутентификации провайдеров
| Метод | Описание |
|---|---|
| API Key | Стандартная аутентификация с Bearer-токеном |
| Setup Token | Интерактивный процесс аутентификации (Anthropic) |
| OAuth | Делегированная аутентификация с токенами обновления (Google, GitHub Copilot) |
| Token Paste | Ручной ввод токена для специализированных провайдеров |
Приоритет выбора модели
Когда агенту нужно выполнить вызов LLM, модели выбираются в следующем порядке:
- Переопределение на уровне агента (если задано)
- Глобальная модель по умолчанию
- Белый список моделей (если настроен, ограничивает варианты)
- Первая доступная модель (резервный вариант)
Ограничения инструментов для конкретных провайдеров
Вы можете ограничить, какие инструменты доступны для конкретных моделей или провайдеров. Например, ограничить менее доверенную модель только файловыми операциями, предоставив Claude полный доступ к инструментам.