​
Как работают конфигурации моделей

Конфигурации моделей задают настройку AI-моделей по умолчанию для вашей организации. Агенты используют эту конфигурацию, если только вы не задали переопределения модели на уровне агента в настройках агента. Чтобы настроить модели, откройте Models в панели Агентики:
  • Hosted: https://app.agentika.ai/model-configurations
  • Self-hosted: http://localhost:3010/model-configurations
  • Локальная разработка: http://localhost:3000/model-configurations
Страница Models содержит три раздела верхнего уровня:
Настройки моделей действуют на уровне организации. Если переопределение на уровне агента не задано, каждый агент в организации использует сохранённую глобальную конфигурацию.

​
Speech to Speech

Используйте Speech to Speech, если хотите, чтобы realtime-модель напрямую обрабатывала живой устный разговор. В этом режиме realtime-модель обрабатывает и речевой ввод, и речевой вывод, поэтому отдельные сервисы Voice и Transcriber не настраиваются. Конфигурация модели Speech to Speech Раздел Speech to Speech содержит вложенные вкладки:
LLM всё равно требуется при использовании Speech to Speech. Realtime-модель обрабатывает живой голосовой разговор, но Агентика использует LLM для задач анализа, выполняемых вне живого аудиопотока.
Вкладка Realtime Model поддерживает следующих провайдеров, каждый со своей линейкой realtime/speech-to-speech моделей:
Это BYOK — вы предоставляете собственный API-ключ/учётные данные для выбранного здесь realtime-провайдера. Это отдельно от вкладки, управляемой Агентикой, выше, которая пока не предлагает управляемый вариант speech-to-speech.

​
Агентика

Используйте Агентику, если хотите, чтобы Агентика управляла провайдерами моделей за вас. Этот путь использует один Service Key Агентики для управляемых Агентикой моделей вместо отдельных ключей провайдеров для LLM, Voice и Transcriber. Конфигурация модели Агентики Настройте: Подробнее о создании и использовании Service Keys см. API-ключи и Service Keys.

​
BYOK

Используйте BYOK, если хотите использовать собственные аккаунты провайдеров и API-ключи. Это даёт вам отдельный контроль над каждой категорией моделей.
При BYOK и внешних провайдерах моделей Агентика отправляет только те данные, которые нужны выбранному сервису для работы. В зависимости от провайдера и типа сервиса это могут быть промты, история разговора, расшифровки, аудио звонков, сгенерированный текст, описания инструментов (функций), их входные данные и результаты, а также метаданные запросов. Провайдеры обращаются с данными по-разному — прежде чем передавать персональные данные, изучите политику каждого в части обработки, хранения, обучения моделей и региона размещения. Зарубежные провайдеры означают трансграничную передачу персональных данных; убедитесь, что она допустима по 152-ФЗ, либо используйте суверенных провайдеров для стека, полностью остающегося в РФ.
Конфигурация модели BYOK Раздел BYOK содержит вложенные вкладки: GigaChat, SaluteSpeech, VoiceKit и T-one — российские провайдеры для развёртываний, которые не должны зависеть от западных облаков. Они опциональны, Yandex остаётся значением по умолчанию. Как получить доступ и чем каждый из них жертвует — см. Российские суверенные провайдеры.
ElevenLabs, Cartesia и Hugging Face — зарубежные облака. Их выбор означает передачу аудио звонков или расшифровок за границу, что развёртывание под 152-ФЗ может не допускать. Ни один из них не включается по умолчанию — вы подключаете их своим ключом. Локальные модели (Speaches) — self-hosted и такого вопроса не создают.
Специфичные для провайдера поля появляются только там, где применимы. Например:

​
Переопределения модели на уровне агента

Вы можете переопределить конфигурацию модели организации для отдельного агента. Это полезно, когда разным агентам нужны разные модели, голоса, транскрайберы или провайдеры. Чтобы настроить переопределение:
  1. Откройте агента.
  2. Перейдите в Settings.
  3. Откройте Model Overrides.
  4. Включите переопределение для нужного сервиса.
  5. Настройте провайдера, модель и ключи для этого сервиса.
  6. Сохраните настройки агента.
Переопределения на уровне агента выборочны. Например, вы можете переопределить только сервис Voice для одного агента, при этом он продолжит использовать конфигурацию LLM и Transcriber уровня организации.