Сейчас в конфигурации LLM можно использовать OpenAI, Yandex (YandexGPT), Агентика, GigaChat, Hugging Face и локальные модели (Speaches). В выпадающем списке по умолчанию доступно несколько моделей на выбор.
Провайдер LLM получает данные, необходимые для генерации ответов: промты, историю разговора, настройки модели, а также описания подключённых инструментов (функций) и контекст их вызовов. Прежде чем передавать персональные данные, изучите политику провайдера в части обработки, хранения, обучения моделей и региона размещения. Если провайдер размещён за пределами России (например, OpenAI, Hugging Face), это трансграничная передача персональных данных — убедитесь, что она допустима по 152-ФЗ. Для стека, полностью остающегося в РФ, используйте суверенных провайдеров.
Выбор моделей из выпадающего списка Если нужной модели нет в списке, вы всегда можете добавить модель вручную. Выбор моделей из выпадающего списка