Запрос к AI модели
Компонент Запрос к AI модели отправляет запрос в выбранную AI модель, сохраняет ответ в переменную и присылает ответ от нейросети в бот.
Работа компонента Запрос к AI модели во многом схожа с работой Запроса к ChatGPT OpenAI →
Главное отличие состоит в том, что можно выбирать другие нейросети.Настройка компонента
1. Из раздела Компоненты на правой панели перетащите или добавьте двойным щелчком мыши компонент Запрос к AI модели на нужный экран.
Компонент создаётся с переменной по умолчанию для вывода ответа — ai_answer. При необходимости вы можете изменить это имя: откройте настройки компонента и укажите новое значение в поле «Имя переменной для ответа».
2. В поле Провайдер выберите нейросеть. Вместо выбора нейросети вы можете ввести URL — для этого нажмите значок карандаша справа от поля Провайдер.
Для большинства нейросетей URL можно не указывать. Исключения составляют Azure OpenAI и Amazon Bedrock — при выборе этих моделей в компоненте появится новое поле URL запроса обязательное для заполнения.
3. В поле Ключ доступа введите токен, который вы получили в настройках выбранной нейросети.
4. Выберите используемую моделель из списка. Если для выбранной модели список не отображается, то впишите модель вручную.
5. В выпадающем списке поля Role выберите роль, которую будет исполнять ИИ-ассистент.
- system - cистемное сообщение помогает настроить поведение помощника.
- user - cообщения пользователя помогают проинструктировать помощника. Они могут быть сгенерированы конечными пользователями чат-бота.
- assistant - cообщения помощника помогают сохранять предыдущие ответы.
6. Добавьте в поле Content то, что вы хотите отправить нейросети. В Content можно вывести переменную, в которую перед исполнением компонента «Запрос к AI модели» попал ввод от пользователя. Если вы выбрали user, то выглядеть экран может так:
7. Число Максимального количества используемых токенов можно оставить по умолчанию или поменять для более краткого или подробного ответа.
8. Задайте Имя переменной для полного ответа, если нужно получить полный ответ от ИИ. Эту переменную заполнять не обязательно.
9. Включите чек-бокс «Продлить хранение кэша запросов к AI», если вам необходимо хранить кэш переписки в течение 24 часов.
10. Если потребуется, разверните раздел Больше продвинутых настроек и внесите необходимые значения.
11. При необходимости настройте Экран успешного запроса и Экран ошибки запроса.
12. При необходимости выведите ответ от нейросети в сообщении. Ответ выводится в двойных фигурных скобках.
Например, если ответ от нейросети записался в переменную ai_answer, то так его можно вывести в сообщение, которое пришлет бот:
{{stringify ai_answer}}
Опция «Отправлять последние сообщения пользователя» → и Настройка ролей → в компоненте Запрос к AI модели работают как в Запросе к ChatGPT OpenAI →