Запрос к YandexGPT
Компонент Запрос к YandexGPT отправляет в YandexGPT текст от пользователя и присылает ответ от нейросети в бот.
Настройка компонента
1. Из раздела Компоненты на правой панели перетащите или добавьте двойным щелчком мыши компонент Запрос к YandexGPT на нужный экран.
2. Перейдите по ссылке для регистрации или входа в аккаунт. Следуя указаниям на сайте, зарегистрируйтесь или войдите в существующий аккаунт.
3. После регистрации или входа перейдите по ссылке в консоль.
Подтвердите, что вы ознакомились с условиями платформы и нажмите Войти.
4. В левом верхнем углу перейдите в раздел Все сервисы.
5. Выберите сервис Yandex Cloud Billing и перейдите в него.
6. Создайте платежный аккаунт.
7. Заполните обязательные данные, привяжите карту и после этого нажмите внизу кнопку Создать.
8. Слева вверху перейдите во вкладку default, затем выберите пункт Создать сервисный аккаунт.
9. Придумайте имя и описание для сервисного аккаунта. Нажмите плюс и добавьте роль ai.languageModels.user и нажмите Создать.
10. Перейдите в default.
11. Скопируйте идентификатор каталога вверху.
12. Вернитесь в Ботмаму и вставьте его в поле Идентификатор каталога.
13. В настройках Яндекса перейдите во вкладку Сервисные аккаунты и кликните на вновь созданный аккаунт.
14. Нажмите + Создать новый ключ, затем Создать API-ключ.
15. Придумайте описание и нажмите Создать.
16. Скопируйте Идентификатор ключа, Ваш секретный ключ и сохраните у себя, так как после закрытия окна эти данные будут недоступны.
17. Вернитесь в Ботмаму и вставьте Ваш секретный ключ в поле API-ключ компонента Запрос к YandexGPT.
18. Нажмите галочку Отправлять последние сообщения пользователя, если хотите, чтобы контекст диалога с ботом сохранялся.
Если нужно, чтобы был учтен контекст общения с ботом до попадания на компонент YandexGPT, выберите пункт До диалога. Или можно выбрать После диалога для соответствующего сохранения контекста.
Подробнее про возможности настройки Отправлять последние сообщения пользователя можно узнать в этой статье.
19. В выпадающем списке поля Role выберите роль, которую будет исполнять YandexGPT:
- system — cистемное сообщение помогает настроить поведение помощника;
- user — cообщения пользователя помогают проинструктировать помощника, они могут быть сгенерированы конечными пользователями чат-бота;
- assistant — cообщения помощника помогают сохранять предыдущие ответы.
Подробнее о том, как работают роли →
20. Добавьте в поле Content то, что вы хотите отправить нейросети. Content может быть взят из переменной, записанной до попадания на компонент YandexGPT.
21. Откройте настройки компонента и задайте Имя переменной для ответа. Ответ от YandexGPT передастся в эту переменную.
Ниже в сообщении переменную с ответом можно вывести так: {{stringify var1}}, где var1 — имя переменной для ответа.
22. Укажите Экран успешного запроса. Этот экран выполнится при успешном запросе к нейросети. Если экран успешного запроса не будет выбран, то, в случае успеха, выполнится следующий компонент.
23. Укажите Экран ошибки запроса. Этот экран выполнится в случае одной или нескольких ошибок запроса. Примеры ошибок:
- ответ генерируется слишком долго;
- указан неверный токен или идентификатор каталога YandexGPT;
- YandexGPT недоступен;
- oшибка на стороне YandexGPT.
24. При необходимости отметьте чекбокс Отправлять индикацию печати пока выполняется запрос.
25. Укажите или оставьте по умолчанию максимальное количество используемых токенов. Чем больше токенов вы укажете, тем подробнее будет ответ. В то же время, количество токенов влияет на скорость ответа. Чем больше токенов — тем дольше придется ждать ответ от YandexGPT.
26. Поменяйте или оставьте по умолчанию используемую модель.
- yandexgpt — дает объемные и развернутые ответы;
- yandexgpt-lite — дает более короткие ответы или может задать уточняющий вопрос;
- summarization — отвечает на вопросы тезисно, в некоторых случаях может пересказать вопрос, который ей только что задали или сообщить, что вопрос не подходит под тезисное описание.
27. Отключите логирование, если не хотите, чтобы данные запросов сохранялись в YandexGPT API.
28. При необходимости задайте Имя переменной для полного ответа.
29. Поменяйте или оставьте по умолчанию Температуру сэмплирования. Необходимая температура сэмплирования от 0 до 2. Высокие значения сделают выходные данные более случайными, а низкие значения сделают их более сфокусированными.
30. Сохраните изменения.
Если все настроено правильно, YandexGPT готов к общению через бота.