После загрузки и установки модуль появится во вкладке "Бестранк" -> "AI Коннектор. Решения для бизнеса".
Профили моделей
Все созданные модели отображаются в административной панели на соответствующей странице в настройках модуля. Доступен выбор отображаемых полей, сортировка, перетаскивание столбцов, контекстное меню, постраничная навигация и другие штатные возможности работы со списками.
Чтобы создать профиль модели, нужно кликнуть на кнопку "Создать".
Чтобы отредактировать настройки уже существующей модели, откройте нужную модель, кликнув по ее названию или воспользовавшись контекстным меню.
Создание профиля модели:
После клика по кнопке "Создать" откроется следующее окно
1. Название модели
2. Провайдер (сейчас на выбор доступны Yandex, Yandex Search и Yandex классификаторы)
После того, как нужные значения внесены, нажмите "Сохранить" -> созданный профиль модели появится в списке:
Чтобы продолжить настройку модели, откройте созданный профиль модели.
1. Выберите модель. (Сейчас доступны 2 модели - YandexGPT Lite и YandexGPT Pro 32k)
2. Укажите API ключ
3. Укажите ID каталога
4. Укажите ветку (Latest, Release Candidate или Deprecated)
Подробнее о последних трех настройках можно прочитать в подсказках. Для этого нужно навести курсор на знак вопроса рядом с настройкой и перейти по ссылке.
Настройка профиля для классификатора (с обучением)
1. Классификатор в данный момент работает только на базе YandexGPT Lite
2. Все настройки производятся аналогично настройкам других моделей
3. Uri дообученной модели. Ссылку URI можно получить в личном кабинете Yandex Cloud (см. скриншот ниже)
Промпты
Все созданные промпты отображаются в административной панели на соответствующей странице в настройках модуля. Доступен выбор отображаемых полей, сортировка, перетаскивание столбцов, контекстное меню, постраничная навигация и другие штатные возможности работы со списками.
Чтобы создать промпт, нужно кликнуть на кнопку "Создать".
Чтобы отредактировать настройки уже существующего промпта, откройте нужный промпт, кликнув по его названию или воспользовавшись контекстным меню.
Создание промпта:
После клика по кнопке "Создать" откроется следующее окно
1. Название промпта
2. Выбор модели (на выбор доступны модели, созданные ранее в профилях моделей)
3. Описание промпта
4. Роль user (сообщение, которое будет отправлено модели)
После того, как нужные значения внесены, нажмите "Сохранить" -> созданный промпт появится в списке:
Чтобы продолжить настройку промпта, откройте созданный промпт.
1. Роль system. Настройка позволяет задать контекст вопроса и определить поведение модели
2. Роль user. Сообщение, которое будет отправлено модели
В этом поле важно указать фрагменты запроса, которые можно будет менять в зависимости от потребностей. Сделать это можно, заключив фрагмент в # . Например, # TEXT # (без пробелов). При настройке активити выделенные фрагменты будут доступны в качестве заполняемых полей.
3. Роль assistant. Используется для ответов, которые генерирует модель
4. Температура (от 0,1 до 1). Настройка креативности/случайности ответов модели
5. Максимальное кол-во токенов. Установка ограничения на выход модели в токенах
6. JSON с произвольной структурой (json_object). Параметры API для сохранения структуры ответа
7. JSON, строго соответствующий заданной схеме (json_schema). Параметры API для сохранения структуры ответа.
История запросов
Все отправленные модели запросы отображаются в административной панели на соответствующей странице в настройках модуля. Доступен выбор отображаемых полей, сортировка, перетаскивание столбцов, контекстное меню, постраничная навигация и другие штатные возможности работы со списками.
Активити
Все активити для работы с модулем доступны в дизайнере бизнес-процессов во вкладке "Bestrank AI"
Разберем каждое из них подробнее.
Активити "Парсинг файла"
Данное активити позволяет парсить текст, который находится в файле, на сайте или напрямую загружен в само активити.
Локальный конвертер
1. Выбор файла с нужным текстом для парсинга (работает с расширениями docx, pdf, xls)
2. Тип поля. На выбор доступны "Файл" и "Файл (диск)"
Облачный конвертер
Позволяет задать более гибкие настройки для парсинга данных, т.к. работает, обращаясь к отдельному серверу
Активити "Отправка данных в модель"
Это основное активити для работы с модулем. С его помощью можно отправлять запросы в AI модель.
1. Выбор промпта. На выбор доступны созданные промпты
2. Здесь необходимо указать значение, которое будет вставлено в текст, отправляемый в модель. (Вспоминаем настройки промпта).
Ответ, предоставляемый моделью, можно получить через штатную вкладку "Дополнительные результаты":
Внимание! Повторная установка в демо-режиме приведет к окончанию демо‑режима и невозможности использовать модуль.