Как понять, как часто обновлять базу знаний бота

Пример расчёта (условные цифры): если из 200 начатых диалогов 50 заканчиваются подтверждённой заявкой, доля составляет 25%. Сначала проверьте, что все события посчитаны по одному правилу. На БЕСПЛАТНОЙ КОНСУЛЬТАЦИИ можно согласовать события и проверить расчёт на вашем потоке.

Результат, который нужен по теме «обновление базы знаний»

Ответы постепенно расходятся с действующим прайсом и правилами компании. Разделите ошибку сбора данных и реальное изменение поведения. Для этого понадобятся идентификатор, время и подтверждённый результат.
Аналитика должна объяснять переходы: сколько людей увидели шаг, ответили, получили помощь и дошли до нужного действия. Общая цифра заявок скрывает место потери и роль ручной передачи.
Базу знаний обновляют по событиям: новый прайс, изменение регламента, частые ошибочные ответы. У каждого раздела должен быть владелец и дата проверки; старая версия не должна участвовать в поиске как равная новой.
Календарная дата проверки базы знаний полезна, но срочный пересмотр запускают изменение цены, регламента или повторяющаяся ошибка ответа. У каждого раздела должен быть владелец, который утверждает новую версию и убирает старую из выдачи.
Сведения берите из источника «Документы с владельцем и датой проверки». Сверьте события с карточкой результата и не переносите отсутствующее событие из другого канала по предположению.
Вопрос к вам: какая доля событий отчёта подтверждается рабочей записью?
Лайфхак: отметьте на графике даты изменений сценария и источников трафика. Это поможет не принять технический сдвиг за результат.

Какие данные и решения подготовить

Опишите момент возникновения каждого события и правило его повторения. Отдельно храните начало, полезный ответ, передачу человеку и подтверждённую заявку.
Условие «срочное изменение вне очередного цикла» может изменить трактовку метрики. Оставьте эту группу отдельным разрезом до проверки первичных данных.
Сравните отчёт с карточками результата и несколькими исходными диалогами. Особенно проверьте случаи, где бот назвал вопрос закрытым, а человек вернулся вскоре с той же проблемой.
Пересчитайте небольшой набор вручную. Каждое расхождение между выборкой и отчётом классифицируйте до изменения сценария.
Перед тестом назначьте владельца исходных сведений и владельца текста бота. Когда правило меняется, оба проверяют одну и ту же цепочку: что введено, что сохранилось, кто получил задачу и каким сообщением она завершилась. Дата обновления без ответственного не защищает от старого ответа.

Два способа обработать запрос

Вручную. Ручной просмотр помогает понять, почему человек остановился или повторил вопрос. Его плюс - контекст. Главный риск - сделать общий вывод по слишком малой выборке.
Автоматический отчёт. Автоматический подсчёт позволяет видеть динамику по каналам и сегментам. Его сильная сторона - повторяемость, риск - пропущенные или задвоенные события.
Используйте отчёт как указатель для редактора сценария. Не переносите вывод по нескольким разговорам на весь поток без подсчёта доли.

Как запустить сценарий по шагам

Шаг 1. Назначить владельцев разделов

Определите событие, единицу счёта и знаменатель. Проверьте правило на нескольких исходных диалогах.

Шаг 2. Задать триггеры обновления

Свяжите события с одной сессией и проверьте переходы между каналами. Потерянную связь не достраивайте предположением.

Шаг 3. Проверить выборку ответов

Разделите поток по типу задачи и версии сценария, затем проверьте строки с необычным переходом.

Шаг 4. Удалить старые версии

Сравните периоды по одному правилу и укажите размер выборки. Учтите изменение трафика.
Сравните автоматический расчёт с ручным на примерах «срочное изменение вне очередного цикла». Расхождения оформите как задачи владельцу данных, а не как произвольную поправку к отчёту.

Таблица проверки результата для «обновление базы знаний»

Контрольная точкаПроверяемый следЧто делать при ошибке
Назначить владельцев разделовОпределение событияПроверить на диалогах
Задать триггеры обновленияИсточник и единица счётаУстранить пропуски и дубли
Проверить выборку ответовРазрез по каналам и версиямСверить сопоставимость
Удалить старые версииИтог с размером выборкиУказать ограничения вывода
Для этой задачи контролируйте показатель «доля ответов по актуальным версиям». Зафиксируйте его определение, период и источник до запуска. Дополните его временем до результата и числом случаев, которые пришлось исправлять вручную. Иначе отчёт может объявить успехом отправку сообщения, за которой не было нужного действия.
Пример расчёта (условные цифры): если 50 из 200 диалогов достигли результата, это 25%. При десяти повторных записях сначала пересчитайте знаменатель. Это оценка для проверки процесса, а не обещание эффекта внедрения.
Если формула изменилась, пометьте разрыв ряда и пересчитайте контрольную выборку. Иначе сравнение месяцев станет ложным.
Вопрос к вам: сколько строк отчёта совпало с ручной проверкой исходного диалога?
Лайфхак: храните три проверочных случая рядом с описанием сценария. После каждого изменения прогоняйте их заново и добавляйте новый случай, если обнаружили повторяющуюся ошибку.

Что ещё связано

Сценарий опирается на качество исходных данных и понятную передачу исключений. В A3bot можно собрать маршрут вокруг вашей рабочей системы. Стоимость обсуждаем после разбора задачи.

Заметка эксперта

У задачи «обновление базы знаний» есть проверяемое завершение. Бот полезен, когда он приближает к этому завершению и не скрывает задержку или ошибку. Начните с небольшого потока, подтвердите итог в основной системе и только затем расширяйте сценарий.
Напишите, какой процесс хотите автоматизировать: A3bot
Обсудить бота