AI-бот на ваших данных: отвечает по вашим документам и прайсу
AI-бот на ваших данных отвечает не из общих знаний языковой модели, а из ваших документов, каталога и прайса. Это важно там, где ошибка в цене или параметре стоит денег: у дистрибьюторов, в B2B, у экспертов с книгами и курсами. Ниже — как мы строим такого бота и где его возможности заканчиваются.
Два слоя знаний у AI-бота на ваших данных
Ответ строится из двух слоёв. Первый — блок знаний в настройках бота: короткие справочные сведения о компании, правила, тон ответа; у клиентских ботов он занимает примерно от одной до восьми тысяч знаков. Второй — поиск по загруженным документам: бот находит нужные фрагменты и отвечает на их основе.
Малые справочные данные удобно держать в настройках, объёмные материалы — в базе знаний. Это видно на практике: у одного из ботов 25 тысяч знаков лежали прямо в настройках, и ревью рекомендовало вынести их в базу знаний.
Какие файлы принимает база знаний
Загружаются PDF, в том числе сканы с распознаванием текста, документы Word и таблицы Excel. Документ режется на фрагменты примерно по 500–800 токенов с перекрытием около 15 %, чтобы мысль не обрывалась на границе. У каждого фрагмента хранится источник и глава или страница, поэтому бот может сослаться: «по документу такому-то, стр. такая-то».
У каждого бота своя база. Правило платформы запрещает смешивать данные разных владельцев: бот ищет только в своей коллекции. Это защищает от ситуации «достал чужое» и держит ответы по теме.
Пример: AI-бот на книге эксперта
Один из наших AI-ботов работает на материалах книги: примерно 131 тысяча слов превратилась в 748 фрагментов. Бот отвечает своими словами в манере автора, без дословных цитат, и берёт для ответа до трёх фрагментов. Если поиск по какой-то причине не сработал, бот отвечает так, как отвечал бы без базы, а не падает.
Пример: AI-бот на прайсе
Другой пример — AI-бот продаж с каталогом техники. В его прайсе 54 829 строк, в каталоге-мастере 28 687 позиций. Сначала бот смотрит цену в учётной системе, потом в каталоге, потом в прайсе. Цену он называет из базы, а не «из головы», а слова «в наличии» и «срок» в ответах по прайсу ему запрещены: наличие и сроки подтверждает менеджер.
Подбор по параметрам строится на семантическом поиске по каталогу; пример запроса — «насос на 63 литра в минуту».
Честные границы AI-бота на ваших данных
Гарантии «ни одной ошибки» у любого AI-бота нет, потому что в основе языковая модель, и мы её не даём. Что мы делаем: ограничиваем бота выданным контекстом, запрещаем цены и сроки вне базы, проверяем бота на тестовом контуре и ведём журнал обращений, в котором видно, где бот ответил сам, где передал разговор человеку и где ошибся. Журнал нужен для доработки сценариев.
Большая загрузка документов — плановая операция. Пока идёт массовая индексация, поиск работает медленнее, поэтому первичную загрузку большого архива делаем вне рабочего времени бота.
Куда уходят данные
В стандартной схеме текст вопроса и найденные фрагменты обрабатывает внешний провайдер языковой модели. Закрытый контур для AI-бота на ваших серверах возможен по отдельной договорённости, условия уточняем в брифе. Страну хранения данных для базы знаний мы заранее не обещаем: её фиксируем в договорённостях по проекту.
Что дальше
Если вам нужен не только бот, а отдельный отраслевой AI-сервис или API на ваших каталогах, это услуга «AI на ваших данных». Заявки из диалога уходят владельцу и в учётные системы — об этом бот для заявок и интеграции. Как проверить, что бот не выдаёт лишнего, читайте в AI Agent Security Kit.
Вопросы и ответы
Какие файлы можно загрузить?
PDF, включая сканы, документы Word и таблицы Excel. Как именно загрузить ваш прайс, определяем в брифе.
Может ли бот выдумать ответ?
Риск есть у любой языковой модели. Мы ограничиваем бота контекстом, запрещаем цены и сроки вне базы, проверяем на тестовом контуре и ведём журнал. Гарантии «ноль ошибок» нет.
Уходят ли мои данные за пределы вашего сервера?
В стандартной схеме вопрос и найденные фрагменты обрабатывает внешний провайдер модели. Закрытый контур возможен по отдельной договорённости.
Читайте также
Расскажите, какие документы и прайс у вас есть — подскажем, что положить в базу знаний, а что в настройки бота.