Восстание машин отменяется: как умные чат-боты помогают людям и компаниям

Эксперты Tochka.by объясняют, как устроен такой инструмент и как применять его с пользой.

Существование чат-ботов необходимо принять как свершившийся факт. Их применение в работе стало нормой для многих бизнесов. Обычные белорусы тоже широко пользуются чат-ботами, когда обращаются, к примеру, в банки, страховые и торговые организации.

Нашим проводником по миру чат-ботов выступила белорусская IT-компания Cotvec.

За девять лет Cotvec реализовал множество различных проектов. Компания не только предоставляет полный спектр IT-решений для различных организаций Беларуси, но и успешно разрабатывает продукты разного уровня сложности – например, чат-боты.

А значит, команда Cotvec может наглядно объяснить устройство этих программ и рассказать, в чем состоит назначение чат-ботов и как с ними правильно общаться.

Когда чат-боты помогают людям

Одна из компаний сектора e-commerce остро нуждалась в том, чтобы снизить нагрузку на свою службу поддержки и улучшить взаимодействие с пользователями: покупателями и возможными партнерами. Руководство фирмы осознало, что чат-бот станет полезным звеном в этих бизнес-процессах.

Главная проблема заключалась в большом количестве однотипных обращений в кол-центр. Например, "как я могу отменить заказ?", "какие есть вакансии?", "каковы условия оплаты для поставщиков?".

Для того чтобы решить проблему заказчика, Cotvec разработал умный чат-бот.

Спойлер: с его помощью клиенты и партнеры компании теперь быстро получают полные ответы на все свои вопросы.

Выслушаем, поймем и ответим

Для начала нужно пояснить несколько технических моментов.

Чат-бот Cotvec работает на основе метода Retrieval Augmented Generation (RAG). Эта технология сочетает в себе поиск релевантной информации в существующих источниках данных и генерацию текста с помощью языковых моделей, для того чтобы создавать более точные и информативные ответы, а также налаживать коммуникации с разными группами пользователей.

С помощью RAG чат-бот эффективно находит и использует сведения из внешних источников, а затем формирует на их основе связные и точные ответы на запросы пользователей.

При этом важную роль в работе RAG играют большие языковые модели (LLM), такие как GPT-4, LLama и др. Они обрабатывают сложные и многоязычные языковые структуры, понимают контекст и генерируют тексты. Возможности систем настолько широки, что позволяют использовать их в различных регионах и для разных целевых аудиторий.

Цифровая магия чанков и эмбеддингов

Чтобы "обучить" чат-бот работе с пользователями, Cotvec запросил у заказчика все сведения о его деятельности и провел индексацию этой огромной информации.

Процесс индексации документов включал несколько этапов: разбиение текста на чанки, вычисление эмбеддингов и сохранение их в векторной базе данных.

Чанки представляют собой небольшие фрагменты текста, которые упрощают поиск и обработку информации. Тогда как вычисление эмбеддингов позволяет создать векторные представления документов, которые затем хранятся в базах данных для быстрого доступа.

Например, слова "собака" и "кот" будут рядом, а "собака" и "стол" – дальше друг от друга.

А теперь вернемся к понятию "чанк". Предположим, вы читаете текст. Вместо того чтобы воспринимать каждое слово по отдельности, вы группируете их в чанки – небольшие кусочки информации: фразы или предложения.

Эмбеддинги чанков и есть те самые координаты предложений на карте, которые сохраняются в векторной базе данных.

Как именно чат-бот общается с людьми

Разработанный Cotvec чат-бот собирает воедино вопросы из трех категорий: оказания услуг, трудоустройства и сотрудничества.

Таким образом, чат-бот ищет ответ в векторной базе данных и генерирует текст на основе найденной информации.

Рассмотрим конкретные примеры диалогов с пользователями.

Когда клиент уточняет условия доставки заказа, чат-бот может ответить, например, так: "Мы предлагаем экспресс-доставку, плановую доставку и самовывоз из пункта выдачи заказов. Какой способ для вас удобнее?"

Как видно, чат-бот действительно облегчает общение и быстро выдает нужные сведения.

Если пользователь интересуется условиями доставки, то бот оперативно даст информацию обо всех доступных вариантах – готовый ответ пользователь увидит на экране смартфона.