Бот, который не врет: как работает RAG-ассистент в реальном бизнесе

Когда клиент пишет в поддержку: «У меня на Земской, 10 сломалась панель Model X50, что делать?» — он ждет не философских рассуждений, а четкой инструкции: кто приедет, когда и что делать до приезда сотрудника компании. Но именно в этот момент большинство умных ботов пасуют.

Почему просто LLM — недостаточно

Мы знаем описанную выше ситуацию не понаслышке. Платформа для создания ИИ-ботов Robovoice изначально предлагала классических ботов с правилами: много ветвлений, аккуратно прописанные сценарии, нужные формулировки. Они справлялись. Пока не начались сложные запросы — с техникой, региональными отличиями, индивидуальными договорами и всеми теми вещами, которые не прописать в универсальном «если… то…». Тогда стало понятно: без искусственного интеллекта мы не масштабируемся.

Следующий шаг — интеграция LLM (большая языковая модель). Мы протестировали несколько моделей, подключили их к боту и быстро столкнулись с двумя проблемами. Первая — они не знали ничего о наших клиентах. Вторая — они не стеснялись выдумывать. GPT может блестяще объяснить устройство двигателя, но если попросить его рассказать, как у вашей компании оформляется гарантийный обмен, он начнет фантазировать.

Нужен был способ встроить реальные знания компании в мышление языковой модели. Не пересаживать всю логику на промпты. Не писать все руками. А соединить генерацию и поиск. Так мы пришли к архитектуре RAG — Retrieval-Augmented Generation. Это не просто модный стек — это фундамент, который позволяет боту говорить не то, что «думает GPT», а то, что реально написано в базе знаний, SLA, внутреннем регламенте или карточке клиента.

Дальше — о том, как мы это реализовали. С учетом голоса, скорости, ошибок и настоящих пользователей.

Читайте полный материалв в Бизнес‑секретах