Модульный Proof-of-Concept системы автоматизации тикетов поддержки (каскадная маршрутизация + RAG).
Эта система автоматизации поддержки решает критическую проблему масштабирования при пиковых нагрузках (до 20 000 обращений в моменте). Она позволяет удерживать SLA первого ответа в пределах 15 минут без экспоненциального роста штата операторов. Внедрение каскадной маршрутизации и RAG-пайплайна снизит стоимость обработки типового тикета до целевых 150₽. При этом система защищает репутацию компании и лояльность клиентов (CSAT), мгновенно переводя сложные, непонятные или рискованные запросы на живых сотрудников.
Проект представляет собой каскадный пайплайн обработки обращений:
- Синхронный контур (Hot Path): Мгновенно (< 500 мс) проверяет тикет на наличие рисков (угрозы, суды) и наличие смысла (длина контекста).
- Асинхронный контур (Cold Path): Извлекает релевантную документацию из базы знаний и обращается к LLM для генерации ответа.
Система прогоняет локальный датасет из 7 синтетических тикетов. Демонстрируется Сценарий №6 (эскалация): тикеты с юридическими угрозами или состоящие из одного слова мгновенно улетают на оператора, а вопросы по оплате и багам маршрутизируются в пайплайн для генерации ответа.
Реализовано в коде (PoC):
- Модульная архитектура оркестратора.
SafetyRouter: эвристики (поиск корней стоп-слов) для отсева рисков.- Заглушки для Retriever (выдает статический JSON-контекст) и LLM (симулирует задержку).
- Скрипт автоматизированной валидации на CSV-датасете.
Оставлено в архитектурном дизайне (Целевая система):
- Брокеры сообщений (Kafka/RabbitMQ) для асинхронности.
- Настоящие ML-классификаторы (BERT) вместо правил
if-else. - Векторные БД (FAISS/Milvus) и интеграция с внешними LLM API.
Подробное описание целевой архитектуры вынесено в папку
/docs.
- Асинхронность и задержки LLM API симулируются через
time.sleep(). В production это приведет к блокировке потоков, требуются очереди задач. - Маршрутизатор безопасности работает на жестких правилах, что уязвимо к опечаткам (необходим ML-классификатор).
- Отсутствует настоящая обработка PII (персональных данных).
Скрипт читает датасет из data/tickets_sample.csv, прогоняет через систему и выводит результаты маршрутизации с замерами задержки.
python main.py