Программное обеспечение "Диалоговая платформа Рантел"

1. Краткое описание продукта

Диалоговая платформа Рантел — это on-premise программный комплекс для автоматизации коммуникаций с клиентами на основе искусственного интеллекта. Платформа обеспечивает анализ телефонных разговоров и текстовых диалогов, детекцию автоматизированных звонков, синтез речи, интеллектуальный поиск по базе знаний и автоматизацию принятия решений в системах распределения обращений.

2. Развернутое описание продукта

Диалоговая платформа Рантел представляет собой микросервисную систему, построенную на плагинной архитектуре, которая обеспечивает гибкое масштабирование и расширение функциональности. Платформа реализует комплексную обработку голосовых и текстовых коммуникаций с использованием современных технологий машинного обучения и обработки естественного языка.

Архитектурные особенности

Система построена на модульной архитектуре, состоящей из следующих ключевых компонентов:

• API Service — основной сервер приложений, обеспечивающий REST API, Server-Sent Events (SSE) streaming и WebSocket соединения для real-time взаимодействия
• Плагинная система — динамически загружаемые модули обработки ИИ, каждый из которых реализует специфическую функциональность (транскрибация, генерация текста, детекция роботов, синтез речи)
• Система управления очередями — асинхронная обработка задач через Celery с выделенными очередями для различных типов операций
• Система лицензирования — гибкое управление доступом к функциональности через каналы лицензирования
• База знаний с RAG — система поиска по документам с использованием векторных эмбеддингов и полнотекстового поиска

Технологический стек

• Backend: Python 3.10+, aiohttp, FastAPI
• Task Queue: Celery + Redis
• Database: PostgreSQL 15+ с расширением pgvector для векторного поиска
• AI/ML: PyTorch, Transformers (библиотека моделей с открытым исходным кодом)
• Model Storage: S3-совместимое хранилище (Yandex.Cloud Object Storage, MinIO, или локальное развертывание)
• Deployment: systemd сервисы для Linux, Debian пакеты (.deb)

3. Функциональность

3.1. Анализ коммуникаций

Анализ телефонных разговоров:

• Автоматическая транскрибация речи в текст с определением ролей говорящих (оператор/клиент)
• Анализ качества обслуживания: приветствие, представление, уточнение деталей, договоренность о следующих шагах
• Определение причины завершения разговора
• Анализ тональности разговора (позитивная/нейтральная/негативная)
• Выявление нарушений в работе оператора

3.2. Детекция автоматизированных звонков

• Определение роботизированных звонков на основе анализа аудио признаков
• Классификация типов автоматизированных систем: робот, автоответчик, IVR, гудок, голосовой ассистент
• Пакетная обработка аудио файлов (batch inference)

3.3. Интеллектуальный поиск по базе знаний (RAG)

• Полнотекстовый поиск по документам с использованием PostgreSQL tsvector
• Векторный поиск с использованием эмбеддингов (SentenceTransformer)
• Гибридный поиск, комбинирующий полнотекстовый и векторный методы

3.4. Генерация текста на основе языковых моделей

• Генерация ответов на основе промптов с использованием языковых моделей (LLM)
• Streaming генерация токенов для real-time отображения ответа через SSE
• Поддержка контекста из RAG системы для генерации ответов на основе базы знаний

4. Связь между модулями

4.1. Архитектура модулей

Система организована в четыре основных модуля:

• ai_handlers/ — слой эндпоинтов (REST API, SSE, WebSocket)
• plugins/ — модули обработки ИИ (whisper, qwen_llm, robot_detector, rag)
• core/ — ядро системы (базовые интерфейсы, лицензирование, маппинг функций)
• utils/ — вспомогательные утилиты

4.2. Поток обработки запроса

HTTP/WebSocket Request
    ↓
core/routes.py (маршрутизация)
    ↓
ai_handlers/sse_*.py или websocket_handler.py
    ↓
core/license_validator.py (проверка лицензии)
    ↓
task_workers.py (создание Celery задачи)
    ↓
Redis Queue (постановка в очередь)
    ↓
Celery Worker (обработка)
    ↓
core/plugin_discovery.py (получение плагина)
    ↓
plugins/*/handler.py (обработка ИИ моделью)
    ↓
Результат (SSE/WebSocket ответ)

5. Особенность плагинной структуры

Платформа построена на полностью модульной плагинной архитектуре, где каждая ИИ модель реализована как независимый плагин. Все плагины наследуются от единого базового класса BaseAIPlugin.

5.3. Динамическая загрузка плагинов

Система поддерживает два типа плагинов:

1. Предустановленные плагины — находятся в директории plugins/, входят в состав платформы.
2. Кастомные плагины — устанавливаются отдельно из .deb пакетов в директорию /opt/runtel/robot/installed_plugins/.

6. Административная панель

Административная панель — это веб-интерфейс для управления и мониторинга системы Dialog LLM. Она предоставляет инструменты для настройки пользователей, прав доступа, управления плагинами, тестирования функционала и просмотра статистики.

6.1. Функциональные возможности

Панель управления предоставляет доступ к следующим ключевым модулям:

Дашборд и Мониторинг

• Статус системы: Отображение состояния основных сервисов (API, База данных, Redis, Celery Workers).
• Статистика использования: Графики нагрузки, количество обработанных запросов по типам операций.
• Логи системы: Просмотр журналов событий в реальном времени для диагностики проблем.

Управление пользователями и безопасностью

• Пользователи: Создание и редактирование учетных записей администраторов и операторов.
• Роли и права доступа: Гибкая настройка разрешений (RBAC) для ограничения доступа к определенным разделам и функциям.
• Лицензирование: Просмотр статуса лицензии, активных каналов и сроков действия. Загрузка новых лицензионных ключей.

Управление ИИ моделями и плагинами

• Плагины: Просмотр списка установленных плагинов, их статуса и версий. Возможность включения/отключения плагинов.
• Модели: Управление загруженными моделями (Whisper, LLM, и др.). Синхронизация с S3-хранилищем, мониторинг использования памяти.
• Маппинг функций: Назначение конкретных плагинов для выполнения системных функций (например, выбор модели для транскрибации).

База знаний (RAG)

• Управление документами: Загрузка, удаление и просмотр документов в базе знаний.
• Настройки поиска: Конфигурация параметров векторного и гибридного поиска.
• Тестирование поиска: Инструмент для проверки релевантности выдачи по поисковым запросам.

Инструменты тестирования и отладки

• Чат с LLM: Интерактивный интерфейс для тестирования ответов языковой модели и проверки промптов.
• Транскрибация: Загрузка аудиофайлов для проверки качества распознавания речи.
• Комплексный анализ звонков: Тестирование полной цепочки обработки (Транскрибация -> Анализ -> Результат).
• Детекция роботов: Массовое тестирование модели на наборах данных (batch testing) с генерацией отчетов точности.

7. Интеграция с Коммуникационной платформой Рантел

Диалоговая платформа Рантел может быть легко интегрирована с Коммуникационной платформой Рантел для обеспечения комплексной автоматизации коммуникационных процессов.

7.1. Анализ телефонных звонков

Автоматический анализ всех входящих и исходящих звонков для контроля качества обслуживания.

7.2. Real-time контроль чек-листов оператора

Автоматический контроль выполнения оператором скриптов и чек-листов во время диалога в реальном времени.

8. Описание безопасности и лицензирования

8.1. Система лицензирования

Платформа использует гибкую систему лицензирования на основе каналов доступа. Каждый канал контролирует доступ к определенному типу ИИ операций: transcription, llm_analytics, robot_detection, training, speech_synthesis, rag.

8.5. Безопасность данных

• On-Premise развертывание: Все данные обрабатываются локально, без передачи во внешние облачные сервисы
• Изоляция моделей: Все модели машинного обучения хранятся в S3 хранилище в контуре заказчика
• S3 в закрытом контуре: Хранилище моделей может быть развернуто в изолированной сети без доступа к интернету

9. Разворачивание продукта

9.1. Системные требования

Операционная система: Linux (Debian 12 / Ubuntu 22.04+)

Минимальные требования: CPU 8 ядер, RAM 16 GB, GPU NVIDIA RTX 3060+ (12GB)

9.3. Установка продукта

Способ 1: Автоматическая установка

git clone  /opt/runtel/dialog-llm
cd /opt/runtel/dialog-llm
chmod +x setup_local.sh
sudo ./setup_local.sh

10. Тарифы и лицензирование

10.1. Тарифная сетка по компонентам

Стоимость лицензии зависит от количества и типа приобретенных каналов.