LANGPT / ПУТЬ ЗАПРОСА01 → 04
От вопроса —
к ответу с источниками.
Материалы ЭБС становятся контекстом для модели. Читатель получает ответ со ссылками.
- 01
Доступ и очередьAPI проверяет права и лимиты. Запрос попадает в очередь с приоритетом.
JWT · RabbitMQ
- 02
Поиск по библиотекеRAG-сервис находит материалы и собирает контекст из фрагментов источников.
Источник 01Источник 02…
Elasticsearch · контекст для LLM
- 03
Генерация на доступной моделиБалансировщик направляет запрос на LLM-бэкенд с учётом его загрузки.
LLM routing · fallback
- 04
Поток ответа и ссылкиОтвет поступает в интерфейс по мере генерации; ссылки позволяют обратиться к источникам.
SSE · маркеры источников
Упрощённая схема backend. Не скриншот интерфейса LanGPT.
- задача
- Ассистент для академических задач: реферирование, разделы с цитированием, проверка контента по проверенным источникам ЭБС без обращения к внешнему интернету.
- моя роль
- Backend и эксплуатация: публичный API с JWT, rate limiting и SSE, RAG-сервис над Elasticsearch, балансировщик LLM-бэкендов с fallback, модерация запросов, мониторинг, развёртывание в Kubernetes.
- результат и статус
- По итогам пилота, опубликованным «Ланью» 17 апреля 2026 года: 20 вузов, 6,5 тыс. пользователей, более 37 тыс. запросов. Публичный источник.
Опыт основателя по найму, 2024 — н. в. Цифры подтверждают масштаб продукта, а не личный вклад; роль может быть подтверждена работодателем по запросу.
Подробнее о системе