ENTERPRISE AI RUNTIME OPERATIONS

Управляйте LLM-приложениями в вашей инфраструктуре

GateForge переводит AI-сценарии из пилотов в управляемую эксплуатацию: traces, prompts, evals, governance, workflow, RAG / MCP и контроль потребления в инфраструктурном контуре клиента.

Запросить демо Обсудить пилот

Открыть архитектурную схему

Российский продукт TAGESOn-premДля production LLM-сценариев

NEURO-ORGANIZATION

Цифровые сотрудники в вашей оргструктуре

GateForge повторяет структуру компании: организация - отделы - цифровые сотрудники. У каждого есть задачи, бюджет, регламенты и отчетность. Это управляемая часть компании, а не набор экспериментов.

Цифровой рекрутер

Разбирает отклики по критериям вакансии: десятки резюме за минуты, единый стандарт оценки, письмо рекрутеру.

Финансы

Аналитик отчетности

Собирает еженедельную сводку по расписанию и отправляет результат руководителю.

Поддержка

Оператор 24/7

Отвечает на обращения на вашей базе знаний - с контролем качества ответов.

Разработка

Ревьюер кода

Проверяет изменения по стандартам команды и отправляет замечания тимлиду.

Цифровые сотрудники - это сценарии на базе workflow и навыков: каждый шаг трассируется, подчиняется лимитам и работает по регламентам организации.

ФУНКЦИОНАЛЬНАЯ АРХИТЕКТУРА

Один контур поверх ваших LLM-приложений

Пять слоев: источники, control layer, observability, governance и пул моделей. Подсветите слой по своему направлению.

LAYER 01 - SOURCES

AI-приложения и точки входа

AI APPSASSISTANTSWORKFLOWSRAGINTERNAL TOOLS

LAYER 02 - CONTROL

GateForge Control Layer

model accessvirtual keysbudgetsrate limitsprompt versionsplaygroundworkflow runsdatasetsMCP

LAYER 03 - SIGNALS

Observability и качество

tracesobservationssessionsscoresevalsLLM-as-a-Judge

LAYER 04 - GOVERNANCE & CONSUMPTION

Governance и потребление

projectsteamsaccessbillsusageaudit

LAYER 05 - MODELS

Пул моделей

LOCAL MODELSEXTERNAL LLMOPENAI-COMPATIBLECORP PROVIDER

Функциональная архитектура GateForge - пять слоев
Слой	Название	Модули
LAYER 01 - SOURCES	AI-приложения и точки входа	AI APPS, ASSISTANTS, WORKFLOWS, RAG, INTERNAL TOOLS
LAYER 02 - CONTROL	GateForge Control Layer	model access, virtual keys, budgets, rate limits, prompt versions, playground, workflow runs, datasets, MCP
LAYER 03 - SIGNALS	Observability и качество	traces, observations, sessions, scores, evals, LLM-as-a-Judge
LAYER 04 - GOVERNANCE & CONSUMPTION	Governance и потребление	projects, teams, access, bills, usage, audit
LAYER 05 - MODELS	Пул моделей	LOCAL MODELS, EXTERNAL LLM, OPENAI-COMPATIBLE, CORP PROVIDER

ВОЗМОЖНОСТИ

Четыре группы возможностей одного контура

Четыре функциональных группы - каждая закрывает свой класс задач эксплуатации LLM-приложений.

OBSERVABILITY

Видеть исполнение AI-сценариев

Что именно произошло в каждом AI-запросе и в каждой сессии - без переключения между инструментами.

Traces

Полный путь запроса: prompt, модель, input/output, RAG-контекст, workflow step.

traces · spans

Observations

Отдельные события внутри trace: вызовы моделей, retrieval, инструменты.

observations

Sessions

Связь запросов с пользователем или диалогом для продуктового разбора.

sessions

Scores

Метрики качества в разрезе trace, сессии или релиза prompt.

scores

PROMPT & EVAL

Управлять качеством и версиями

Жизненный цикл prompts, проверка изменений и автоматическая оценка качества.

Prompt lifecycle

Версии, environments, production-метки и откат без переноса вручную.

versions · environments

Playground

Безопасная проверка изменений prompt и параметров модели до релиза.

playground

Evals

Запуск оценок по критериям на наборе trace или dataset.

evals · datasets

LLM-as-a-Judge

Модельная оценка качества ответов по заданным критериям.

LLM-as-a-Judge

Trace contracts

Соглашения о структуре trace для повторяемых оценок.

trace contracts

EXECUTION

Запускать AI-процессы

Workflow, знания и инструменты - рядом с observability и governance, а не в отдельных продуктах.

Workflow

Описание и запуск AI-процессов с разбором runs до уровня шага.

workflow · runs

RAG / Datasets

Подключение внутренних знаний к AI-сценариям и связь с trace.

RAG · datasets

MCP / Tools

Контур MCP-серверов и tools для подключения данных и действий.

MCP · tools

CONSUMPTION & GOVERNANCE

Контролировать доступы и расходы

Кому, к каким моделям и в каких пределах разрешено обращаться - и сколько это стоит.

Projects

Группировка AI-сценариев по проектам с собственными политиками.

projects

Teams

Команды как первичная единица доступа и потребления.

teams

Access

Роли, виртуальные ключи и журналируемость действий.

access · virtual keys

Budgets & Rate limits

Пределы потребления по командам, проектам и ключам.

budgets · rate limits

Bills

Контур детализации расходов: модель, токены, стоимость и статус каждой операции.

bills

Usage dashboards

Картина потребления токенов и моделей в разрезе команд.

usage

THE LOOP

Замкнутый контур: от запроса до улучшения

Один и тот же контур повторяется на каждом AI-сценарии - пять шагов от запроса до улучшения prompt или workflow.

01
Request
Запрос приходит в AI-приложение.
02
Trace
GateForge фиксирует prompt, модель, input/output.
03
Eval
Оценка качества по критериям или LLM-as-a-Judge.
04
Decision
Решение: версия prompt, модель, бюджет, доступ.
05
Improve
Изменение prompt, workflow или политики потребления.

ОБЗОР 360

Что получает каждое направление

Один контур, разные срезы. Каждое направление работает со своим представлением, но данные те же.

Что видит и контролирует каждая роль в GateForge
Направление	Видит	Контролирует	Получает
Технологии	архитектуру всего AI-контура	контур, доступы, интеграции	управляемый on-prem слой и стандарт AI-эксплуатации
AI-команда	`traces`, `evals`, `prompt versions`	`RAG`, `workflow`, `prompts`	инструменты отладки и качество итераций
Продукт	`sessions`, `scores`	критерии качества, метрики	метрики качества ответов и управляемые регрессии
ИБ	`governance`, `audit`, AI-трафик	политики, ключи, доступы, DLP-контроль	контроль и аудит AI-канала
Финансы	`usage`, `bills`, расходы	`budgets`, `rate limits`	бюджеты и детализацию расходов
Эксплуатация	статусы сервисов и процессов	инциденты и реакцию на деградацию	мониторинг и диагностику AI-сценариев

Видит

архитектуру всего AI-контура

Контролирует

контур, доступы, интеграции

Получает

управляемый on-prem слой и стандарт AI-эксплуатации

СЦЕНАРИИ

Где GateForge нужен первым

Шесть операционных ситуаций, где единый контур окупает себя на первой неделе.

01Наблюдаемость production LLM-сценарияtrigger: degraded answer -> trace -> eval -> prompt fix -> redeploy
02Контроль качества RAG-ассистентаupdate knowledge base -> eval batch -> diff scores -> approve
03Управление prompts между staging и productionplayground -> version -> staging label -> promote -> откат если нужно
04Разделение LLM-доступов по командам и ключамteam -> virtual key -> budget -> rate limit -> audit
05Разбор падения AI-workflowworkflow run -> step trace -> root cause -> fix node
06Подготовка enterprise AI-сценария к пилотуdefine scope -> deploy in client env -> assign roles -> wire models -> старт

PATH TO PRODUCTION

Путь внедрения: три шага по фактам

Каждый шаг дает самостоятельный результат - решение о следующем принимается по фактам, а не по обещаниям.

012-4 недели
Пилот в режиме мониторинга
Разворачиваем в контуре, подключаем модели. Результат - карта использования AI и расходов, без блокировок и влияния на процессы.
021-2 сценария
Боевые сценарии
Например, HR и поддержка - уже с лимитами, виртуальными ключами и контролем качества ответов.
03по отделам
Масштабирование
Тираж сценариев по оргструктуре, политики DLP, интеграция с вашим ИБ-контуром.

Обсудить пилот

РАЗВЕРТЫВАНИЕ И ДОВЕРИЕ

В инфраструктурном контуре клиента

GateForge размещается в инфраструктуре клиента - управленческий слой AI и данные не уходят во внешний SaaS. Весь AI-трафик проходит через одну управляемую точку. Подключает локальные и внешние модели по политике компании. Финальный список публично подтвержденных интеграций согласуется с TAGES.

Размещается в инфраструктуре клиента
Подключение моделей по политике клиента
Политики доступа по оргструктуре: компания - отдел - сотрудник
Разграничение доступов и журналируемость действий
Поддержка локальных и внешних LLM-провайдеров

Claims про сертификаты, реестр отечественного ПО и режимы безопасности будут добавлены после подтверждения статуса.

LLM providers

GigaChatYandexGPTOpenAI-compatible APIAnthropic-compatible API

Local runtime

Ollamaлокальные провайдеры

Интеграции

OpenAI-совместимый API наружуMCPICAPSIEM (syslog/CEF)

AI TRAFFIC DLP

DLP-контроль AI-трафика

Слепая зона классического DLP

Классический DLP не видит AI-канал: обращения сотрудников и приложений к моделям - это шифрованный HTTPS-трафик. Что именно ушло в модель - персональные данные, договоры, исходный код - ИБ-служба не знает. Запреты не работают: использование уходит в тень, на личные устройства и аккаунты.

Передача персональных данных во внешние LLM - зона 152-ФЗ. С мая 2025 года за утечки действуют оборотные штрафы - до 3% выручки.

GateForge закрывает AI-канал

GateForge - точка доступа к моделям, поэтому весь AI-трафик платформа видит в расшифрованном виде. Она отдает контент вашему DLP по ICAP, а события - в SIEM (syslog/CEF). Детекция персональных данных и секретов, маскирование или блокировка - по политикам отделов. Наружу выходит только очищенный контент.

Три варианта приземления

Интеграция с вашим DLP

GateForge отдает AI-трафик вашему DLP по ICAP и события в SIEM. ИБ работает в привычной консоли.

Встроенный модуль инспекции

Детекция ПДн и секретов, маскирование и блокировка внутри GateForge - если корпоративного DLP нет.

Гибрид

Частые вопросы

Это API gateway?

Нет. Gateway - только часть задачи. GateForge управляет эксплуатацией LLM-сценариев: traces, prompts, evals, keys, budgets, workflow, RAG / MCP и dashboards.

Зачем, если у нас уже есть логи?

Обычные логи показывают технические события. GateForge показывает AI-контекст: prompt, модель, input/output, workflow step, RAG-контекст, score, расход и связь с пользователем или сессией.

У нас уже есть DLP и SIEM. Зачем GateForge?

Мы не заменяем, а дополняем: ваш DLP не видит шифрованный AI-трафик. GateForge отдает ему этот трафик в расшифрованном виде по ICAP, а события - в SIEM. ИБ работает в привычной консоли.

А если запретить внешние модели?

Поддерживаем полностью закрытый контур: локальные модели плюс встроенный контроль. И гибрид: чувствительные отделы работают локально, остальные - наружу через маскирование.

Можно собрать на open-source?

Можно. GateForge нужен, когда разрозненный стек нужно превратить в поддерживаемый enterprise-контур с единым governance, quality loop, workflow и поддержкой.

GateForge заменяет модели?

Нет. GateForge подключает локальные и внешние модели по политике клиента и управляет их использованием в LLM-приложениях.

Можно развернуть в контуре клиента?

Да, GateForge - on-prem продукт TAGES. Конкретную архитектуру развертывания согласуем на технической сессии.

Кто будет это сопровождать?

Вариант один: ваша команда после передачи знаний. Вариант два: мы, по договору сопровождения. Обсуждается на этапе пилота.

Как работает с RAG?

GateForge подключает внутренние знания к AI-сценариям через RAG / Datasets и связывает RAG-контекст с traces и evals в одном представлении.

Что с персональными данными?

Заявка с сайта обрабатывается на серверной стороне в инфраструктуре сайта, без передачи в сторонние form SaaS. Условия описаны в политике обработки персональных данных.