Вертикальный ИИ: почему корпоративные пилоты не доживают до продакшена

Каждую неделю выходят новые модели с рекордным числом параметров, агентские фреймворки обещают «просто работать» внутри бизнеса, вайбкодинг — заменить долгую и дорогую разработку, а продукты, которые наконец-то решат именно вашу проблему, возникают каждый четверг. И каждую неделю очередной корпоративный пилот разбивается о суровую реальность продакшена.

От этого ИИ всё чаще выглядит дорогой игрушкой, полезной в отдельных частях организации (может быть, в колл-центре или для резюмирования документов), но редко — чем-то большим.

Ни одна модель — даже самая большая, доступа к которой на российском рынке часто попросту нет, — не знает, как устроена конкретная организация. Она не скажет, какой из трёх кодов SKU верный и описывают ли они один продукт или три разных. Она не знает, почему кредитный комитет отклонил заявку компании, которая «по бумаге» проходила по всем требованиям.

Увеличением числа параметров это не исправить: проблема не в способности рассуждать, а в бизнес-контексте.

Сам по себе бизнес-контекст в модели не появляется. Его не заменить ни стратегическим документом, ни огромным системным промптом, в который пытаются засунуть всё сразу (на длинном контексте модель предсказуемо начинает путаться), ни коробочным решением, ни «ещё одним» агентом.

Агент — это модель, вызывающая инструменты по (какой-то) заданной логике. Если инструменты не заточены под конкретные задачи, данные под ними не согласованы, а логика принятия решений нигде не зафиксирована, агент просто жжёт электричество и ваше время, автоматизируя то, что сначала надо починить.

Работает только одно: организационно-специфичные вертикальные ИИ-системы — обогащённые доменным знанием и встроенные прямо в цикл принятия решений. Так ИИ становится частью операционного процесса, а не дорогой игрушкой, и только так появляется фундамент для долгосрочного экономического эффекта.

Как лидеры отрасли решают проблему at scale

Palantir, одна из самых успешных и самых противоречивых ИИ-компаний в мире, имеет в основе большинства внедрений своих продуктов работу над «онтологией» — структурированным представлением организации, её объектов, связей, действий и решений, в которое затем подключается LLM. Онтология создаётся Forward-Deployed-инженерами (FDE), работающими внутри клиентских организаций — часто годами, — пока система не начнёт отражать то, как бизнес устроен на самом деле.

C3, один из международных лидеров в области ИИ-продуктов для корпораций, делает ставку на предподготовленные доменные модели. Эта коммерческая модель имеет своих критиков, т. к. не позволяет в должной степени учесть особенности отдельных клиентов, но всё так же отражает логику «вертикальности» — специализирования ИИ-систем как минимум на уровне доменов для достижения экономических результатов.

Anthropic, разработчик передовых моделей, недавно выделил около $100 млн на партнёрскую сеть, основная особенность которой — фокус на развитии роли, аналогичной роли FDE: прикладных ИИ-инженеров, работающих рядом с клиентами и партнёрами, нацеленных на определение сфер деятельности отдельных компаний, в которых прогнозируется наибольший экономический эффект от внедрения ИИ-инициатив, занимающихся разработкой продуктов и формирующих задание на доработку базовой модели или иные технологические решения. Этот шаг стал признанием того факта, что простое предоставление бизнесам доступа к модели или даже её развёртывание внутри бизнеса не заменит совместную проработку кейсов внедрения системы.

McKinsey QuantumBlack пишет, что около 90% кейсов внедрения генеративного ИИ остаются на стадии пилота, и что единственная модель внедрения ИИ, приносящая результат, — создание кросс-функциональных команд, включающих доменных экспертов, дизайнеров процессов, ИИ-инженеров и инженеров данных, — но самое главное, встроенных непосредственно в бизнес.

Какая мысль является общей для всех указанных сценариев развития? Она проста: LLM — меньшая часть стека; вся работа лежит в том, чтобы изучить организацию, понять, как она живёт, как принимает решения, и извлекать ценность, автоматизируя и усиливая эти процессы с помощью ИИ. И единственная модель внедрения, показывающая прогнозируемые результаты, — это модель, при которой инженеры действительно встроены в бизнес и работают над конкретизацией того, как именно ИИ должен развить именно эту организацию.

Цифровой суверенитет и комплаенс

Региональные ограничения в области комплаенса данных — это всегда барьер, и в России он ощущается ещё и с точки зрения доступности передового hardware для вычислений. Проблема возникает уже на этапе, когда бизнес понимает, что он не может хранить и передавать чувствительные данные за рубеж. В таком случае требуется развёртывание собственных LLM, сопряжённое с хранением данных в рамках того же контура.

Поэтому для корпоративных клиентов в России и других географиях со схожим по серьёзности подходом к безопасности данных и цифровой инфраструктуры on-premise-развёртывание подходит значительно больше облачных решений. Вот только где достать столько NVIDIA A100 и H100 (по 2–3 млн руб. каждая), если одна сильная открытая модель — например, последний deepseek-v4-pro на 1,6 трлн параметров — может занимать кластер размером 8×H100?

Многим хочется, чтобы решение работало так же быстро и качественно, как у последней модели Claude, но бюджеты большинства организаций не позволяют реализовать желаемое в полном объёме. При этом всем нужно, чтобы корпоративный мегамозг не противоречил законодательству.

Ключевой частью решения здесь становятся open-source-модели меньших размеров и агенты, решающие задачу по частям. Но и эти решения не существуют в отрыве от методологии по сбору, хранению и использованию данных, и мы убеждены, что без этого вертикальный ИИ построить нельзя.

Иерархия данных и архитектурных слоёв

Ключом к эффективному внедрению ИИ-решений в условиях инфраструктурных ограничений и приоритета цифровой безопасности является реализация ИИ-архитектуры, состоящей из пяти ключевых слоёв: слоя «сырых данных» (Raw layer), первичного слоя (Primary layer), слоя признаков (Feature layer), слоя оркестрации (Orchestration & tools) и слоя сценариев использования (Use cases).

Доменное знание как ключевое узкое место

Первичный слой и слой признаков не могут наполниться сами по себе. Оба зависят от того, чего на старте внедрения ИИ в бизнес, как правило, ещё не существует: структурированного, машиночитаемого представления того, как бизнес на самом деле мыслит.

В большинстве организаций настоящее знание — предпочтения стейкхолдеров, поведение корпоративных клиентов, прецеденты исключений и тому подобное — нигде не изложено в одном понятном документе.

Это знание может быть у сотрудников в памяти, но нигде не зафиксировано; может быть в неструктурированных Excel-файлах и заметках, в устных договорённостях и переписке в мессенджерах. Извлекать такие знания — самостоятельная дисциплина, требующая сочетания подходов.

1. Во-первых, нужно находиться максимально близко к бизнесу клиентов, жить ежедневной рутиной тех, кто принимает решения — кредитных менеджеров, андеррайтеров, директоров магазинов, сотрудников казначейства и др., — и делать это столько, сколько идёт сама разработка, а не на время одного интервью в начале проекта.
2. Во-вторых, поднимать артефакты: письма, презентации, Excel-модели, служебные записки, заметки совещаний, журналы решений, регуляторные документы. Именно это заполняет сырой слой сверх того, что могут отдать коннекторы к ERP и CRM. Большая часть этого материала никогда не была кем-либо системно прочитана — и всё чаще методы ИИ вместе с человеком в цикле позволяют извлечь из него реальную пользу.
3. В-третьих, кодифицировать «почему» так же пристально, как «что» и «как». База знаний, в которой записано правило о том, кто принимает решения по корпоративным кредитам и как именно, ограниченно полезна для системы. Слой признаков должен содержать критерии, прецеденты, исключения и, по возможности, объяснять взаимоотношения между ними.
4. В-четвёртых, относиться к знанию как к живому. Процессы меняются. Регулирование сдвигается. Исключения накапливаются. Статичная база знаний устаревает за считаные месяцы. Поэтому архитектура должна включать управляемый путь поступления нового знания и управляемый путь вывода устаревшего.

То, что собирается, согласовывается и кодифицируется в ходе этой работы, превращается в реальные инструменты для ИИ. На практике это означает перевод накопленного знания в структурированные артефакты, которые потребляют нижние слои: схемы и определения сущностей — в первичном слое; спецификации признаков, правила принятия решений и контекстные аннотации — в слое признаков; шаблоны промптов, описания инструментов и логику маршрутизации — в слое оркестрации; и сквозные оценочные обвязки, проверяющие, рассуждает ли система по данному вопросу так, как задумывал бизнес. Если сделано правильно, результат — не отдельная «база знаний», стоящая рядом с системой, а знание, скомпилированное непосредственно в архитектуру и поведение системы.

Через эту — местами кропотливую — работу по извлечению, систематизации и интеграции операционная логика бизнеса превращается в интеллектуального ассистента, способного рассуждать в привычных для организации категориях.

Как Agentic Lab формирует подход к проблеме внедрения

Мы, Agentic Lab, не утверждаем, что решили проблему доменного знания или более широкую проблему внедрения — пока этого до конца не сделал никто.

Наиболее вероятный путь к успешному корпоративному внедрению ИИ — развитие «вертикального ИИ». Это комбинация инженерных компетенций, технологической платформы и тесного соседства с бизнесом и доменной средой.

Мы знаем, что погружение в процессы принятия решений, изучение артефактов, кодификация ответов на вопрос «почему» не имеют короткого пути. Однако движение по этому пути может быть ускорено. Поэтому мы построили собственную agentic-платформу — наш слой нормализации данных и оркестрации агентов и связанных инструментов — так, чтобы проекты не начинались с девяти месяцев «закладки фундамента».

Платформа несёт в себе архитектуру для нижних слоёв, оркестрационную логику над ними и фреймворк, которым мы описываем «пространство», в котором работает конкретная ИИ-система. Такой подход ускоряет проекты за счёт накопленного доменного знания и позволяет выпускать отдельные продукты в тех случаях, когда конкретное вертикальное решение само по себе является значимой инновацией.

При этом мы сознательно остаёмся мульти-вертикальны. Мы инвестируем в выбранные вертикали — как отраслевые, так и функциональные, — в которых одновременно выполняются три условия: у нас есть или мы можем построить релевантное доменное знание; у нас есть подходящие инструменты и модели для этой работы; и существует очевидный рыночный спрос.

Платформа остаётся одной и той же; от вертикали к вертикали меняются слой признаков, набор инструментов, комбинация моделей и зафиксированная логика принятия решений. Это определение верно и для наших Enterprise AI-решений, и для SaaS-систем, таких как Агата, построенных на базе нашей agentic-платформы.

Заключительная мысль

Вертикальный ИИ — это единственная конфигурация, позволяющая корпорациям получать экономический эффект от внедрения ИИ в условиях реальных технологических ограничений (суверенитет, локальное развёртывание, регулируемые отрасли, конечные бюджеты и др.). Обращение ведущих международных ИИ-игроков к этой концепции как к одному из столпов дальнейшего развития в B2B является подтверждением значимости тезиса на международном уровне.

Большая часть работы лежит в «незаметных» частях внедрения: согласование данных, извлечение знаний, оркестрация, доменная экспертиза. Настроить API на передовую модель внутри организации несложно; но гораздо сложнее и гораздо важнее превратить то, как думают лица, принимающие решения, в то, что может делать система. Ещё сложнее и часто ещё важнее — делать всё это локально, на меньших моделях, в регулируемой среде.

Именно здесь — в большей степени, чем в выборе модели или фреймворка, — будет выиграна или проиграна следующая фаза развития ИИ, в том числе для российской экономики. Мы не верим, что задача внедрения ИИ решается без обращения к этой части — и считаем, что говорить о ней стоит более открыто, чем сейчас принято в индустрии.