Обратная связь

Разработчики могут определять, какие объекты и модули приложения модель должна учитывать при обработке запроса. Механизм уже используется в ИИ-чате и при генерации SQL.

В FIS Platform реализован механизм управляемого контекста для встроенных ИИ-сервисов. Он позволяет дополнять пользовательский запрос данными о конкретном приложении и при необходимости ограничивать область информации, которую получает языковая модель.

Функция ориентирована прежде всего на работу с крупными корпоративными системами, где приложение может содержать большое количество объектов, модулей и связанных элементов бизнес-логики. Для решения локальной задачи модели обычно требуется лишь часть этой информации.

FIS Platform индексирует данные приложения и использует актуальный ИИ-индекс при формировании запросов. По умолчанию релевантный контекст может подбираться автоматически. При необходимости разработчик самостоятельно определяет объекты, которые следует учитывать модели.

Например, при доработке определенного типа документа или отдельного функционального модуля ИИ можно предоставить информацию именно об этой части системы. Модель получает более сфокусированный набор исходных данных, а разработчику не приходится вручную описывать структуру приложения в каждом запросе.

Механизм уже применяется в нескольких ИИ-сценариях FIS Platform. Управление контекстом доступно при работе со встроенным чатом и при генерации SQL-запросов.

Архитектура контекста имеет принципиальное значение для применения генеративного ИИ в корпоративной разработке. Общая языковая модель располагает знаниями о программировании и распространенных технологиях, однако структура конкретного приложения, его объектная модель и прикладная логика находятся внутри проекта. Передача этой информации в управляемом виде связывает возможности LLM с реальной инженерной средой.

Контекст также позволяет развивать специализированные ИИ-сервисы на общей технологической базе. Один и тот же индекс приложения может использоваться при работе с кодом, SQL и другими сценариями, где модели требуется информация о существующем решении.

При этом FIS Platform допускает различные варианты организации ИИ-инфраструктуры. В зависимости от требований проекта интеграция может быть настроена с внешним сервисом либо с моделью, размещенной во внутреннем контуре организации.

Для банков и других крупных компаний возможность управлять составом передаваемого модели контекста становится одним из условий промышленного использования генеративного ИИ. Она позволяет связать интеллектуальные инструменты с существующими корпоративными приложениями и одновременно сохранить контролируемый характер разработки.

Обсудить идею или проект

Ответим уже сегодня