Contextual AI, Agent Composer로 엔터프라이즈 RAG를 실전 에이전트로

엔터프라이즈 AI의 병목은 모델이 아니라 ‘컨텍스트’

투자를 충분히 확보한 신생 기업 Contextual AI가 Agent Composer를 발표했다. 항공우주, 반도체 제조 등 고난도 분야의 엔지니어가 지식 집약적 업무를 자동화하는 AI 에이전트를 빠르게 구축하도록 돕는 플랫폼이다. 창업자 두베 키일라는 “이제 모델은 거의 범용화됐고, 진짜 병목은 사내 문서·스펙·노하우에 접근해 맥락을 잡는 능력”이라고 강조한다.

왜 RAG가 중요한가

대형 언어모델은 학습 시점의 지식만 담고, 기업 고유의 문서와 최신 스펙, 제도적 지식은 포함하지 못한다. RAG(검색증강생성)는 사내 데이터베이스에서 관련 자료를 찾아 질의와 함께 모델에 제공해, 응답을 실제 기업 데이터에 근거하도록 만든다.

키일라는 Facebook AI Research와 Hugging Face에서 초기 RAG 접근을 개척했지만, 당시 파이프라인은 거칠었고 환각이 잦았다. Contextual AI는 2023년 “통합 컨텍스트 레이어”를 제시해, 데이터와 모델 사이에서 ‘적시에 올바른 형식의 정보’를 전달하도록 시스템화했다. Google Cloud 사례연구에 따르면 이 접근은 FACTS 벤치마크에서 최고 성능을 기록했고, Meta의 Llama를 Vertex AI에서 파인튜닝해 환각 억제를 중점 개선했다.

Agent Composer 핵심 기능과 차별점

하이브리드 오케스트레이션으로 복잡도를 제어

Agent Composer는 다단계 워크플로에서 여러 AI 도구를 조율한다. 에이전트 생성 방식은 세 가지: ① 원인분석(RCA)·컴플라이언스 점검 같은 사전 구축 에이전트, ② 자연어로 워크플로를 설명하면 자동 아키텍처 생성, ③ 코드 없이 드래그앤드롭으로 처음부터 설계. Agent Composer는 고정 규칙 기반 단계와 유연한 추론 단계를 혼합하는 하이브리드 구조로, 고위험 구간에는 결정론적 검증·승인 게이트를, 탐색 구간에는 동적 추론을 배치할 수 있다.

원클릭 최적화·감사 가능성·출처 투명성

사용자 피드백을 반영해 성능을 자동 조정하는 ‘원클릭 에이전트 최적화’를 제공한다. 에이전트의 추론 단계별 로그를 감사할 수 있고, 응답에는 문장 단위 인용이 붙어 정보 출처를 정확히 추적한다. 이러한 기능 조합이 Agent Composer의 실전 배치 적합성을 높인다.

현장 성과와 고객 사례

Contextual AI는 고객 자가평가 기준이지만 의미 있는 효율 향상을 보고했다. 한 첨단 제조사는 센서 데이터 파싱과 로그 상관분석을 자동화해 RCA를 8시간에서 20분으로 단축했다. 특수 화학 기업은 특허·규제 DB 검색 에이전트로 제품 조사 시간을 ‘시간 단위에서 분 단위’로 줄였고, 테스트 장비 업체는 테스트 코드를 ‘수일에서 분’으로 생성한다. 어드반테스트는 여러 팀과 일부 고객사에 기술을 배포해 테스트 코드 생성부터 고객 엔지니어링까지 유의미한 시간을 절감했다고 밝혔다. 그 외 고객으로는 Qualcomm, ShipBob(이슈 해결 60배 가속 주장), Nvidia가 포함된다.

‘직접 구축’ vs ‘기성 솔루션’의 딜레마

가장 큰 경쟁자는 타사 제품이 아니라 ‘우리가 직접 만든다’는 엔지니어링 조직의 본능이다. 많은 팀이 DIY로 시작하지만, 12~18개월 뒤에도 검색 파이프라인 디버깅에 머무르기 쉽다. 반대로 기성 포인트 솔루션은 빠르게 배포되지만 유연성과 맞춤성이 떨어진다. Agent Composer는 이 둘의 중간 지점으로, 사전 구성 요소와 광범위한 커스터마이징을 결합한 플랫폼 방식을 취한다.

모델 지원과 가격

플랫폼은 OpenAI, Anthropic, Google 모델은 물론, 검색 콘텐츠 충실도를 중시해 훈련된 자사 Grounded Language Model도 지원한다. 가격은 셀프서브 월 50달러부터 시작하며, 대규모 배포는 맞춤 엔터프라이즈 요금제가 제공된다. CFO 관점에서는 ‘빠른 프로덕션 진입과 생산성 향상’이 핵심 명분이며, 인재 확보 난이도가 높은 산업에서 기존 팀의 생산성 증대가 최우선 과제다.

로드맵: 복합(Compound) AI로 가는 길

멀티에이전트 조정

여러 특화 에이전트가 협업하도록 조율 역량을 고도화한다. Agent Composer는 이러한 멀티에이전트 운영을 통해 복잡한 엔지니어링 업무를 더 견고하게 자동화하도록 진화한다.

엔터프라이즈 시스템에 대한 ‘쓰기’ 액션

단순 조회·분석을 넘어, 승인된 범위에서 실제 시스템에 변경을 가하는 쓰기 액션을 도입해 워크플로 자동화를 완결한다. 에이전트 컴포저(Agent Composer)의 결정론적 게이트는 이 과정에서 안전성을 담보한다.

프로덕션 피드백 기반 자동 특화

운영 중인 피드백을 학습해 도메인 특화를 가속한다. 문서가 쌓이고 피드백 루프가 닫힐수록 성능이 누적(compound) 개선되며, 지금 이 인프라를 구축하는 기업이 추격을 어렵게 만든다는 게 회사의 전망이다.

한 줄 정리

거대한 모델보다 중요한 것은 ‘어디를 볼지’ 아는 것—Agent Composer는 컨텍스트 중심 설계로 엔터프라이즈 RAG를 생산 환경의 에이전트로 연결한다.