에이전틱 AI 시대, 프롬프트가 아니라 ‘데이터 헌법’이 답

에이전틱 AI 시대가 요구하는 ‘데이터 헌법’

업계는 2026년을 ‘에이전틱 AI’의 해로 본다. 요약만 하는 챗봇을 넘어, 항공권 예매·장애 진단·클라우드 운영·개인화 추천까지 스스로 실행하는 자율 에이전트가 보편화된다. 그러나 대형 이벤트(올림픽, 슈퍼볼)에서 동시 3천만 명이 사용하는 플랫폼을 운영하며 확인한 현실은 명확했다. 문제의 중심은 모델이 아니라 데이터다. 벤치마크, 모델 비교, 컨텍스트 윈도우에 집착하는 사이 데이터 위생의 작은 균열이 생산 환경 전체를 무너뜨린다. 사람이 마지막에 확인하던 시대에는 잘못된 지표가 대시보드에 찍혀도 금세 수정됐다. 이제는 그 안전망이 없다. 파이프라인이 조금만 드리프트해도 에이전트는 잘못된 서버 타입을 프로비저닝하고, 어린이에게 공포 영화를 추천하며, 손상된 벡터 임베딩을 근거로 거짓 답변을 만든다. 그래서 단순 모니터링이 아니라 ‘입법’이 필요하다. NBC유니버설 스트리밍 아키텍처에 적용한 크리드(Creed) 프레임워크는 AI 모델에 한 바이트라도 닿기 전, 수천 개의 자동 규칙으로 데이터를 심사하는 ‘데이터 헌법’이다. 방어적 데이터 엔지니어링 없이는 에이전틱 AI 시대를 버틸 수 없다.

벡터 데이터베이스의 함정과 에이전틱 AI의 기억

AI 에이전트의 근본 문제는 제공된 컨텍스트를 맹신한다는 점이다. RAG(검색 증강 생성)를 쓰면 벡터 데이터베이스가 사실상 장기 기억이 된다. 전통적 SQL에서 null은 그저 null이지만, 벡터 DB에선 null이나 스키마 불일치가 임베딩의 의미공간 자체를 왜곡한다. 예컨대 레이스 컨디션으로 장르 태그가 미끄러져 메타데이터는 ‘라이브 스포츠’로 표시됐지만, 임베딩은 ‘뉴스 클립’에서 생성되는 식이다. ‘터치다운 하이라이트’를 찾는 질의에 뉴스 클립이 상위로 떠오르고, 에이전트는 이를 수백만 사용자에게 배포한다. 규모 환경에서는 사후 모니터링으로 잡기엔 이미 늦다. 품질 통제는 파이프라인의 최좌측으로 이동해야 한다.

원칙 1: 격리(Quarantine) — 오염 데이터 차단

많은 조직이 ELT로 ‘일단 넣고 나중에 정제’한다. 자율 에이전트에는 통하지 않는다. 오염된 호수의 물을 에이전트에게 마시게 할 수 없다. 데이터 계약을 어기는 패킷은 즉시 데드 레터 큐로 보내 격리하고, 벡터 DB에 닿지 못하게 한다. 누락 때문에 ‘모르겠다’고 답하는 편이, 나쁜 데이터로 자신 있게 거짓말하는 것보다 훨씬 안전하다. 이 회로 차단(circuit breaker) 패턴이 대형 환각을 막는다.

원칙 2: 스키마는 법 — 강타이핑과 참조 무결성

핵심 AI 파이프라인에는 ‘스키마는 법’이어야 한다. 스키마리스 유연성 대신 강타이핑과 참조 무결성을 강제한다. 실시간 스트림 전반에서 1,000개 이상의 활성 규칙을 돌려 단순 null 검사를 넘어 비즈니스 논리 일관성을 확인한다. 예: 이벤트 스트림의 user_segment가 피처 스토어의 활성 택소노미와 일치하지 않으면 차단한다. 예: 타임스탬프가 실시간 추론의 허용 지연 범위를 벗어나면 드롭한다.

원칙 3: 벡터 일관성 검증 — 침묵 오류 탐지

SRE의 신개척지다. 벡터 DB에 저장된 텍스트 청크가 해당 임베딩 벡터와 실제로 매칭되는지 자동으로 검증해야 한다. 임베딩 API의 침묵 오류는 아무것도 가리키지 않는 벡터를 남기고, 에이전트는 순수한 노이즈를 검색해온다.

실제 적용 예시 — 에이전틱 AI 운영 체크리스트

예: 이벤트 스트림의 user_segment 필드가 피처 스토어의 최신 택소노미와 일치하는지 즉시 검증하고, 불일치 시 격리한다.

예: 실시간 추론의 허용 지연 한계를 넘는 타임스탬프는 드롭하고, 해당 스트림에 SLA 경고를 발생시킨다.

예: 벡터 DB의 텍스트–임베딩 쌍을 주기적으로 재해시·샘플링하여 코사인 유사도 등으로 불일치를 탐지한다.

문화적 전환: 거버넌스를 가속기로 바꾸기

크리드 같은 프레임워크 도입은 기술 이슈이자 문화 과제다. 엔지니어는 가드레일을 싫어하고, 엄격한 스키마와 데이터 계약을 배포 속도를 늦추는 관료주의로 본다. ‘폭포수로의 회귀’라는 반발도 나온다. 성공하려면 인센티브를 뒤집어야 한다. 크리드가 오히려 가속기임을 입증했다. 입력 데이터의 순도를 보장하자 데이터 과학자들이 환각 디버깅에 쓰던 수주가 사라졌다. 거버넌스는 컴플라이언스가 아니라 서비스 품질(QoS) 약속이 되었다. 이는 에이전틱 AI 운영에서 SRE가 신뢰와 수익, 고객 경험을 지키는 최전선임을 뜻한다.

결론 — 더 많은 GPU보다 ‘데이터 계약’ 점검

2026년 전략을 세운다면 GPU부터 늘리지 말라. 이번 주 리더보드에서 상위 모델을 바꾸느라 시간 낭비하지 말라. 대신 데이터 계약을 감사하고, 품질 통제를 파이프라인의 좌측으로 이동시켜라. AI 에이전트의 자율성은 데이터의 신뢰성만큼이다. 크리드 같은 자동화된 ‘데이터 헌법’이 없으면, 에이전틱 AI 에이전트는 언젠가 폭주한다. SRE 관점에서 폭주 에이전트는 깨진 대시보드보다 훨씬 위험한, 신뢰·매출·경험을 갉아먹는 조용한 살상자다.