AI 에이전트 도입했는데 누가 관리하죠

요즘 대표님들을 만나면 질문이 1년 전과 다르다. "AI 도입해야 하나요?"가 아니다. "이미 몇 개 붙였는데 이걸 어떻게 관리하죠?"로 바뀌었다.

데이터도 같은 방향이다. 최근 여러 조사를 종합하면 올해 들어 기업용 앱 대부분이 AI 에이전트를 한 개 이상 품고 있다. 프로덕션까지 올라간 비율이 70%를 넘는다. 도입 자체는 이제 뉴스가 아니다.

정작 눈에 띄는 건 다른 숫자다. 프로덕션에 에이전트를 올린 곳 중 절반이 넘는 수가 그걸 관리할 공식 체계나 책임자가 없다. 그래서 올해 'AI 에이전트 오너'나 'agentic ops' 같은 자리를 새로 만든 기업이 빠르게 늘었다. 2년 전엔 열에 하나 꼴이었던 게 올해는 절반을 넘었다.

도입은 딸깍, 운영은 공백

도입이 쉬워진 게 공백의 시작이다. 에이전트 하나 붙이는 건 이제 며칠이면 된다. 진짜 문제는 붙인 다음이다. 에이전트가 고객 문의를 잘못 분류하면 누가 책임지나. 판단 기준이 바뀌면 누가 업데이트하나. API 비용이 갑자기 튀면 누가 먼저 보나.

세 질문 모두 도입 시점엔 안 보인다. 데모는 잘 돌기 때문이다. 공백은 도입 두세 달 뒤, 현실 데이터가 데모와 어긋나기 시작할 때 드러난다. 그때 "이거 담당이 누구죠?"라고 물으면 회의실이 조용해진다.

AX Level로 보면 이 공백은 Level 2부터 본격화된다. Level 1 단순 자동화는 규칙이 고정돼 있다. 사고가 나도 원인이 명확하다. Level 2 판단 자동화부터는 에이전트가 직접 결정을 내린다. 결정에는 주인이 있어야 한다. 주인 없는 결정이 쌓이면 그게 블랙박스가 된다. 1년 뒤엔 아무도 손 못 대는 시스템이 된다.

띄우는 사람과 지키는 사람이 같아야 한다

베비투스랩이 추구하는 방식은 구축과 운영을 떼지 않는 것이다. 시스템을 만든 사람이 누가 무엇을 관리하는지까지 같이 설계한다. 4가지 약속 중 "처음부터 끝까지 같은 담당자"가 이 얘기다. 만든 사람이 중간에 사라지고 운영이 다른 팀으로 넘어가면 거기서 책임이 흐려진다.

그렇다고 외주사가 영원히 옆에 붙어 있을 수는 없다. 그래서 사내에 오너를 길러주는 걸 같이 한다. 베비투스랩이 추구하는 네 번째 약속이 "필요 시 AI/AX 교육"인 이유다. 부서마다 에이전트를 책임지는 챔피언을 정하고 그 사람이 판단 기준과 KPI를 들고 가게 만든다. 도입 조사에서 절반 넘는 기업이 부랴부랴 'agentic ops' 자리를 만든 건 바로 이 단계를 건너뛰었기 때문이다.

거버넌스가 없으면 어떻게 되나

거버넌스 없이 띄운 에이전트의 끝은 비슷하다. 처음 몇 달은 잘 돈다. 그러다 업무 규칙이 바뀌는데 아무도 에이전트를 손보지 않는다. 점점 틀린 판단이 쌓인다. 직원들이 슬그머니 손으로 다시 처리하기 시작한다. 1년 뒤엔 비싼 자동화가 아무도 안 쓰는 박물관이 된다. 바이브 코딩 A/S 진단에서 보는 '미사용 박물관' 타입과 똑같은 경로다.

반대로 오너가 정해진 도입은 느려 보여도 오래 간다. 누가 책임지는지 명확하니 규칙이 바뀌면 바로 반영된다. KPI가 있으니 효과가 숫자로 남는다. 같은 도구를 깔아도 1년 뒤 결과가 갈리는 건 모델이 아니라 이 주인의 유무다.

띄우기 전에 정할 것

에이전트를 띄우기 전에 "누가 관리하나"를 먼저 정하는 게 순서다. 도입은 며칠이면 되지만 거버넌스는 하루아침에 안 생긴다. 도구를 고르기 전에 주인을 먼저 정하는 회사가 1년 뒤에 웃는다.

이미 몇 개 붙였는데 관리가 막막하다면 AX 진단(3분)에서 우리 회사의 도입 단계와 빈 곳을 점검할 수 있습니다.