미국 매체 퓨처리즘에 이런 제목의 기사가 걸렸습니다. 이런! 경영진은 자사 회사가 쓸모없는 AI 에이전트떼에 둘러싸였다는 사실을 깨달아 반년 전 유사 매체들이 실어 나르던 건 도입 성공 사례와 파일럿 성과였는데요. 상황이 좀 달라진 분위기입니다.
실제 우리나라 조직 안에서도 비슷한 장면이 반복됩니다. 누구나 알만한 그룹에서는 '1인 1에이전트 만들기'를 성과목표로 내걸었습니다. 선도적인 기업들의 최근 교육훈련은 문제해결형 에이전트 구축하기가 대세입니다. 그런데 일각에서는 에이전트의 관리와 운영 관련해서 우려가 제기되고 있습니다.
먼저 인정할 것부터 인정하고 갑시다
AI 에이전트 몰락(?)을 말하려면 먼저 흥했다는 사실을 인정해야 합니다. 그리고 이건 과장이 아니었습니다. 월스트리트저널이 취재한 미국 기업들의 모양새를 보면 숫자가 실로 만만치 않습니다. 신장투석 기업 다비타에서는 직원들이 만들어낸 AI 에이전트가 1만 개를 넘었습니다. 신용평가사 피코에서는 3,500명의 직원이 매일 수십 개씩 새 에이전트를 찍어내고 있고요. 벤앤제리스를 거느린 매그넘 아이스크림의 미주 CIO 마이클 프리들랜더는 이렇게 털어놓습니다.
"누구나 만들 수 있으니, 결국 같은 종류의 에이전트를 여러 사람이 갖게 될 겁니다"
"이걸 재무적으로 감당 가능한 모델 안에서 어떻게 관리하죠?"
가트너는 2028년이면 글로벌 포춘500 기업 한 곳당 평균 15만 개가 넘는 에이전트가 돌아갈 거라고 봤습니다. ㅎㄷㄷ 이쯤 되면 도입이 안 됐다는 진단은 성립하지 않습니다. 오히려 너무 많이 퍼져서 탈이 난 겁니다. 업계에서는 이 현상에 에이전트 스프롤이라는 이름까지 붙였습니다. 그러니 몰락이라는 말의 앞부분은 틀렸습니다. 에이전트는 이미 넘치도록 세워졌습니다. 문제는 세운 다음이었죠. 물론 아직 국내에는 구현 초기 단계이긴 합니다. 미리 반면교사 삼으면 되겠네요. ^^
여기서 곧바로 짚고 갈 대목이 있습니다
그럼 무엇이 무너졌을까요. 가트너는 2027년 말까지 에이전트 AI 프로젝트의 40% 이상이 취소될 거라고 내다봤습니다(가트너 발표 원문). 여기서 핵심은 취소율이 아니라 취소 사유입니다. 모델 성능이 모자라서가 아닙니다. 비용이 통제를 벗어났고, 사업 가치가 흐릿했고, 위험 관리 장치가 없었기 때문입니다. 포브스의 후속 분석은 이를 관리 실패로 못 박습니다. 덧붙여 가트너는 에이전트를 표방하는 수천 개 업체 중 실제로 그 이름값을 하는 곳은 130여 곳뿐이라고 봤습니다. 나머지는 챗봇 서비스에 에이전트라는 상표를 붙인 셈이죠.
숫자를 하나 더 얹어보겠습니다. 충분한 에이전트 거버넌스를 갖췄다고 답한 조직은 13%였습니다(가트너, 에이전트 스프롤 관리 6단계). 뒤집어 보면 나머지 87%는 무엇이 몇 개나 돌아가는지, 어떤 데이터에 손을 대고 있는지, 비용이 얼마나 새는지 모른 채 굴리고 있다는 얘기입니다. 중복 에이전트는 연산 비용을 갉아먹고, 같은 질문에 서로 다른 답을 내놓으면 구성원의 신뢰가 먼저 무너집니다.
그러니 정확히 말하면 이렇습니다. 몰락한 건 에이전트 AI가 아니라, 관리 없이 뿌려진 에이전트 AI입니다. 도구를 탓하기 전에 판을 누가 깔았는지 가려내야 하는 거죠. 일반적으로 소프트웨어 개발에 있어 비용을 따져보면 구축 후 유지보수에 더 큰 비용이 듭니다. 관리 포인트가 많다는 거죠. AI 에어전트를 막 구축하는 회사에 거버넌스가 제대로 되어 있을까요? 안 그렇다면 매우 위험한 상황입니다.
금지라는 반사행동, 정말 효과가 있을까요
그래서 나온 대응이 금지(?)입니다. 다비타는 소비자용 AI 도구의 사내 반입을 제한했습니다. CIO 마두 나라시만의 설명은 짧습니다.
"우리는 환자를 돌보기 때문에, 안전을 갖춘 상태로 확장해야 합니다"
이해가 갑니다. 통제되지 않는 것부터 잠그는 건 가장 빠르고 가장 설명하기 쉬운 수순이니까요. 다만 조사 결과는 조금 다른 얘기를 합니다. 웨이크필드리서치가 연매출 5억 달러 이상 기업의 사무직 1,250명에게 물었더니, 사내 정책상 허용되지 않는다고 믿으면서도 업무에 AI 도구를 써봤다는 응답이 66%였습니다(조사 요약). 더 눈길이 가는 건 39%입니다. 안 된다는 말을 들을 바에는 그냥 아무에게도 말하지 않고 쓰겠다는 응답이었죠. 이른바 섀도 AI인데요. 회사 자산 목록에는 안 잡히고, 로그도 안 남고, 사고가 나야 '뽀록나는'(들통나는) 구조입니다. 금지는 위험을 없애기보다 보이지 않는 곳으로 옮겨놓기 쉽습니다.
작년의 무제한 확산과 올해의 전면 금지. 딱 이 역설의 양 끝입니다. 리더의 일은 어느 업무를 어느 쪽에 둘지 계속 다시 결정하는 겁니다. 힘에 부치는 일이지만 대신해줄 사람이 없는 일이기도 하고요.
그러면 무엇을 쥐고 판단해야 할까요
또 하나의 연구가 실마리를 줍니다. Lebovitz, Lifshitz-Assaf, Levina(2022)가 Organization Science에 실은 의료 현장 연구인데요. 미국 대형병원 영상의학과 세 곳에서 유방암·폐암·골연령 판독에 AI를 쓰는 과정을 밀착 관찰했습니다. 결과가 흥미롭습니다. AI가 내놓은 답이 전문의의 첫 판단과 어긋날 때, 왜 그런 답이 나왔는지 근거가 보이지 않으니 불확실성만 커졌습니다. 도구를 붙였는데 판단이 더 어려워진 겁니다.
핵심을 짚자면 발목을 잡은 건 불투명성이라는 대목입니다. 근거를 되짚어볼 수 있었던 팀만 AI를 실제 판단에 얹었고, 그렇지 못한 팀은 결국 결과를 무시하거나 곧이곧대로 따랐습니다. 무시하는 것도 고민거리지만, 따지지 않고 따르는 쪽이 되레 위험하죠.
조직으로 옮겨보면 이렇습니다. 에이전트에게 자율권을 얼마나 줄지는 그 일이 얼마나 어려운가로 정할 게 아닙니다. 결과가 틀렸을 때 되짚어볼 수 있는가로 정해야 합니다. 검증할 수 없는 업무를 자동화하면 리더는 판단의 근거를 잃습니다. 조직에 AI를 들이는 일의 성패는 결국 구성원의 신뢰에 달려 있고, 그 신뢰는 성능보다 이해 가능성에서 나온다고요.
그럼 에이전트를 어디에 세워야 할까요
여기서 @HBR의 아티클 한 편을 같이 보시죠. Kris Johnson Ferreira와 Jordan Tong이 2026년 9-10월호에 쓴 How AI Agents Orchestrate Work Across Silos입니다. 두 저자의 진단은 짧고 매섭습니다. 지금 대부분의 기업은 개별 과업에 AI를 얹는 데까지는 왔지만, 정작 기업 성과를 가르는 부서 간 업무에는 손도 못 대고 있다는 겁니다.
두 저자가 든 장면이 낯익습니다. 60일 뒤 발효되는 수입 관세 소식이 날아듭니다. CEO는 마진과 점유율을 지키려면 재고 매입을 앞당기자고 결단하죠. 지시는 명료했습니다. 그런데 이 한마디가 구매, 물류, 재무, 법무, 마케팅, 영업, 머천다이징을 차례로 통과하는 동안 부서마다 제 사정에 맞춰 조금씩 깎아냅니다. 창고가 모자라고, 현금흐름이 걸리고, 계약 조항을 다시 봐야 하고요. 60일 뒤에 남는 건 어느 쪽에도 최적이 아닌 어중간한 실행입니다.
두 저자가 내놓은 판은 이렇습니다. AI는 분석을 돌리고, 부서 사이로 정보를 실어 나르고, 무엇과 무엇이 상충하는지 트레이드오프를 표면에 올립니다. 사람은 그 위에 현장 맥락과 암묵지를 얹고, 가드레일을 세우고, 마지막 결정에 서명합니다. 역할이 갈리는 거죠. 이게 오케스트레이션입니다. 도구를 하나 더 사는 얘기가 아니라, 결정이 부서를 건널 때 새는 지점에 도구를 세우는 얘기입니다.
이 관점으로 앞의 1만 개를 다시 보면 그림이 달라집니다. 다비타의 1만 개도, 피코가 매일 찍어내는 수십 개도 대개는 부서 안쪽에서 제 일을 조금 편하게 하려고 세운 것들입니다. 부서와 부서가 맞물리는 자리는 여전히 비어 있고요. 그러니 중복이 쌓인 건 어찌 보면 자연스러운 귀결이었습니다. 각자도생으로 세운 에이전트는 옆 팀이 같은 일을 하고 있어도 서로 모릅니다. (물론 경계에 놓인 업무부터 손대는 게 말처럼 쉽진 않겠지만요. 데이터도 흩어져 있고 책임 소재도 흐릿하니까요.) 다만 순서는 분명합니다. 개수를 줄이기 전에 어디에 세울지를 다시 정하는 게 먼저입니다.
정리하면 이렇습니다
몰락이라는 말은 아마 우리나라에서 크게 대두될 겁니다. 열광이 유행이었으니 환멸도 유행이 되겠지요. 다만 두 유행 사이에서 조직에 남는 건 말이 아니라 관리 이력입니다.
작년에 아무 기준 없이 뿌린 조직은 올해 금지로 되감고, 내년에 또 한 번 뿌릴 겁니다. 기준을 세워둔 조직만 그 사이에서 실제로 배웁니다. 결국 이게 갈림길입니다. | 
