인공지능(AI)은 계속 진화하고 있다. 최근 떠오르는 분야는 빠르게 성장하고 성숙해가고 있는 에이전틱 AI로, 과거 그 어떤 방식으로도 이루지 못한 수준으로 운영 방식을 혁신할 수 있는 엄청난 잠재력을 지녔다. 그러나 에이전틱 AI가 지닌 잠재력을 최대한 활용하려면 경제적, 조직적, 문화적, 기술적 측면과 신뢰성 측면에서 극복해야 할 과제가 많다. Kearney의 접근법은 이러한 과제 해결을 도와, 기업이 에이전틱 AI를 통해 매출 성장, 운영 비용 절감, 자본 효율성 향상 등 실질적 가치를 창출할 수 있게 할 것이다.
1. 에이전틱 AI: 가능성의 예술
에이전틱 AI는 지능형 시스템이 다른 시스템, 에이전트, 사람과 자연스럽게 상호작용할 수 있도록 설계된 정교한 프레임워크다. AI 에이전트는 기존의 자동화(Automation)와는 달리, 완전한 인지 사이클을 기반으로 작동한다. 즉, 목표, 기억, 구체적인 지시사항을 갖춘 상태에서, 주변 환경에서 일어난 일을 감지해 그 상황을 분석하고, 계획하고, 결정하며, 계획을 실제로 수행해내는 것이다.
에이전틱 AI를 기존 시스템과 구분 짓는 핵심은 자율성의 수준이다. 에이전틱 AI는 위임된 범위 안에서 지정된 목표를 수행하기 위해 다양한 수단과 도구를 활용해 독립적으로 행동하는 진정한 대리인이다. 가장 익숙한 사례는 웨이모(Waymo)와 같은 자율주행 차량이다. 자율주행 차량은 복잡한 환경 데이터를 처리하고 도로 상황과 교통 패턴을 분석해, 순간적인 판단을 내려 정밀한 주행을 수행함으로써 승객은 안전하게 A포인트에서 B포인트까지 이동시킨다(그림1 참고).
기업 내 에이전틱 AI는 대규모 언어 모델(LLM, Large Language Model)과 파운데이션 모델(Foundation Model)의 발전 덕분에 전환점을 맞이했다. 현재 LLM은 기존까지 사람 외에는 다룰 수 없었던 RPA(Robotic Process Automation) 업무나 프로세스에서도 데이터를 해석하고 의사결정을 내릴 수 있다. 기존 RPA는 프로그램화된 규칙 기반 시스템으로, 입력 데이터와 수행해야 할 작업이 명확히 정의되어 있어야만 작동한다. 즉, 정의되지 않은 상황을 만나면 기존의 RPA는 기능을 수행하지 못한다.
► 그림1. 자율주행 차량은 AI 에이전트가 작동하는 방식을 잘 보여준다
에이전틱 AI는 이러한 한계를 뛰어넘는다. 파운데이션 모델을 포함한 복합 AI 모델을 정교한 두뇌로 활용해 모호한 입력 데이터를 처리하고, 논리적 판단을 내린다. 이 기술은 입력 데이터가 불명확하거나 기술적으로 처리, 추론, 계획하기가 어려워 기존 RPA로 처리할 수 없었던 상황에도 대응할 수 있다.
에이전틱 AI는 두 가지 측면에서 잠재적 영향력이 있다. 복잡한 업무를 자동화해 인간이 더 높은 부가가치를 창출하는 활동에 집중할 수 있도록 함으로써, 생산성을 크게 향상시킬 수 있다. 또한 완전히 새로운 가치 사슬을 창조해, 혁신적인 비즈니스 모델, 제품, 그리고 시장 진입 방식의 등장을 촉진한다. 이미 다양한 산업의 기업들이 이러한 변화를 직접 경험하고 있다. 에이전틱 AI를 선제적으로 도입한 기업들은 매출 최대 5% 증가, 운영 비용 10% 이상 절감, 자본 효율성 15% 이상 개선 등 뚜렷한 성과를 보이고 있다(그림 2 참고).
► 그림2. 여러 선도 기업에서 이미 에이전틱 AI를 통해 상당한 가치를 창출하고 있다.
2.에이전틱 AI 도입의 현실: 주요 과제와 해법
에이전틱 AI의 잠재력은 매력적이지만, 실제 구현하려면 넘어야 할 장벽이 많다. 이러한 장벽이 바로 AI 도입이 혁신적 성공이 될지, 혹은 비용만 큰 실패로 끝날지 가르는 결정적 요인이 된다.
1. 경제적 허들(Economic hurdles)
에이전틱 AI 솔루션을 구축하고 운영하는 비용은 기업 입장에서 꽤나 부담스러울 수 있다.
시스템 개발에 필요한 전문 인력은 높은 인건비를 요구하며, 소프트웨어와 서비스는 비싸고, 시스템을 구축하고 운영하고 유지하기 위한 인프라 규모 또한 상당하다. 이러한 현실은 AI 투자에 필요한 경제적 허들을 한층 높이는 요인이며, 그로 인해 많은 AI 프로젝트가 실행 단계로 넘어가지 못하곤 한다. 조직은 기존 디지털 프로젝트 대비 최대 2배 이상의 투자 비용을 감수할 준비가 되어 있어야 한다.
2. 조직적 복잡성(Organizational complexity)
큰 규모의 AI 활용 사례들은 조직 경계를 넘나드는 여러 프로세스를 근본적으로 재설계해야 하는 경우가 많다. 그러나 서로 다른 부서와 프로세스를 이끄는 리더들 간 이해관계를 맞추는 일은 굉장히 어려운 과제다. 잘 설계된 AI 프로그램도 실제 운영 단계까지 이르지 못하는 경우가 많은데, 이는 꼭 필요한 부서간 정렬을 확보하지 못하기 때문이다. 북미의 한 대형 항공사는 요금 최적화를 진행하는 과정에서 유사한 문제에 직면했다. 이 회사는 반사실적 학습 기법을 통해 프리미엄석 요금을 최적화했고, 파일럿 테스트 기간 동안 요금이 5% 이상 상승하는 성과를 거뒀다. 그러나, 기술, 가격 조건, 마케팅, 운영 등 조직 전반 프로세스가 바뀌어야 한다는 문제 때문에 전사적 도입에 어려움을 겪고 있다.
3. 사고 방식과 변화 관리(Mindset and change management)
에이전틱 AI 솔루션은 필연적으로 사람들의 업무와 역할에 변화를 일으킨다. 프로그램 도입 과정에서 조직 내부 저항이 지속적으로 발생하는 것이 놀라운 일은 아니다. 직원들은 때때로 변화를 의도적으로 축소하거나 무력화시켜, 비용적으로 지속할 수 없게끔 만들기도 한다. 이러한 인간 관련 요인은 AI 전환 과정에서 꾸준히 일어나는 동시에 가장 극복하기 어려운 과제 중 하나다.
4. 기술적 복잡성(Technical complexity)
에이전틱 AI 솔루션 기술은 압도적일 정도로 복잡하다. 수십 개의 시스템을 통합하고, 여러 AI 기법을 결합하며, 시장에 존재하는 수천 가지 벤더 솔루션들을 탐색해야 하는 경우가 많다. IT 담당 조직이 이러한 복잡성을 효과적으로 관리하지 못하는 한계로 인해 많은 AI 프로젝트가 중단된다.
3. Kearney가 제시하는 에이전틱 AI 가치 창출 접근법
모든 과제가 상당한 도전이지만, 극복 불가능한 것은 아니다. 극복하기 위해서는 리스크, 비용, 복잡성, 내부 저항, 신뢰성 문제를 효과적으로 관리하면서, 에이전틱 AI가 제공하는 가치를 극대화할 수 있는 체계적이고 엄격한 접근법이 필요하다. Kearney 프레임워크는 에이전틱 AI의 성공적인 구현을 돕는 6가지 핵심 원칙을 제시한다.
1. 에이전틱 AI가 창출할 수 있는 가치에 집중하라
2. 개별 업무 단위가 아닌, End-to-end 관점으로 접근하라
3. 조직 전반의 변화를 위해 Top-down으로 이끌어라
4. 변화의 영향을 직접 받게 될 구성원들에게 권한을 부여하라
5. 최소 침습 아키텍처(Minimally Invasive Architecture)와 디지털 디커플링(Digital Decoupling)으로 기술 변화를 최소화 하라
6. 사람 중심 설계로 AI와 인간의 개입에 균형을 맞춰라
1. 가치에 집중하라
AI 시스템 구현에 드는 막대한 경제적 비용을 고려할 때, 기업은 AI가 실제로 어떤 부분에서 가치를 창출하는지 명확히 파악해야 한다. 이를 위해서는 단기적 기회와 장기 전략적 포지셔닝 두 가지 관점을 동시에 고려하는 이중 렌즈 접근법이 필요하다.
일부 산업의 경우, AI가 근본적인 경쟁력 자체를 바꾸기도 한다. 따라서 이러한 전략적 전환점을 이해하는 것이 기업 생존에 결정적인 영향을 미친다. 일례로, 자율주행 기술은 단순히 차량 공유 산업 뿐만 아니라 자동차 제조 업계 전반의 판도를 바꾸기 시작했다. 이런 산업에 속한 기업들은 ‘퓨처백(Future-back)’ 렌즈를 장착해야 한다. 즉, AI가 완전히 내재된 미래 환경에서 자사 비즈니스가 어떻게 바뀔 수 있을지 새롭게 상상해야 한다.
퓨처백 접근법은 현재의 기준 프로세스에 얽매이지 않고, 제품, 시장 진입 전략, 핵심 전달 방식, 운영 모델을 재설계하는 것을 의미한다. 이 방법론은 디자인 씽킹, 몰입형 워크숍, 그리고 AI 도구를 활용해 시장과 고객의 감각이 어디로 이동하고 있는지 이해하는 것이다.
동시에, 기업들은 현재의 프로세스와 문제점을 구체적으로 이해하는 ‘투데이 포워드(Today-forward)’ 렌즈도 필요하다. 이 접근법을 통해 AI 도구를 활용해 인사이트 도출 속도를 높이고, 개선 기회를 즉각적으로 실현할 수 있도록 프로세스를 재설계할 수 있다. 핵심은 최단 기간 안에 가장 큰 경제적 효과를 낼 수 있는 활용 사례를 찾아내는 것이다.
2. End-to-end를 생각하라
에이전틱 AI는 기존 RPA가 수행할 수 있는 수준을 넘어 조직 내 반복적인 업무 절차 대부분은 물론 나아가 의사결정과 실행까지도 자동화할 수 있게 해 준다. 그러나 진정한 힘은 개별 업무 단위(Task)에 머무르지 않고, 프로세스 전체를 End-to-end로 바라볼 때 발휘된다.
예를 들어, 최근 한 첨단 기술 기업은 복잡한 RFP 프로세스를 자동화했다. 처음에는 각 참여자가 LLM을 활용해 자신이 맡은 활동을 자동화하는 것으로 시작했다. 그러나 이런 접근으로는 전체 프로세스의 25% 정도만 LLM으로 자동화할 수 있으며, 실질적인 생산성 향상 효과는 거의 없다는 사실을 알게 되었다. 결국 프로세스를 통합적으로 바라보며 에이전틱 AI 도구의 활용 범위를 더 넓힌 결과 전체 프로세스의 75% 이상을 자동화할 수 있었다.
그림3은 End-to-end 접근법의 또 다른 사례로, B2B 마케팅 프로세스에 적용된 경우다. 이 프로세스에서는 많은 단계가 에이전틱 AI로 대체되어, 상시 작동하며 시장 변화를 실시간을 감지하고 대응할 수 있게 되었다. 그 결과 고부가가치성 영업 리드의 수가 20% 증가했다. 이러한 End-to-end 전환은 기존의 개별 업무 단위 중심 자동화에서 벗어나 통합 프로세스 전반을 재설계하는 근본적 혁신이다. 즉, 에이전틱 AI는 과거에 불가능했던 완전히 새로운 업무 방식을 만들어낼 수 있다. 따라서 기업들은, 투데이 포워드(Today-forward) 관점을 채택해, 현재 프로세스와 고민을 구체적으로 이해하는 것에서 시작해야 한다.
► 그림3. 급진적인 프로세스 재설계: 통신사들이 ‘항상 작동하는’ 마케팅을 위해 에이전틱 AI를 활용하는 방식
3. Top에서 이끌어라
전사적인 AI 확산에 성공한 기업은 공통적으로 ‘AI 가치 오케스트레이션 조직’을 구축한다. 이 조직은 비즈니스 임팩트가 큰 업무를 우선적으로 배열하고, 조직 전체 기술과 프로세스 변화를 조율하며, AI가 창출한 가치가 실제 성과로 이어지도록 관리한다. 이 조직은 대체로 CEO나 COO가 직접 주도하여, AI 솔루션 실행 과정에서 조직 간 협업이 원활하게 이루어지도록 주도한다. 이러한 조직은 다음과 같은 핵심 전략을 활용한다.
- ‘AI 퍼스트’ 설계 방법론 AI를 활용한 새로운 업무 방식을 창의적으로 고민하도록 유도해, 기존 방식에 얽매이지 않도록 독려
- 직원 역량 강화 솔루션 도입 과정에서, 직원들이 AI를 일터에서 직접 활용해 지속적으로 개선하고 최적화할 수 있도록 팀에 필요한 도구와 역량 제공
- 경영진 리더십 최고 경영진이 직접 참여함으로써 기능 부서 간 협업을 조율하고, 추진 동력 유지
글로벌 호스피탈리티(호텔, 리조트) 기업 사례는 이 접근법을 잘 보여준다. 이 회사는 CEO가 직접 주재하는 AI 컨트롤 타워를 설립하고, 전사 주요 기능 전반에 에이전틱 AI를 활용한 비즈니스 프로세스 재설계를 추진했다. 고객 경험 혁신에 초점을 맞춰 보다 정교한 맞춤형 서비스를 실현하는 것이 이 프로젝트의 목표이며, 가격 책정 및 번들링, 로열티 프로그램과 맞춤형 올인클루시브 경험 등 AI 기반 성장 요인을 통해 매출이 2~3% 증가할 것으로 예상된다. 또한, 이 회사는 AI를 활용해 생산성이 높아져 2년 이내에 백 오피스 운영 비용을 10% 이상 절감할 수 있을 것으로 전망한다.
4. 권한을 부여하라
조직이 에이전틱 AI 솔루션을 도입할 때, 영향을 가장 크게 받는 직원들이 이 과정에 참여할 필요가 있다. 직원이 참여한다는 것은, 그들에게 프로세스 재설계의 주도권을 부여하는 것 뿐만 아니라 AI 도구를 활용해 스스로 업무를 개선할 수 있도록 교육하는 것까지 포함한다. 문제는 이러한 에이전틱 AI 관련 업무가 조직 전반에 걸쳐 상당히 분산된 형태로 운영된다는 것이다. 하지만 AI 투자 효율성을 극대화하면서 동시에 에이전틱 AI가 보안, 편향, 신뢰성, 성능 기준을 충족하도록 관리해야 하는 조직의 입장에서 분산된 운영은 상당한 도전이다.
데이터 관리 및 거버넌스 체계의 요소를 참고하면, 직원 자율성과 적절한 통제 사이의 균형을 맞출 수 있다. 분산된 환경에서 데이터를 관리하고 거버넌스 하기 위해 설계된 데이터 메쉬 아키텍처 (Data Mesh Architecture)의 네 가지 핵심 원칙은 에이전틱 AI와 에이전트 워크플로우 개발에 직접적으로 적용할 수 있다(그림4 참조).
► 그림4. 데이터 메쉬 아키텍처의 4개의 핵심원칙은 에이전틱 AI와 에이전트 워크플로우 개발에 직접적으로 적용할 수 있다
5. 최소 침습형 아키텍처(minimally invasive architecture)를 구축하라
디지털 디커플링처럼, 에이전트 아키텍처는 몇 가지 핵심 원칙을 고려해 설계해야 한다. 아키텍처는 최소 침습형(Minimally Invasive)이어야 하며, 분리된 서비스와 이벤트 기반 API를 활용해 기존 시스템의 대규모 재설계를 피해야 한다. 또한 특정 공급업체에 종속되는 벤더 락인(Vendor Lock-in)을 방지할 수 있도록, AWS, GCP, edge 환경 등 다양한 클라우드 환경에서 배포 가능한 멀티 클라우드 지향 구조로 설계되어야 한다.
ServiceNow와 같은 플랫폼이 에이전트, 인간, 시스템 간 핵심 연결 지점 역할을 할 수 있도록 아키텍처는 워크플로우 중심으로 설계되어야 한다. 경제적 투명성 또한 필수적이다. AI 시스템 운영에 필요한 막대한 투자를 관리하려면, 컴퓨팅 및 사용 비용에 대한 가시석을 확보해야 한다. 마지막드로, 아키텍처는 실용적 모듈형(Pragmatically Modular) 구조로 설계되어야 한다. 일부 벤더 락인은 피할 수 없지만, 가능한 한 탈출구를 마련해 유연성을 확보할 필요가 있기 때문이다.
설계 관점에서 보면, 아키텍처는 그림5와 같이 여러 핵심 구성 요소로 이루어진다. 에이전트 코어는 감지, 목표 설정, 계획, 메모리, 실행을 담당한다. 에이전트 오케스트레이션은 에이전트 간 커뮤니케이션과 백엔드 시스템 통합을 관리한다. 디지털 디커플링은 이벤트 버스(Event Bus)와 게이트웨이를 제공해 시스템 통합 요구 사항을 최소화한다. 멀티 클라우드 오케스트레이션은 배포의 유연성을 보장하며, 엔터프라이즈 시스템 통합은 기존의 전사 자원 관리(ERP), 고객 관계 관리(CRM), 인적 자원 관리(HCM) 시스템을 연결한다. 데이터 관리는 데이터 파이프라인, 거버넌스, 카탈로그 작성을 처리하고, 에이전트 관리는 마켓플레이스 기능, 거버넌스, 보안, 모니터링을 제공한다.
► 그림5. 에이전틱 AI 시스템은 입력 처리, 추론 및 계획, 실행을 지원하는 모듈을 가지고 있으며, 오케스트레이션 기능을 통해 에이전트끼리 협업할 수 있다.
6. 사람 중심으로 설계하라
에이전틱 AI 솔루션을 설계하는 접근법은 디지털 설계 프로세스와 유사하지만, 몇 가지 차이가 있다.
이해(Understand) 기업은 전체 프로세스에 영향을 받는 각각의 역할에 대해, 그들이 실제 업무를 어떻게 수행하는지, 어려움과 니즈는 무엇인지, 프로세스가 전반적으로 어떻게 작동하는지를 AI를 활용해 빠르고 깊이 있게 이해해야 한다.
재구상(Reimagination) AI에 대한 몰입과 디자인 씽킹을 결합해, 업무 수행 방식을 근본적으로 다시 상상해야 한다.
신속한 개발(Rapid development) MVP를 빠르게 구축하고, 빠른 스프린트 단위로 투자해야 할 방향을 관리하며, 예상 성능 범위를 점진적으로 좁혀 모델이 지속적으로 개선될 수 있도록 하는 것이 중요하다.
검증과 학습(Test and learn) 최적의 결과를 얻으려면, 비즈니스 및 기술적 결과를 포함한 테스트 방법론을 사전에 설계해야 한다. 이를 위해서는 AI 시스템의 확률적 특성을 고려한 정교한 접근 방식이 필요하다.
확장(Scale) 가장 성공적인 방식은 확장 가능한 아키텍처를 구축하고, 통제된 상태에서 단계별로 전개하며, 현업 조직의 역량을 키워 나가는 것이다.
지속적 개선(Continuous improvement) 리더는 구성원들이 지속적인 개선을 추진할 수 있는 역량, 사고방식, 인센티브 체계를 부여해야 한다.
이러한 차이점을 고려함으로써, 기업은 사람과 협력하며 작동하는 AI 솔루션을 보다 효과적으로 설계할 수 있으며 둘 모두의 강점을 극대화할 수 있다.
4. 지금, 리더가 취해야 할 전략적 실행 단계
에이전틱 AI 전환을 추진해야 하는 경영진이라면, 앞으로의 여정은 다양한 측면에서 단호한 실행력이 필요하다는 점을 염두에 두어야 한다. 먼저, 리더는 조직 내에 현재 어떤 일이 일어나고 있는지 진단해, 현재 상태를 명확히 파악해야 한다. 이미 구성원들이 AI 도구와 기능을 자연스럽게 활용하는 등, 기술 활용 수준을 이해하면
조직의 준비 수준과 기회 영역을 파악하는 데 중요한 인사이트를 얻을 수 있다.
또한, 리더는 명확하고 실질적인 ROI를 창출할 수 있는 상위 3~4개의 기회영역을 선별해 즉시 실행에 옮겨야 한다. 이 때는, 시범 프로그램(Pilot)이 아니라 에이전틱 AI의 잠재력이 실제로 비즈니스에 영향을 미칠 수 있는 솔루션이어야 한다.
우선 순위가 정해졌다면, 조직을 준비시킬 차례다. 리더는 체계적인 교육과 조직 내 모멘텀 형성을 통해, 조직이 AI 도입에 대비하도록 만들어야 한다. 구성원들의 인식 전환과 변화 관리도 이에 포함된다.
에이전틱 AI 컨트롤 타워를 총괄할 리더를 지정해, 해당 기능을 구축하고 운영할 책임을 맡기는 것도 중요하다. 이 역할을 수행하려면 기술적 이해는 물론 조직 내에서 부서 간 협력을 조정할 수 있는 권한도 있어야 한다.
마지막으로 리더는 우선순위가 높은 기회영역을 즉시 실행할 수 있도록 자원을 확보하고, 기술팀과 협력해 확장 가능한 최소 침습형 AI 아키텍처 기반을 구축해야 한다.
5. 에이전틱 AI가 만들어낼 변화와 그 기회
에이전틱 AI는 아직 초기 단계의 기술이지만, 선도 기업의 사례를 통해 그 영향력을 확인할 수 있다. 에이전틱 AI와 비즈니스 프로세스 리엔지니어링을 체계적으로 도입하는 기업은, 시간이 지날수록 넘볼 수 없는 경쟁 우위를 확보하게 될 것이다. 이러한 기술과 접근법의 결합은 단순히 비즈니스 운영 방식의 점진적 개선이 아닌, 근본적으로 재정의할 수 있는 기회가 될 것이다.
지금 경영진이 던져야 할 질문은 ‘에이전틱 AI가 산업을 변화시킬 것인가?’가 아니라 ‘변화를 주도할 것인가 아니면 뒤따라 갈 것인가?‘이다. 에이전틱 AI의 혁신적 잠재력을 현실로 만들기 위한 프레임워크는 이미 존재한다. 과감하지만, 필수적인 투자를 할 준비가 되었는지가 관건이다.
에이전틱 AI 역량은 조직 운영을 바꿔놓을 전례 없는 기회다. 성공하기 위해서는 재무적, 조직적, 기술적 과제와 사고방식까지 전부 극복해야 하지만, 이 모든 것을 충분히 감수할 만한 가치가 있다. 이 변화를 빠르게 수용하는 기업일수록, AI 중심의 미래 비즈니스 환경에서도 지속적으로 성장할 수 있는 동력을 선점하게 될 것이다.
