1. 인공지능 도입의 다음 단계는 더 나은 비즈니스를 설계하는 데서 시작된다
RAND Corporation의 연구에 따르면, AI 프로젝트의 80% 이상은 기대에 미치지 못한다. 이는 비AI 정보기술 프로젝트의 실패율보다 두 배 높은 수준이다. 한편 S&P Global Market Intelligence의 2025년 조사에 따르면, 평균적인 조직은 AI 개념검증(PoC)의 46%를 운영 환경에 도달하기 전에 폐기했다. 또한 대부분의 AI 이니셔티브를 포기하는 기업의 비율은 2024년 17%에서 2025년 42%로 급증했다.
문제는 무엇인가? Kearney의 새로운 연구는 이에 대한 통찰을 제공한다. 16개 산업에 걸친 500명 이상의 C-level 리더들의 설문 응답을 보면, AI를 확장하고 AI에서 가치를 얻는 데 겪는 어려움은 주로 기술 문제가 아니다. 그것은 오너십과 비즈니스 설계의 문제이다. 그리고 대부분의 조직은 아직 이 문제를 해결하지 못했다.
① 오너십의 공백
Kearney 연구가 시사하는 가장 큰 발견은, AI를 누가 소유해야 하는지에 대해 아무도 합의하지 못하고 있다는 점일 것이다. CEO는 자신이 AI를 소유해야 한다고 생각한다. CAIO는 공유 거버넌스가 가장 효과적이라고 본다. CIO와 CTO 역시 공유 거버넌스를 선호한다. CDO는 사업부를 지목한다. CFO는 CAIO 쪽으로 기운다.
이는 단순한 조직 정치가 아니다. 이는 AI가 실제로 무엇인지에 대한 더 깊은 혼란의 증상이다. AI는 IT가 담당해야 하는 기술 이니셔티브인가? C-level 오너십이 필요한 전략 역량인가? 공유 거버넌스를 요구하는 교차 기능 전환인가? 답은 답답하게도, 이 모든 것에 해당하는 것처럼 보인다.
데이터가 분명하게 보여주는 것은 무엇이 작동하지 않는가이다. Kearney는 기술 주도의 오너십이 지속적으로 더 낮은 성공률, 더 느린 확장, 더 약한 재무적 임팩트와 상관관계를 보인다는 점을 확인했다. AI가 CIO 또는 CTO 소관인 조직은 AI가 CEO 또는 경영진 리더십 아래에 있는 조직보다 성공률이 실질적으로 낮고, 확장 속도도 더 느리며, 재무적 임팩트도 약하다. 그러나 CEO가 전략을 소유할 때 측정 가능한 비즈니스 가치를 창출하는 배포된 AI 유즈케이스는 53%에 그친다. CAIO가 이끌 때는 57%이다. 어느 모델도 결정적 우위를 갖는다고 보기 어렵다.
진실은 대부분의 조직이 여전히 이 문제를 알아가는 중이라는 점이다. 성공하는 조직들은 오너십이 누구에게 있는가라는 질문을 넘어, 더 근본적인 문제에 초점을 맞추고 있다. 바로 AI가 실제 비즈니스 운영 방식 안으로 어떻게 통합되는가이다.
② 거대한 불일치
이번 연구는 AI의 가장 시급한 과제를 인식하는 방식에 있어 C레벨 역할 간 심각한 격차가 있음을 보여준다. 걸림돌의 순위를 매기라는 질문에 대해, 경영진의 답변은 극명한 차이를 보였다.
▶ 주요 AI 걸림돌의 우선순위 판단에 있어 CEO와 나머지 C레벨간 의견이 일치하지 않는다.
CEO와 CAIO는 압도적으로 통합 문제를 우려한다. 각각 58%와 59%가 핵심 비즈니스 프로세스에 대한 제한적 통합을 가장 큰 과제로 꼽았다. 이들은 AI가 고립된 유즈케이스를 넘어 기업의 운영 구조 안으로 들어가는 데 어려움을 겪고 있다고 본다. 반면 CIO와 CTO 중 이러한 우려를 공유하는 비율은 49%에 그친다. 이는 전략적 비전과 기술적 실행 사이에 단절이 있음을 시사한다. CFO는 제한적 통합을 과제로 보는 비율이 더 낮다.
데이터에 대해서도 유사한 패턴이 나타난다. CEO의 거의 절반은 불충분한 데이터 품질 또는 인프라 준비도를 핵심 장벽으로 지목하지만, 이에 동의하는 CIO와 CTO는 38%에 불과하다. 기술 리더들이 데이터 과제의 심각성을 과소평가하고 있는 것인가, 아니면 CEO들이 증상과 근본 원인을 혼동하고 있는 것인가?
CFO는 독특한 우려를 보이며 다른 임원들과 구별된다. CFO의 45%는 파편화되거나 비효율적인 프로세스가 AI 확장을 가로막는다고 우려한다. 이는 모든 C-suite 역할 중 가장 높은 비율이다. 다른 임원들은 이를 그만큼 예민하게 느끼지 않는다. 이는 CFO들이 다른 이들이 놓치고 있는 것을 보고 있을 수 있음을 시사한다. AI의 ROI 문제가 기술 한계보다, 효율적인 배포를 가로막는 조직 복잡성에서 더 크게 비롯되는 것은 아닐까?
문화적 저항은 또 다른 이야기를 들려준다. CDO와 CFO는 이를 중요한 장애 요인으로 본다. 각각 31%와 30%가 이를 주요 우려로 꼽았다. 반면 CEO들은 대체로 이를 가볍게 본다. CEO 중 이를 핵심적이라고 보는 비율은 18%에 불과하다. 이 격차는 위험한 맹점을 암시한다. 최고위 리더들은 조직이 직면한 변화관리 과제를 충분히 인식하지 못할 수 있는 반면, 실행에 더 가까운 리더들은 도입 장벽을 곳곳에서 보고 있다는 의미이다.
이 불일치는 전략적 우선순위로도 이어진다. CEO, CFO, CTO, CIO는 효율성을 AI의 최우선 과제로 삼는 반면, CAIO와 CDO는 혁신에 초점을 맞춘다. 기존 것을 최적화할 것인가, 새로운 것을 창조할 것인가라는 목적의 근본적 차이는 왜 그렇게 많은 AI 이니셔티브가 추진력을 얻지 못하는지를 설명할 수 있다. C-suite가 AI가 주로 비용 절감 수단인지 성장 엔진인지에 대해 합의하지 못한다면, 실행이 흔들리는 것이 과연 놀라운 일인가?
③ 산업별 균열의 단층선
설문 데이터는 또한 AI 목표를 설정하는 데 있어 산업 간에 흥미로운 분화가 형성되고 있음을 보여준다.
▶ 밸류체인 중간에 위치한 기업들은 AI를 사용할 때 효율성에 초점을 맞추는 반면, 원자재 및 소비재 기업들은 성장과 혁신을 강조한다
금융서비스, 정보기술, 헬스케어, 자동차, 화학, 전문서비스와 같은 산업은 효율성을 우선시한다. 이들은 가치사슬의 중간에 위치한 산업들로, 운영 우수성과 비용 최적화가 경쟁우위를 만들어내는 영역이다.
반면 농업, 전력 유틸리티, 광업 및 금속, 석유 및 가스, 미디어 및 엔터테인먼트, 리테일은 효율성보다 성장 또는 혁신을 우선시한다. 이들은 원자재를 생산하거나 소비자를 직접 상대하는 산업이다. 이러한 산업에서는 비용 구조보다 차별화가 더 중요하다.
이 구분은 중요하다. 이는 격차가 더 벌어질 가능성을 암시하기 때문이다. 전통 산업이 AI를 효율성 용도로 과도하게 활용한다면, 다시 말해 어제의 비즈니스 모델을 최적화하는 데 AI를 집중한다면, 이들은 어제의 우위에 자신들을 고정시킬 수 있다. 그리고 AI를 성장과 혁신의 동력으로 활용해 미래의 비즈니스 모델을 발명하는 내일의 리더들보다 더 뒤처질 수 있다. 그 결과 효율성 중심 산업이 따라잡기 불가능한 복리형 우위가 형성될 수 있다.
2. 파일럿을 넘어 앞으로 나아가기
임원 코멘터리에서 일관되게 드러나는 주제는, 핵심 제약이 모델 역량이 아니라 비즈니스 설계라는 점이다. 중요한 것은 AI 모델을 도입하고 활용해 진정한 가치를 창출할 수 있는 비즈니스를 구축하는 것이다. 그러나 대부분의 기업은 현재 그렇게 설계되어 있지 않다.
한 CEO는 이렇게 말했다. “우리는 모델을 유지하는 비용과 도입에 필요한 문화적 전환을 과소평가했다.” 한 CAIO는 더 직설적으로 말했다. “AI는 실제 비즈니스 가치와 연결될 때 성공한다. 우리의 경쟁우위는 독점 데이터에서 나온다.” 한 CFO는 핵심을 찔렀다. “AI는 비즈니스 프로세스와 정렬되고 강력한 데이터에 의해 뒷받침될 때 가치를 제공한다. 기술만으로는 충분하지 않다.”
이는 기술적 학습이 아니라 조직적 학습이다. 의심할 여지 없이 AI 기술은 세부 기술 관점에서는 “작동”한다. 문제는 조직이 AI가 상당하고 측정 가능한 비즈니스 임팩트를 제공하는 방식으로 대규모로 작동할 수 있는 조건을 만들어낼 수 있는가이다. 이는 기술에 관한 질문이 아니라, 막대한 투자를 활용해 비즈니스를 재설계하고 조직 변화를 추진하는 데 관한 핵심 질문들에 주의를 집중해야 함을 의미한다.
임원 코멘터리에서 도출되는 가장 시급한 질문들은 다음과 같다.
투자 전략
- AI가 이토록 빠르게 발전한다면, 올바른 투자 전략은 무엇인가?
- 대규모 AI 플랫폼에 이미 투자했다면, 그 투자에서 어떻게 ROI를 창출할 것인가?
비즈니스 변혁
- AI가 해결할 수 있는 중대한 비즈니스 문제는 어디에 있는가?
- AI가 핵심에 완전히 내재화되었을 때 비즈니스 성과는 어떤 모습일까?
조직 변화
- AI의 가치를 조직 전체에 입증하기 위해, 우리는 어디에서부터 좋은 데이터를 가지고 시작할 수 있는가?
- 어떻게 조직의 동의를 얻고, 그들과 협력하여 비즈니스를 재설계할 것인가?
- AI를 촉매로 삼아 비즈니스 프로세스와 업무 방식을 어떻게 진정으로 변화시킬 것인가?
데이터 품질
- 조직 전반에 AI를 체계적으로 확장하기 위해 데이터를 어떻게 개선할 것인가?
- 데이터 품질이나 도입 부족 때문에 초기 결과가 실망스럽더라도, 어떻게 방향을 유지할 것인가?
리더십 과제
- 회사와 직원들에게 긍정적 전망을 전달하는 AI 내러티브를 어떻게 만들 것인가?
- 필요한 변화를 실현하기 위해 어떻게 어려운 결정을 내리고, 용기 있게 행동할 것인가?
전망: 주요 전략적 고려사항
이 질문들은 결코 사소하지 않다. 그러나 이 질문들에 답하는 것이야말로 AI가 진정으로 중요한 재무적 임팩트, 즉 1,000만 달러 이상으로 정의되는 실질적 영향을 만들고 지속 가능한 경쟁우위를 구축하는 유일한 방법이다.
이 질문들은 조직이 단순히 파일럿을 더 많이 수행하는 것을 넘어, AI를 핵심에 둔 비즈니스를 설계하도록 도울 수 있다. 이는 다음을 의미한다.
조직은 스택 전반에서 어디를 직접 구축하고, 어디에서 파트너십을 맺고, 어디에서 헤지할 것인지 명확히 하며, 차별화가 가장 중요한 영역에서는 이식 가능성(portability)을 보장한다.
조직은 AI 에이전트를 대규모로 어떻게 운영, 거버넌스, 최적화할 것인지 정의하여 AI의 행동을 예측 가능하게 만들고 책임 소재를 명확히 한다.
조직은 사이버-물리 보안을 핵심 인프라로 내재화한다. 안전 영향에 대한 위협 모델링, 제로트러스트 신원 및 에이전트 접근 통제, 지속적 모니터링과 패치를 통해 AI를 보호한다.
조직은 피지컬 AI를 신중하게 배포한다. 우선 적용 영역에 대한 청사진을 정의하고, 엣지 추론, 클라우드 학습 루프, 디지털 트윈을 측정 가능한 성과 결과와 연결한다.
조직은 속도 우위를 구축한다. 모듈형 아키텍처와 더 빠른 반복 루프에 기반한 새로운 제품 혁신 플레이북을 채택한다.
조직은 에이전트형 고객과 커머스에 대비한다. 인간과 봇 모두를 대상으로 하는 시장 접근 방식을 설계하고, 에이전트가 읽을 수 있는 제품 및 콘텐츠, 그리고 어시스턴트 생태계 전반의 상호운용성을 포함한다.
3. 다음 단계가 요구하는 것: 핵심 실행 접근법
2024년과 2025년이 실험의 시기였다면, 2026년은 실행으로의 전환을 의미한다. 결과를 제공하지 못하면서 “가능성을 보여주는” AI 이니셔티브에 대한 관용의 시대는 끝나가고 있다. 선도 조직과 나머지 조직을 가르는 것은 세 가지 역량이다.
1) 전략적 정합성
우위를 얻고 있는 조직들은 유즈케이스나 과장된 트렌드를 무차별적으로 쫓지 않으며, 효율성 개선에만 지나치게 집중하지도 않는다. 이들은 AI 이니셔티브를 비즈니스 문제, 성장 우선순위, 경쟁우위 중심으로 구성한다.
이들은 우선 명확한 EBITDA 가설과 추적 체계를 갖춘 소수의 고임팩트 AI 유즈케이스에 집중한 뒤 확장한다. 이러한 유즈케이스는 더 넓은 상업적·운영적 전환의 촉매 역할을 한다. 이들은 AI가 인간 성과를 증폭하고, 플랫폼을 통해 확장되며, 측정 가능한 결과를 제공하는 핵심 역량이 되는 비즈니스를 설계하고 있다.
이를 위해서는 전략에서 실행까지 이어지는 “붉은 실(red thread)”을 유지해야 한다. 즉, 비즈니스 목표, 데이터 기반, 운영모델, 변화관리를 하나의 일관된 전체로 연결해야 한다. 또한 AI를 독립형 도구로 배포하는 것이 아니라, 현장과 백오피스 워크플로에 내재화해야 한다. 차별화가 더 이상 “최고의 디바이스”로 정의되지 않는 상황에서, 경쟁우위는 점점 제품에서 시스템으로, 다시 생태계로 이동하고 있다.
2) 거버넌스의 명확성
AI가 고립된 실험에서 핵심 운영으로 이동함에 따라, 지속적인 모니터링, 테스트, 검증은 협상 불가능한 요건이 된다. 리더들은 모델 드리프트, 신뢰성 문제, 잠재적 위해 가능성이 AI Ops를 요구한다는 점을 이해한다. AI Ops는 AI 시스템이 시간이 지나도 의도한 대로 수행되도록 보장하는 거버넌스를 제공한다.
오늘날 대부분의 기업은 피지컬 AI가 가정, 공장, 차량, 작업 현장 전반에 확산되는 세계에서 AI Ops가 얼마나 중요한지를 크게 과소평가하고 있다. 시스템들이 서로 안정적으로 작동하도록 만들고, 시간이 지남에 따라 업데이트를 관리하며, 의사결정이 감사 가능함을 입증하고, 안전 및 규제 요구사항을 충족하는 것은 협상 불가능하다.
더 나아가 의사결정에 대한 책임은 인간에게 남아 있어야 한다. 특히 안전, 윤리, 브랜드 신뢰, 재무 리스크가 관련된 영역에서는 더욱 그렇다. AI는 의사결정을 알리고 가속해야지, 책임을 대체해서는 안 된다.
3) 운영 규율
AI는 기본기가 강할 때만 대규모로 작동한다. 이는 표준화된 프로세스, 양질의 데이터, 견고한 디지털 코어, 그리고 사업장, 시장, 기능 전반에 걸쳐 빠른 복제를 가능하게 하는 플랫폼을 갖추는 것을 의미한다. 또한 리더와 팀이 일상적 의사결정에서 AI가 생성한 인사이트를 활용하도록 훈련해야 한다. 그래야 AI 도입과 필요한 행동 변화를 촉진하고, AI에서 최대한의 가치를 얻을 수 있다.
명확한 역할과 오너십을 가진 “AI 챔피언”을 조직 전반의 전략적 위치에 배치하는 것은 변화를 가속하는 데 핵심이다. 또한 조직은 “빠르게 가기 위해 천천히 가는” 것을 가능하게 하는 인프라를 의도적으로 구축해야 한다. 이후의 속도를 가능하게 하는 기반에 투자하고, 레거시 운영모델을 개편해야 한다.
Kearney의 경험상, 강력한 중앙 거버넌스를 갖춘 연합형 딜리버리 모델은 완전 중앙집중형 또는 완전 분산형 접근보다 성공률과 재무 성과에서 더 우수하다.
산업 전반에서 하나의 패턴이 나타나고 있다. AI를 기술 이니셔티브가 아니라 비즈니스 설계 노력으로 대하는 조직이 앞서가고 있다. 이들은 AI가 가치를 창출할 수 있는지를 묻는 단계를 넘어섰고, 가치를 훼손하는 파편화된 “히트 앤드 런”식 배포도 벗어났다. 대신 AI 투자와 인재 개발, 운영 규율을 결합하여 시간이 지남에 따라 가치가 복리로 누적될 수 있는 조직적 조건을 구축하고 있다.
4. AI-first 기업을 향하여
AI 실험에서 AI 실행으로의 전환은 이미 본격적으로 진행 중이다. 그러나 데이터는 대부분의 조직이 여전히 기본을 알아가는 중임을 시사한다. 이제 질문은 AI가 산업을 변화시킬 것인가가 아니다. 비즈니스가 AI를 활용할 수 있을 만큼 충분히 빠르게 변화할 수 있는가이다.
분명한 점은, 성공하는 조직들은 더 많은 AI 프로젝트를 수행하는 것이 아니라 AI를 효과적으로 활용할 수 있도록 비즈니스를 설계하고 있다는 것이다. 이들은 실행 격차가 사실상 비즈니스 설계 격차라는 점을 인식했고, 따라서 AI에 맞게 구축된 기업을 만들기 위해 통합, 문화와 프로세스, 플랫폼 사고에 집중하고 있다.
AI 도입의 성공은 더 야심찬 파일럿, 더 정교한 알고리즘, 또는 기업을 어제의 모델에 묶어둘 위험이 있는 효율성 일변도 전략에서 나오지 않는다. 성공은 AI가 확장되고, 측정 가능한 성과를 제공하며, 시간이 지남에 따라 가치를 복리로 누적할 수 있는 환경을 만드는 일이 본질적으로 AI 성공의 핵심임을 이해하는 경영진에게서 나온다.
그러한 목표를 달성하려면 충분한 투자가 필요하다. 연 매출의 1% 미만을 AI에 투입하는 수준에서는 결과가 대부분 파일럿과 고립된 성공 사례에 머물 가능성이 높다. 의미 있고 반복 가능한 임팩트는 연 매출의 1~2% 이상을 투입할 때 나타난다.
그렇지만 AI에 더 많이 투자할지 여부를 선택해야 하는 경영진에게, Kearney의 연구는 성공을 결정하는 것이 돈만은 아니라는 점을 분명히 보여준다. 중요한 것은 그 투자가 의도적이고, 통합되어 있으며, 거버넌스 하에 있는가이다. 즉, AI를 단지 실험하기 위한 투자가 아니라, AI와 함께 실행할 수 있는 비즈니스를 구축하기 위한 투자로 설계되어 있는가가 중요하다.
AI의 가능성과 실현된 임팩트 사이의 격차는 점점 더 벌어지고 있다. 통합적 접근을 오케스트레이션하는 기업과 파편적으로 도입하는 기업 사이의 격차도 마찬가지이다. 이 격차를 좁히는 조직은 AI가 기술 솔루션을 기다리는 기술 과제가 아니라는 점을 인식하는 조직일 것이다. AI는 전사적 대응을 요구하는 비즈니스 설계 과제이다.
