지난 7월 16일, 삼정KPMG는 ‘AI Summit(서밋) 2025’을 개최해 ‘AI 혁신의 시대, CFO(최고재무책임자)의 리더십과 역할’에 대해 살펴봤다. 이를 통해 AI 전환(AI Transformation, AX) 흐름에 따른 CFO의 전략적 역할 변화와 재무 부문 내 AI 적용 방안을 심도 있게 논의했다. 이번 호에서는 세미나에서 논의된 주요 내용을 살펴보며, 기업들의 AI 도입을 위한 방안에 대해 모색해 본다.
최근 우리 삶에서 가장 큰 화두는 단연 AI( 인공지능)라고 할 수 있다. AI는 이미 우리의 일상 속 깊숙이 자리 잡으며 그 역할을 빠르게 확대하고 있다. 특히 글로벌 빅테크 기업들이 주도하는 기술 발전은 과거 인터넷이나 스마트폰의 확산 속도를 훨씬 뛰어넘고 있다. 하지만 일상에서의 AI 활용에 비해 기업 내 AI 도입은 아직 초기 단계에 머물러 있는 경우가 많다. MIT의 최근 보고서 「생성형 AI의 격차: 2025년 기업 내 AI 현황」에 따르면, 생성형 AI 도입을 추진한 기업 중 95%가 실질적인 성과를 내지 못하고 있는 것으로 나타났다.
AI를 통한 기업 경쟁력 강화는 이제 선택이 아닌 필수다. 더 이상 미룰 수 없는 과제인 만큼, 실질적 성과를 달성하기 위해서는 기업의 Enterprise AI에 대한 올바른 이해와 전략적 도입이 무엇보다 중요하다. 이는 현재 기업이 직면한 가장 핵심적인 경영 아젠다라 할 수 있다.
현재 많은 기업들이 AI 도입을 ‘AI Assistant’ 라는 업무 보조 도구의 관점에서 접근하고 있다. 그러나 이러한 접근은 AI를 통한 업무 혁신의 일부에 불과하다. 기업을 위한 Enterprise AI는 단순한 보조 역할을 넘어, 스스로 계획하고 실행하며 인간뿐만 아니라 다른 AI와도 협업하는 ‘AI Worker’의 역할을 수행해야 한다. 이러한 ‘AI Worker’ 를 구현하기 위해서는 인간이 업무를 처리할 때와 마찬가지로, AI가 실행할 업무 프로세스(AI Workflow), 기업의 고유한 업무 지식(Domain Knowledge), 그리고 기존 시스템 및 업무 도구와의 인터페이스(System Interface)가 사전에 명확히 정의되어야 한다. 이 세 가지 요소는 AI Worker가 실제 업무를 수행하는 데 있어 필수적인 기반이 된다.
Source: 삼정KPMG
기업의 성공적인 Enterprise AI 도입을 위해 KPMG는 다음과 같은 3단계 프레임워크를 제시한다.
첫째, 기업의 전체 업무를 대상으로 실질적인 경쟁력 강화와 핵심 가치 개선이 가능한 업무 영역을 식별하는 것이 우선되어야 한다. 이는 AI 도입의 방향성과 효과를 결정짓는 중요한 출발점이다.
둘째, 식별된 업무 영역에 대해 AI 적용 우선순위를 설정하고, 우선 추진 영역에 대해 AI Workflow와 최적의 모델을 설계하여 실제 업무에 적용한다. 이 단계는 AI의 실질적 성과를 창출하는 핵심 실행 과정이다.
셋째, 초기 도입된 AI의 성과를 평가한 후, 적용 범위를 점진적으로 확대하는 동시에 임직원을 대상으로 한 변화관리와 AI 거버넌스를 고도화해야 한다. 이를 통해 조직 전반의 AI 수용성과 지속 가능성을 확보할 수 있다. 이러한 전환은 기술 부서만의 과제가 아니다. Enterprise AI의 도입은 기업 전체가 함께 추진해야 할 전략적 과제로, 조직차원의 통합적이고 체계적인 접근이 필수적이다.
Source: 삼정KPMG
결국 기업이 스스로에게 던져야 할 질문은 ‘어떤 AI 솔루션을 도입할 것인가?’가 아니라, ‘우리 기업의 경쟁력과 핵심 가치를 높이기 위해선 어떤 업무를 개선해야 하는가?’, 그리고 ‘이 변화가 향후 어떤 영향을 미칠 것인가?’이다. 더 나아가, 단기적인 업무 도구의 도입을 넘어 ‘AI Worker’를 동일한 임직원으로 받아들이고, 기존 임직원과의 협업을 어떻게 설계할 것인지 즉, 일하는 방식과 비즈니스 구조 전반을 어떻게 재설계할 것인가에 대한 고민이 함께 이루어져야 한다. 기술의 변곡점은 이미 지났다. 지금은 거대한 변화의 초입이자, 향후 기업의 지속가능성을 결정짓는 가장 중요한 갈림길에 서 있는 시점이다. 지금의 선택은 단순한 기술 도입을 넘어, 기업의 생존과 성장을 좌우할 수 있으며, 이 갈림길에서 주저하지 않고 나아가는 기업만이 다음 시대의 리더될 것임을 인식해야 한다.
· AI Center · 이준기 상무 Tel. 02-2112-0615(jlee199@kr.kpmg.com)
· 경제연구원 · 박도휘 Director Tel. 02-2112-0904 ( dohwipark@kr.kpmg.com)
