중견 제조기업 A사는 생산라인의 불량품을 찾아내기 위해 인공지능(AI) 기반 비전 솔루션을 도입했다. 그 결과 불량률은 눈에 띄게 줄었다. 하지만 변화는 거기까지였다. 반면 B사는 한 걸음 더 나아갔다. AI를 활용해 전 세계 원자재 가격 변동, 물류 상황, 날씨 변화까지 분석하고 수개월 뒤의 수요를 예측했다. 이를 기반으로 생산 계획과 부품 재고를 실시간으로 최적화했다. A사가 AI를 '검수 직원'으로 활용했다면, B사는 AI를 '최고 전략 책임자'처럼 활용한 셈이다.
이 두 사례는 오늘날 기업이 마주한 중요한 선택을 상징적으로 보여준다. 기존 업무 프로세스에 AI를 보조 도구로 덧붙이는 'AI 도입(AI-enabled)' 단계에 머물 것인가, 아니면 AI를 기업의 DNA에 깊이 통합해 비즈니스 모델 자체를 재설계하는 'AI 우선(AI-first)' 기업으로 전환할 것인가 하는 선택이다.
IBM 기업가치연구소(IBV)의 최신 조사는 이 간극을 선명하게 보여준다. 전 세계 경영진의 79%는 2030년까지 AI가 자사의 매출을 크게 끌어올릴 것이라고 기대했다. 그러나 그 매출이 구체적으로 어디에서, 어떤 방식으로 창출될지 명확한 비전을 가진 기업은 24%에 불과했다. 기대는 높지만 이를 실현할 전략과 준비는 여전히 부족하다는 의미다.
그렇다면 기업이 AI를 진정한 경쟁력, 즉 조직의 DNA로 만들기 위해 무엇을 준비해야 할까.
첫째, '맞춤형 멀티모델 전략'을 수립해야 한다. 하나의 거대한 범용 모델이 모든 문제를 해결해 줄 것이라는 기대에서 벗어나야 한다. 실제로 많은 기업이 여러 모델을 조합하는 멀티모델 접근을 선택하고 있다. 특히 특정 업무에 최적화된 작고 빠른 소형 언어모델(SLM)은 현장에서 더욱 폭넓게 활용될 가능성이 크다. 기업 고유의 데이터에 맞춰 모델을 정교하게 튜닝한 조직은 그렇지 않은 조직보다 생산성을 크게 높이고, 수익성 또한 향상될 것으로 기대된다.
둘째, 기술 도입을 넘어 조직의 사고방식 자체를 바꿔야 한다. 글로벌 기업의 한국 대표로서 다양한 기업들의 AI 도입 과정을 지켜보며 얻은 결론이 있다. 가장 큰 장벽은 기술이 아니라 '과거의 성공 경험'이라는 점이다. 완벽한 계획보다 중요한 것은 빠른 실행과 반복적인 학습이다. 또 AI 시대에는 최고 AI 책임자(Chief AI Officer)와 같은 새로운 리더십 역할도 점점 중요해질 것이다. AI와 함께 일하는 조직 문화를 전제로, 기존의 성공 방정식과 업무 방식을 유연하게 재설계할 수 있는 기업이 경쟁력을 갖게 된다.
셋째, 업무 흐름(Workflow) 자체를 AI 중심으로 재설계해야 한다. AI를 기존 업무의 일부 단계에만 적용하는 방식으로는 제한적인 효율 개선에 그칠 가능성이 높다. 진정한 혁신은 인간과 AI의 역할을 다시 정의하는 데서 시작된다. 인간은 전략적 판단과 창의적 문제 해결, 윤리적 감독에 집중하고, AI는 데이터 분석과 예측, 최적화와 같은 영역을 담당하도록 업무 프로세스를 처음부터 다시 설계해야 한다.
AI는 더 이상 IT 부서의 프로젝트가 아니다. 단순한 기술 도입을 넘어 기업의 가장 근본적인 운영 방식, 즉 DNA를 바꾸는 구조적 변화다. 2030년 시장의 승자는 누가 먼저 AI를 도입했는가가 아니라, 누가 더 과감하게 기업의 DNA를 재설계했는가에 의해 결정될 것이다.
지금은 초기 도입의 성과에 안주할 때가 아니다. 우리 기업의 AI 전환 수준을 냉정하게 점검하고, 더 깊고 과감한 변화로 나아가야 할 시점이다. 지금이 바로 그 골든타임이다.
이수정 한국IBM 사장 lsooj@ibm.com