“F1 레이싱카가 성능은 압도적이지만 일반 도로에 내놓기 어렵습니다. 너무 빠르고 강력하기 때문이죠. 그래서 속도를 낮추고 안전장치를 달고 규정을 맞춘 일반 자동차를 따로 만듭니다. 기업에게도 성능보다 속도와 안전, 규정을 준수하는 '하네스(고삐)'가 채워진 인공지능(AI)이 필요합니다.”
강용성 와이즈넛 대표는 전자신문 주최 'AX 베스트 프랙티스 컨퍼런스'에서 “AI 기술이 성능 경쟁 단계를 넘어 실제 기업 생산성을 좌우하는 '운영의 시대'로 진입했다”면서 “단순히 똑똑한 AI를 넘어, 기업 환경에서 신뢰할 수 있고 통제 가능한 AI가 경쟁력을 좌우할 것”이라고 이같이 강조했다.
실제 기업 현장에서는 AI 도입이 빠르게 확산되고 있지만 성과로 이어지지 않는 정체 구간이 뚜렷하다. 지난해 기준 세계 기업의 약 88%가 AI를 도입하고 있지만 실질적인 매출 증대나 투자대비수익(ROI) 측면에서는 의문부호가 붙는다. 실제 프로젝트의 80%가 단순 기술 검증(PoC) 단계에서 머물러 있다는 통계도 있다.
강 대표는 “대부분 PoC는 기업이 AI 생산성을 높이기 위해 테스트하는 시기로 F1 경주차가 서킷 위에서 달리는 것과 마찬가지”라면서 “이제 PoC를 넘어 실질적으로 인공지능 전환(AX)으로 나아가기 위해 운영과 신뢰에 대한 프레임워크 정립이 필요한 시점”이라고 분석했다.
AI의 발전 단계는 크게 세 시기로 나뉜다. 2024년까지가 어떤 모델이 더 똑똑한지 겨루는 '모델 경쟁'의 시대였다면, 2025년은 검색증강생성(RAG) 등을 통해 데이터의 신뢰성을 높이고 다양한 AI 도구를 활용하는 시기였다. 올해부터는 '운영 경쟁'의 시대가 됐다.
강 대표는 “모델 성능은 이미 상향 평준화 단계에 접어들었다”며 “이제는 누가 더 잘 연결하고 통제하며 안정적으로 운영하느냐가 기업 경쟁력을 결정한다”고 설명했다.
최근 화두는 단순한 응답을 넘어 스스로 판단하고 행동하는 'AI 에이전트'다. 강 대표는 AI 에이전트가 단순 도구를 넘어 '디지털 인력'으로 진화하고 있다고 평가했다. 계약 검토, 고객 대응, 보고서 작성 등 역할 단위로 업무를 수행하며 조직 구성원으로 편입되는 흐름이다.
강 대표는 “기업이 직원을 채용할 때 단순히 기능 차원에서만 보지 않고 기존 조직 및 인력과 어떻게 협업해야하는지 고민한다”면서 “이제 기업들은 에이전트를 '구매'하는 것이 아니라 '채용'한다는 관점으로 접근해야 한다”고 설명했다.
개인용 AI는 틀린 답을 내놓아도 치명적이지 않지만, 기업용 에이전트가 환율을 잘못 계산하거나 보안 규정을 무시하고 계약을 진행하면 막대한 금전적 손실과 법적 책임이 뒤따른다.
특히 단순 할루시네이션(환각)이 아니라 사내 규정이나 맥락을 무시하는 맥락 오류(Context Mismatch)가 기업에는 더 치명적일 수 있다고 강조했다. 기업 내부 규정과 프로세스를 반영하지 못하면 잘못된 결과로 이어질 수 있다는 설명이다.
강 대표는 이를 해결하기 위해 AI를 통제 가능한 시스템으로 만드는 '하네스 엔지니어링'을 제안했다. 이는 AI라는 경주마에 안장과 고삐를 채우는 것과 같다. 기업은 규약과 역할, 책임을 기반으로 움직이는 구조인 만큼 AI 역시 하나의 '객체'로서 조직 질서 안에 편입돼야 한다는 설명이다.
구체적으로는 △업무 규칙(Rule) 설정 △권한(Permission) 부여 △기업 지식(Context) 축적 △실행 로그(Logging) 기록 등 6가지 핵심 요소를 통해 AI를 기업 환경에 맞게 길들이는 방식이다.
강 대표는 “인간이 사회적 규약을 지키며 협력하듯 AX 역시 인간과 사회 구조 안에서 인간과 AI 에이전트와 합의점과 규약을 바탕으로 좋은 성과를 내는 방향으로 이뤄져야 한다”고 강조했다.
그러면서 “컨슈머 AI와 엔터프라이즈 AI의 지향점이 다르다는 것을 인정하고, 도입 기업과 공급 기업 간의 명확한 컨센서스를 형성해야 한다”며 “이러한 신뢰 기반의 협업 구조를 빠르게 안착시키는 것이 대한민국이 AI 3강으로 도약하는 핵심 동력이 될 것”이라고 제언했다.
정현정 기자 iam@etnews.com
