신뢰 가능한 자율성은 사람과 인공지능(AI) 에이전트가 한 팀으로 일하는 데서 시작된다. 가까운 미래의 조직은 사람의 판단 아래 에이전트가 수많은 실제 작업을 수행하는 구조로 재편될 것이다. 필자가 속한 오라클은 이에 발맞춰 AI 데이터 플랫폼을 준비하고 있으며, 핵심은 모델 그 자체가 아니라 데이터와 거버넌스에 있다. 모델은 계속해서 빠르게 변화하지만, 일관된 데이터 체계와 거버넌스가 지속 가능한 경쟁력을 만든다. 이 토대가 없으면 부서마다 임의적인 자동화가 난립해 조직간 사일로(silo) 현상과 운영 리스크만 키우게 된다.
앞서가는 기업은 에이전트를 도구로만 여기지 않고, 책임 있는 동료처럼 대할 것이다. 업무 회의에서 에이전트의 성과와 목표 현황을 확인하고 권고안을 조정하며, 중요한 결정은 사람이 내리되 반복·지원 업무는 AI 에이전트가 정책에 따라 수행할 것이다.
선진화된 접근 방식은 보안과 데이터 계보, 맥락 정보를 데이터 흐름 전반에 심어 에이전트가 정확하고 책임 있게 일하도록 만드는 것이다. 사용자는 기존에 사용하던 애플리케이션 내에서 검토, 수정 및 승인이 가능한 제안 사항을 바로 확인할 수 있다. 이 제안 사항은 기업별 성과 목표와 시기별 계획, 사용자의 조직 내 역할 등 맥락에 맞춰 학습된 모델을 기반으로 한다. 이는 신속한 의사결정으로 이어지게 된다. 의사결정과 업데이트는 데이터의 원장인 '레저(ledger)'가 존재하는 데이터베이스와 클라우드 애플리케이션 내부에서 이뤄져 비용, 위험성 및 컴플라이언스 이슈를 자연스럽게 충족시킨다.
선진화된 AI 데이터 플랫폼을 구축하면 기업은 의사결정을 빠르게 하고 실행을 간소화하며, 더 적은 투자로 더 뛰어난 성과를 추구할 수 있다. 모든 에이전트는 데이터 모델과 관계없이 동일한 거버넌스 모델과 비즈니스 관련 맥락 정보를 공통으로 연계 받는다. 이 기반 위에서 기업은 부서별 에이전트를 전사 규모의 디지털 생태계로 확장하되, 비용과 리스크 및 컴플라이언스를 통제할 수 있는 범위에 둘 수 있다. 가장 중요한 점은 사람의 통찰력과 AI가 정교하게 조율되는 신뢰 가능한 자율성이다.
현업에서는 이미 이러한 접근 방식의 명확한 가치가 증명됐다. 오라클의 고객사인 공급망 분야 기업 A사는 새벽에 지정학적 리스크가 발생해도 에이전트가 재조정한 생산 계획과 대체 공급업체를 검토해 긴급 계약을 준비한다. 아침에 비용과 리스크가 비교 정리된 보고사항을 검토해 결정만 내리면 된다. 마케팅 영역에서는 주문량 및 사용량 원격 측정, 지원 티켓, 소셜 미디어 활동 등 다양한 접점을 종합해 이상 신호를 조기에 파악한다. 그리고 근본 원인을 분석한 뒤 고객 대응 전략과 핵심 논의사항을 제시해 담당자가 선제적으로 관계를 관리하도록 돕는다.
필자는 세 가지 차별화 방안을 제시하고자 한다. 첫째, 데이터베이스와 전자자원관리(ERP), 산업별 애플리케이션 등 실제 비즈니스 영역 안에 AI를 직접 심어 인사이트가 곧바로 거래와 업무 처리로 이어지게 해야 한다. 이를 통해 중간 단계에서 발생하던 지연과 통합 비용을 줄이고, 감사 추적 및 규제 요구사항에 대한 대응도 수월하게 할 수 있다. 둘째, 데이터와 에이전트를 위한 단일 정책 및 거버넌스 체계를 제공해야 한다. 모든 모델과 데이터 소스, 애플리케이션 전반에 보안, 계보 및 접근 규칙을 일관되게 적용해 예측 가능성과 신뢰, 규제 대응력을 확보할 수 있다. 셋째, 개방형 모델에 대한 선택의 자유와 리스크 관리 역량을 함께 제공해야 한다. 다양한 모델을 필요에 맞게 자유롭게 쓰되, 동일한 정책과 통제를 재사용해 비용과 리스크를 예측 가능한 범위 내에서 유지할 수 있다. 이를 통해 모델이 발전해도 투자 보호가 가능하다.
사람이 AI 에이전트를 전략적으로 활용하고, 나아가 동료로서 조화를 이루는 업무 환경으로 조직의 탄력성과 적응력을 높일 수 있다. 의사결정은 빨라지고 반복 업무는 자동화되며, 보안 및 컴플라이언스 사항은 기본적으로 보장된다. 신뢰 가능한 자율성을 표준으로 삼아, 사람이 중심이 되고 에이전트가 확실히 뒷받침하는 새로운 일의 방식을 적극 고민해야 한다.
나정옥 한국오라클 부사장 jungok.nah@oracle.com