“기업 내 인공지능(AI) 도입이 확산되는 상황에서 AI와 에이전트에 어느 권한까지 위임할지, 반드시 인간이 내려야 할 결정은 무엇인지 명확히 구분해야 합니다.”
인그리드 버슈런 다우존스 데이터 인텔리전스·AI 거버넌스 총괄부사장(EVP)은 최근 전자신문과 인터뷰에서 “AI 에이전트가 업무 수행과 의사결정에 관여하는 시대인 만큼 기술적 안전장치뿐 아니라 책임 소재를 명확히 설정하는 게 중요하다”며 이같이 말했다.
기업의 AI 통제체계 구축 중요성을 강조한 것이다. AI 에이전트 등장으로 AI가 단순한 정보 생성과 분석을 넘어 자율적인 의사결정 영역까지 확장된 상황을 고려, 기술 도입에 앞서 명확한 관리 원칙과 검증·책임 구조를 마련해야 한다고 주문했다.
다우존스는 이미 AI 활용을 개별 부서나 직원 판단에만 맡기지 않고 전사 차원 승인·감독 체계로 관리하고 있다. 오픈AI '챗GPT' 등장 이후 설립한 AI 운영위원회가 핵심이다.
위원회에는 법무, 뉴스룸, 마케팅, 기술, 데이터 과학, 커뮤니케이션, 파트너십 등 주요 조직 관계자가 참여한다. 단, 의사결정 속도를 높이기 위해 구성원 규모를 의도적으로 최소화했다.
버슈런 EVP는 “직원이 새로운 AI 도구를 도입하려면 AI 운영위에 사용 여부를 검토받아야 한다”며 “위원회는 구체적인 활용 목적과 업무 특성을 확인하고 사이버보안, 개인정보 보호 등 위험 요소를 평가해 승인 여부를 결정하는 구조”라고 설명했다.
동일한 AI 도구라도 어떤 용도로 사용하는지에 따라 허용 여부가 갈릴 정도로 엄격하게 심사한다. 2주마다 위원회를 열어 위험 평가를 충분히 거쳐 의사결정하며, 이를 통해 기업 내 승인되지 않은 '섀도 AI' 활용 가능성을 최소화하고 있다.
통제의 또 다른 축은 직원 교육이다. 다우존스는 생성형 AI 교육 프로그램 'AI 오디세이'를 통해 허용되는 행위와 금지 사항을 교육하고 평가했다. 업무에 실제 사용할 수 있는 AI 도구와 활용 방법을 소개하는 등 3년째 책임 있는 AI 사용 원칙을 중심으로 교육을 진행 중이다.
또 AI 시스템 자체 위험을 탐지하기 위한 기술 검증을 병행한다. 다우존스는 AI 시스템에 편향이 발생하지 않도록 테스트를 지속 수행하고 있다. 정보 출처를 추적하고 공정성도 검증한다. 레드팀 테스트나 정기적인 스트레스 테스트를 통해 시스템 위험 요소를 점검하며 모델의 편향 여부도 검토한다.
버슈렌 EVP는 “차세대 모델이 모든 사용사례에서 반드시 더 우수한 것은 아니다”라며 “AI 활용 목적에 따른 검증이 이뤄져야 한다”고 강조했다. 이어 “입력 데이터를 신뢰할 수 없으면 AI 생성 결과 역시 신뢰할 수 없다는 점에서 학습 데이터에 대한 확인도 필요하다”고 덧붙였다.
기업 내 AI 거버넌스 기본 원칙으로 소유권과 감독, 개방성을 강조했다. AI 활용에 필요한 권리를 확보하고 인간의 감독을 유지하며 AI가 콘텐츠 생산에 관여했는지 투명하게 공개해야 한다는 취지다.
한편 다우존스는 월스트리트저널(WSJ)·바론스·마켓워치 등 주요 경제·금융 매체를 보유한 글로벌 정보기업이다. 기업용 정보 서비스 '팩티바'로 금융기관과 기업에 뉴스·데이터·분석 서비스를 제공한다. 버슈렌 EVP는 B2B 사업의 데이터 관리와 전사 AI 거버넌스 전략을 총괄하고 있다.
박종진 기자 truth@etnews.com
