“인공지능(AI)은 도구가 아니다. 행위자다.” 역사학자 유발 하라리가 저서 '넥서스'에 남긴 문장이다. AI가 스스로 정보를 처리하고, 그럼으로써 의사결정에서 인간을 대체한다는 뜻이다. 도구는 사람이 들어야 움직이고 행위자는 스스로 판단하고 실행한다.
월요일 아침, 한 중견 부품업체의 구매 담당자가 화면을 연다. 주말 사이 AI 에이전트가 원자재 발주를 스스로 넣었다. 수량도, 거래처도, 납기도 지난주와 다르다. 로그에는 실행 시각과 결과 값이 남아 있다. 그러나 그 사이의 '판단'은 비어 있다. 팀장이 묻는다. “왜 이렇게 했습니까?” 아무도 답하지 못한다.
지난해까지 기업의 질문은 'AI를 도입했느냐'였다. 올해 나온 숫자는 다른 곳을 가리킨다. 글로벌 컨설팅 기업인 딜로이트가 24개국 경영·기술 책임자 3235명을 조사해 올해 1월 내놓은 보고서에 따르면, 2027년까지 AI 에이전트를 적어도 보통 수준 이상으로 쓰게 될 것으로 본 응답이 74%였다. 그런데 같은 조사에서 에이전트를 통제할 거버넌스 모델이 성숙 단계에 이르렀다고 답한 기업은 21%에 그쳤다. 한 조사 내에서 두 숫자가 53%포인트 벌어졌다. 딜로이트는 이 간격에 '가드레일보다 빠르게 확장되는 에이전트'라는 이름을 붙였다. 맥킨지가 지난해 12월부터 올해 1월까지 500여개 조직에 던진 질문의 답도 다르지 않다. 에이전트를 온전히 확장하는 데 가장 큰 걸림돌로 보안과 위험을 꼽은 응답이 3분의 2에 가까웠다. 도입은 이미 결론이 났지만, 통제는 아직 시작도 못 했다.
결과는 이미 나타나고 있다. 스탠퍼드대가 올해 발표한 'AI 인덱스 2026'에 따르면, 지난해 보고된 AI 관련 사고는 362건이다. 전년 233건에서 한 해 만에 절반 넘게 늘었다. 가트너는 지난해 6월, 에이전틱 AI 프로젝트의 40% 이상이 2027년 말까지 취소될 것으로 내다봤다. 기술이 모자라서가 아니다. 무언가 잘못됐을 때 되짚어볼 근거가 남지 않기 때문이다.
그런데 규제는 오히려 뒤로 물러섰다. 유럽연합(EU)은 지난달 규정을 고쳐, 고위험 AI 의무 시행을 이달 2일에서 2027년 12월로 미뤘다. 미국 콜로라도주는 지난 5월 AI법을 폐지하고, 적용 범위를 좁힌 법으로 다시 썼다. 앞서 달리던 나라들이 속도를 늦춘 이유는 규제가 필요 없어서가 아니다. 무엇을 어떻게 물을지 아직 정하지 못했기 때문이다.
한국은 반대 방향으로 갔다. 지난 1월 22일, AI 발전과 신뢰 기반 조성 등에 관한 기본법이 시행됐다. 제정은 EU에 이어 세계 두 번째이다. 그러나 특정 분야가 아니라 AI 전반을 포괄하는 기본법을 전면 시행한 것은 한국이 처음이다. 에너지 공급과 보건의료, 채용과 대출 심사, 학생 평가 등 열 개 영역을 고영향 AI로 열거했다. 대통령령으로 더 넓힐 길도 열어뒀다. 다만 정부는 최소 1년 이상 계도기간을 두기로 했다. 유예된 것은 의무가 아니다. 사실조사와 과태료 부과다. 의무는 이미 살아 있고, 끝나는 날은 정해지지 않았다.
준비는 그 속도를 따라가지 못했다. 대한상공회의소가 지난 6월 임금근로자 3000명을 조사했다. 생성형 AI 도입 로드맵이 없다는 응답은 중소기업 70.4%, 대기업 54.4%였다. 로드맵 없는 조직에 스스로 판단하는 에이전트가 들어가면, 월요일 아침의 저 질문은 어디서든 반복된다.
에이전트를 들인 조직에는 세 개의 공백이 생긴다.
첫째, 판단의 공백. 무엇을 사람이 정하고 무엇을 AI에 넘길지 경계가 없다. 경계가 없으면 위임이 아니라 방치다.
두 번째, 기록의 공백. 무엇을 근거로 그 결정이 내려졌는지 남지 않는다.
세 번째, 소명의 공백. 결과를 설명하고 책임질 사람이 정해져 있지 않다.
셋은 순서대로 무너진다. 경계를 긋지 않으면 기록할 대상이 없고, 기록이 없으면 누구도 답할 수 없다.
월요일 아침의 그 화면은 기술의 실패가 아니다. 묻는 법을 정해두지 않은 조직의 초상이다. 결국 혁신의 기술은 AI에 더 많은 결정을 맡기는 기술이 아니다. 그 결정을 누구에게, 무엇을 근거로 물을지 미리 정해두는 기술이다.
김태형 단국대 대학원 데이터지식서비스공학과 교수·정보융합기술·창업대학원장