물리세계에 인공지능(AI) 기술을 적용하는 피지컬 AI의 무분별한 도입이 지속되면 세계에서 관련 소송이 2000건을 웃돌 것이라는 전망이 나왔다.
충분한 AI 위험 가드레일 등 통제나 운영 역량이 전제되지 않는 피지컬 AI 적용은 심각한 안전사고나 법적 책임에 직면할 가능성이 크다는 이유다.
가트너는 최근 '최고정보책임자(CIO) 필수 과제: 시뮬레이션Ops(SimOps)와 월드모델을 통한 피지컬 AI 구현' 리포트를 통해 이같이 밝혔다. 기업의 무분별한 피지컬 AI 도입이 지속되면 불필요한 비용 지출은 물론, 연말까지 2000건 이상 사망 사고를 불러일으킬 수 있다는 게 골자다.
특히 안전한 피지컬 AI 도입을 위해서는 실제 하드웨어 도입 등 단기 파일럿 프로젝트보다 현실세계가 AI가 어떻게 움직일지 예측하는 월드모델을 선제적으로 확보해야 한다고 주문했다. 시뮬레이션 환경을 만들고 운영·검증하는 SimOps를 활용한 위험 통제·운영 역량 확보가 필수 요건으로 꼽혔다.
SimOps를 활용하면 시스템 의사결정 경로를 사전에 검증하는 것은 물론, 오작동 가능성을 최소화할 수 있다. 사용자 의도와 실시간 환경 피드백에 기반, 샌드박스 환경에서 수많은 시나리오를 시뮬레이션하고 가장 안전한 최적의 경로를 선택할 수 있기 때문이다.
가트너는 SimOps를 체계적으로 도입하는 기업만 피지컬 AI를 통한 비즈니스 자율성을 확보하고, 미래 에이전틱 AI 시대를 대비할 수 있다고 강조했다.
IT 관점이 아닌 비즈니스 운영 일부 과정으로 피지컬 AI를 통합, 정확한 시뮬레이션에 입각한 99%대 가용성을 유지해야 한다고 당부했다. 보다 안정적인 운영을 위해 현업에서 안전성·준법성을 검증하는 사내 시스템 필요성도 제시했다.
가트너는 2035년까지 SimOps를 채택한 기업의 40%가 피지컬 AI 배포에 따른 리스크를 평균 30% 이상 줄일 것으로 전망했다. 2040년 기준 SimOps 체계를 갖춘 20%의 조직만이 인간·디지털 에이전트·피지컬 AI가 통합된 비즈니스 자율성을 확보할 것이라고 예상했다.
피지컬 AI 도입에 따른 성공 관건은 물리적 자율성을 제어할 수 있는 '기록 가능한 법·운영적 프레임워크'의 구축 여부에 달렸다는 의미다. 특히 하드웨어 외형보다 내실 있는 통제 역량이 기업의 지속 가능한 혁신을 결정할 것이라고 설명했다.
박종진 기자 truth@etnews.com
