대한민국 정부가 2026년을 '인공지능(AI) G3 도약의 원년'으로 선포하고 10조원이 넘는 AI 예산을 배정한 것은 과학기술인의 한 사람으로서 가슴 벅찬 일이다.
그러나 이러한 정부의 강력한 의지가 실질적인 성과로 이어질지에 대해서는 기대보다 우려가 앞선다.
지난해 11월 미국 세인트루이스에서 열린 '슈퍼컴퓨팅 컨퍼런스(SC25)' 현장에서 목격한 전장의 변화는 우리의 준비가 과연 올바른 방향으로 가고 있는지 심각한 의문을 던졌기 때문이다.
글로벌 AI 전쟁의 양상은 급변했다. 엔비디아를 비롯한 선도 기업들은 더 이상 거대하고 비효율적인 중앙집중형 데이터센터만을 고집하지 않는다. 그들은 '온디바이스 AI'와 '피지컬 AI'로 전선을 넓히고 있다.
특히 500만원대의 개인용 AI 슈퍼컴퓨터 'DGX 스파크'의 등장은 충격적이었다. 128GB의 통합 메모리를 갖춘 이 장비는 연구자들이 값비싼 H100 클라우드 인스턴스를 빌리지 않고도, 자신의 책상 위에서 700억 파라미터 규모의 거대언어모델(LLM)을 보안 걱정 없이 미세조정하고 실험할 수 있게 해준다.
이는 단순한 하드웨어의 진보가 아니다. 연구의 주권이 거대 플랫폼 기업에서 개별 연구자로 넘어오는, '임대'에서 '소유'로의 혁명적 전환이다.
반면 우리의 현실은 어떠한가?
'국가 AI 심장'이라 불리던 광주 데이터센터는 운영 예산 부족으로 가동률이 50% 수준으로 곤두박질쳤다. 수천억원짜리 최첨단 장비를 사놓고 전기료가 없어 끄는 촌극은 우리 관료 사회의 뿌리 깊은 '하드웨어 만능주의'와 '건설 중심 사고'가 낳은 참사다.
우리는 여전히 눈에 보이는 건물과 센터 건립(CAPEX)에는 열을 올리면서도, 정작 이를 가동할 전기료와 운영비(OPEX)는 삭감하는 기형적인 예산 구조를 고수하고 있다. 이는 기동성이 생명인 현대전에서 연료 없는 탱크를 벙커에 모셔두는 것과 다름없는 패착이다.
2026년 예산은 달라야 한다. 미 해군의 '분산된 치명성' 전략을 배워야 한다. 거대한 표적이 되는 항공모함 한척 대신, 수천대의 날렵한 드론을 띄워 적을 교란하고 타격해야 한다.
첫째, 예산의 단 0.5%만 떼어내 '만개의 불꽃' 프로젝트를 시작하자. 1만대의 개인용 슈퍼컴퓨터를 전국의 대학 연구실과 스타트업에 무상으로 보급하자. 이것은 단순한 물자 지원이 아니다. 연구자들이 클라우드 접속 대기열에서 해방돼, 밤새도록 실패하고 도전할 수 있는 '연구의 자유'를 주는 것이다.
둘째, '피지컬 AI'에 집중하자. 우리는 미국보다 LLM 원천 기술은 부족할지 모르나, 세계 최고의 제조업 데이터를 가지고 있다.
울산의 자동차, 거제의 조선, 평택의 반도체 라인은 그 자체가 거대한 데이터 광산이다. 이 현장에 분산된 엣지 AI 장비를 심어, 실시간 데이터를 학습하고 실물 경제를 혁신하는 'K피지컬 AI' 생태계를 만들어야 한다.
전쟁의 승패는 신속함에 있다. 정책 입안자들은 화려한 준공식 사진을 포기하고, 대신 1만명의 연구자 책상 위에서 밤새도록 돌아가는 1만대의 냉각 팬 소리를 선택해야 한다. 그 치열한 소리야말로 우리가 진정한 AI G3로 가는 유일한 신호음이다.
김태완 서울대 교수·LLM 코어 AI 대표 taewan@snu.ac.kr