정부가 'AI 3대 강국'을 선언했지만, 그 성패는 중소기업의 AI 확산 여부에 달려 있다는 지적이 커지고 있다. 중소기업은 국내 제조기업의 97%를 차지하는 산업의 근간이자, 한국 제조업 경쟁력을 떠받치는 핵심 축이다. 대기업 중심의 AI 혁신만으로는 산업 전반의 생산성과 경쟁력을 끌어올리는 데 분명한 한계가 있다. 그럼에도 불구하고 중소 제조 현장에서 AI는 여전히 '그림의 떡'에 머물러 있다.
중소벤처기업부에 따르면 국내 중소 제조기업의 AI 도입률은 1% 안팎에 불과하다. AI 기술이 산업 전반의 게임체인저로 부상했지만, 현장 확산 속도는 기대에 크게 못 미친다. 전문가들은 “중소기업 AI 확산 없이는 AI 강국도 공염불에 그칠 수밖에 없다”며, 우선 과제로 인식 전환과 단계적 도입, AI PoC 예산화, 현장형 인력 육성 등을 제시했다.
◇ 중소제조 AX 전환, 출발점은 '인식 전환'
중소기업 AI 확산의 첫 관문은 '인식'이다. 중소기업중앙회가 2024년 말 실시한 '중소기업 인공지능 활용의향 실태조사'에 따르면, 중소기업의 94.7%는 AI를 도입하지 않고 있으며, 그 이유로 80.7%가 “사업에 AI가 필요하지 않다”고 답했다. 향후 AI 도입 계획이 없다는 응답도 83.7%에 달했다.

대한상공회의소가 국내 504개 제조기업을 대상으로 조사한 보고서에서도 응답기업의 82.3%가 'AI를 경영에 활용하지 않고 있다'고 답했다. 특히 대기업(49.2%)보다 중소기업의 활용도(4.2%)가 크게 떨어지는 것으로 나타났으며 도입 계획도 저조했다. 기술이나 비용 문제 이전에 'AI가 우리 사업에 어떤 도움이 되는가'에 대한 체감 부족이 가장 큰 장벽으로 작용하고 있는 셈이다.
전문가들은 AI의 필요성을 구호로 설명하는 방식에서 벗어나야 한다고 지적한다. 불량률 감소, 품질 안정화, 납기 단축, 매출 개선 등 눈에 보이는 성과를 직접 경험하게 할 때 인식 전환이 가능하다는 것이다.
실제 스마트공장을 도입한 중소기업 가운데 생산성과 품질 개선 효과를 체감한 기업일수록 공정 고도화와 AI 도입에 적극 나서는 것으로 나타났다. 중소기업중앙회의 '스마트공장 구축 중소기업의 AI 도입에 대한 의견조사' 결과, 응답 기업의 47.4%는 “제조 공정에 AI 도입이 (매우) 필요하다”고 답했다. AI 도입이 가장 필요한 분야로는 △품질관리 △생산 최적화 △공정 자동화 순으로, 생산 현장의 효율성과 품질 향상에 대한 요구가 두드러졌다.
◇ “작게 시작해 검증하고, 단계적으로 키워야”…AI PoC 예산화
중소기업의 AI 도입을 가로막는 가장 큰 장벽은 초기 비용이다. 대한상공회의소와 중소기업중앙회 조사 모두에서 기업들은 AI 도입의 가장 큰 어려움으로 '초기 비용 부담' 꼽았다. 실제 이미 스마크공장을 도입한 기업을 대상으로 AI기반 고도화 투자 의향을 묻는 질문에 '1억원 이하'가 68.9%로 압도적이었다.

이 때문에 AI 도입 전략은 중소기업 현실에 맞게 설계돼야 한다는 지적이 나온다. 임성훈 고려대학교 교수는 “AI는 대기업만의 전유 기술이라는 선입견부터 해소해야 한다”며 “중소기업에는 대규모 일괄 투자가 아니라 단계적이고 검증 가능한 접근이 필요하다”고 강조했다.
임 교수는 해법으로 '작은 단위의 PoC(개념검증)'를 제시했다. 소규모 PoC 프로젝트를 통해 성과를 수치로 입증하고, 이를 바탕으로 '파일럿(소규모 확산) → 스케일업(전사 적용) → 수출 연계'로 이어지는 4단계 지원 체계를 구축해야 한다는 것이다. 그는 “검증되지 않은 상태에서의 대규모 투자는 중소기업에 과도한 리스크가 된다”며 “정부 지원 역시 이러한 단계적 전환을 전제로 설계돼야 한다”고 말했다.
다만 현장에서는 '무상 PoC' 관행이 또 다른 문제로 지적된다. AI는 실제 데이터를 적용해보기 전까지 성능을 판단하기 어려운 기술임에도, 수요기업은 비용 부담을 이유로 무상 검증을 요구하고, 공급기업은 GPU와 인프라 비용을 떠안는 구조가 반복되고 있다. 이로 인해 기술력 있는 AI 기업은 시장 진입을 꺼리고, 중소기업은 적합한 솔루션을 찾지 못하는 악순환이 이어진다.
신장호 아이티센엔텍 대표는 “중소기업이 AI를 도입하려 할 때 정부가 PoC 바우처를 지원해 초기 리스크를 낮춰야 한다”며 “제값을 받고 테스트할 수 있는 구조를 만들지 못하면 AI 확산은 시작조차 어렵다”고 말했다.
◇ AX의 병목은 결국 '사람'…현장형 인재가 없다
AI 전환의 또 다른 병목은 인력이다. 중소기업의 AI 활용은 외부 용역이나 단발성 프로젝트에 그치는 경우가 많고, 내부에 이를 운영·개선할 인력이 없는 구조다.
백성욱 하이테커 대표는 “기업 내부에 자사 데이터와 업무를 이해하며 AI 전환을 책임질 실무자가 없다”며 “중소기업에 'AI 매니저' 인력을 육성하는 것은 국가 AI 경쟁력 확보를 위한 필수 요건”이라고 강조했다.
구조적 한계도 분명하다. 과학기술정보통신부와 KISTEP의 연구개발활동조사에 따르면 전국 연구원의 66.9%가 수도권에 집중돼 있어, 지역 중소기업은 AI·R&D 인력 확보 자체가 불리한 환경에 놓여 있다.
김범진 타이거컴퍼니 대표는 “AX의 성패는 고급 R&D 인력 확보에 달려 있지만, 연구인력의 수도권 편중은 구조적 제약”이라며 “지역 중소기업에 근무하는 박사급 인력에 대한 근로소득세액공제 등 혜택과 함께, AX 정책과 연계한 '지역 정착형 고급 인력 인센티브' 제도가 필요하다”고 말했다.
아울러 전문가들은 중소기업 AI 경쟁력의 핵심 과제로 'AI 전문 기술기업·공급기업 육성'을 꼽았다. 임 교수는 “중소기업이 자체적으로 모든 AI 역량을 갖추기는 어렵다”며 “정부가 역량 있는 AI 전문 기업을 육성하고, 이들과 중소기업이 선순환적으로 협력하는 AI 생태계를 조성하는 것이 무엇보다 중요하다”고 강조했다.
성현희 기자 sunghh@etnews.com