인공지능(AI) 반도체가 신경망처리장치(NPU) 중심 구조를 넘어 프로세싱인메모리(PIM)와 뉴로모픽 반도체로 진화할 것이라는 전망이 나왔다.
유회준 한국과학기술원(KAIST) 교수는 15일 서울 중구 프레스센터에서 열린 한국IT리더스포럼 9월 정기조찬회에서 에이전틱 AI와 피지컬 AI 확산에 따라 각 영역에 특화된 반도체 수요가 커지고 있다고 진단했다.
에이전틱 AI는 기존 챗봇처럼 질문에 단순 응답하는 데 그치지 않는다. 목표를 바탕으로 계획을 세우고, 판단한 뒤 필요한 도구를 활용해 실제 행동으로 옮기고, 결과를 다시 반영하는 과정을 반복한다. 거대언어모델(LLM)에서 추론·계획·도구 사용으로 AI의 자율성이 높아지는 구조다.
유 교수는 “이 과정에서 요구되는 연산도 복잡해진다”며 “에이전틱 AI는 단계적으로 문제를 푸는 '생각의 사슬(CoT)'이나 추론 단계에서 연산량을 늘려 답의 질을 높이는 '테스트타임 스케일링(TTS)'을 활용하고, 검색증강생성(RAG)을 통해 외부 정보를 찾아 활용한다”고 설명했다.
이러한 흐름에 맞춰 KAIST는 2025년 에이전틱 AI 특화 반도체로 모바일 소셜 AI용 '브로카(BROCA)'와 올해 개인화 AI용 '소울메이트(SoulMate)'를 개발했다. 브로카는 대화 맥락과 감정을 반영한 응답을 생성하고, 소울메이트는 사용자 데이터와 피드백을 바탕으로 AI를 개인화한다.
유 교수는 “생성형 AI뿐만 아니라 온디바이스 에이전틱 AI, 현실 세계에서 인지·판단·행동하는 피지컬 AI, 사람과 지속 상호작용하는 소셜 AI까지 처리해야 할 영역이 넓어지고 있다”며 “AI의 진화에 맞춰 반도체 역시 단순 연산 가속기에서 학습·추론·적응을 통합하는 방향으로 변화할 것”이라고 내다봤다.
칩 역시 NPU에서 PIM(지능형 반도체), 뉴로모픽 구조(인간 두뇌 구조 모방)로 진화할 것이라는 전망이 나왔다. PIM은 메모리반도체와 인공지능 프로세서를 하나로 합친 칩이다. 데이터 병목을 해소하고 전력 소모를 크게 낮추는 게 특징이다.
유 교수는 “미국은 거대한 데이터센터와 모델 규모로 밀어붙이는 물량전을, 중국은 알고리즘 최적화로 승부하는 변칙전을 벌이고 있다”고 말했다.
이어 “우리나라는 소프트웨어와 하드웨어를 공동 최적화하는 정밀 과학전으로 대응해야 한다”며 “이것이 AI 분야에서 한국이 강점을 가질 수 있는 전략”이라고 강조했다.
박유민 기자 newmin@etnews.com
