인공지능(AI)의 패러다임이 빠르게 바뀌고 있어요. 과거 AI가 사용자의 질문에 답하는 도구였다면, 이제는 스스로 목표를 이해하고 여러 작업을 수행하는 'AI 에이전트' 시대로 넘어가고 있죠.
AI 에이전트는 단순히 정보를 제공하는 수준을 넘어, 사용자의 목적에 맞춰 필요한 자료를 찾고 여러 프로그램과 연동해 업무를 직접 처리하는 역할까지 수행해요.
기업에서는 AI 에이전트가 데이터를 분석하고 보고서를 작성하거나, 개발 작업을 돕고 디자인 업무를 지원하는 등 다양한 분야에서 활용될 수 있어요.
하지만 AI 에이전트를 실제 업무에 활용하려면 해결해야 할 과제가 있어요. 바로 대규모 AI 모델을 처리하는 강력한 컴퓨팅 성능과 안전한 운영 환경이에요.
엔비디아는 이런 변화에 맞춰 윈도 환경에서 AI를 개발하고 실행할 수 있는 '윈도용 DGX Station(DGX Station for Windows)'을 최근 공개했어요.
왜 윈도 기반 AI 슈퍼컴퓨터가 필요할까?
지금까지 기업용 AI 개발과 운영은 주로 리눅스 기반의 강력한 데이터센터에서 진행됐어요.
AI 모델을 학습시키거나 기존 모델을 기업 환경에 맞게 조정하는 파인튜닝, 대규모 AI 추론 작업 등에는 높은 연산 능력이 필요하기 때문이에요.
반면 실제 기업의 업무 환경은 조금 달라요.
대부분의 기업 직원들은 윈도 운용체계(OS)에서 문서 작성, 디자인, 설계, 연구 업무를 진행하고 있어요. AI 개발 환경과 실제 업무 환경 사이에 차이가 있었던 거죠.
DGX Station은 바로 이 차이를 줄이는 장비예요. 윈도 환경 안에서 고성능 AI 모델을 개발하고, 기업이 사용하는 애플리케이션과 AI 에이전트를 직접 연결할 수 있도록 설계됐어요.
데이터센터에만 있던 AI 컴퓨팅 능력을 기업 사무실 책상 위로 가져온 AI 슈퍼컴퓨터인 거죠.
1조 개 파라미터 AI 모델도 실행하는 성능
DGX Station의 핵심은 강력한 하드웨어예요.
이 장비에는 엔비디아의 GB300 그레이스 블랙웰 울트라 데스크톱 슈퍼칩(Grace Blackwell Ultra Desktop Superchip)이 탑재됐어요.
이 칩은 고성능 AI 연산을 담당하는 블랙웰 울트라(Blackwell Ultra) GPU와 72코어 그레이스(Grace) CPU를 연결한 구조예요. 두 프로세서는 NVLink-C2C라는 연결 기술을 통해 빠르게 데이터를 주고받아요.
또 최대 748GB의 통합 메모리와 FP4 연산 기준 최대 20페타플롭스의 AI 성능을 제공해요.
이 성능을 활용하면 최대 1조 개의 파라미터를 가진 대형 AI 모델도 로컬 환경에서 실행할 수 있어요.
파라미터는 AI가 학습하면서 정보를 저장하고 판단하는 데 사용하는 수많은 값이에요. 일반적으로 파라미터가 많을수록 AI가 더 다양한 정보를 처리하고 복잡한 작업을 수행하는 데 도움이 되지만, 그만큼 높은 컴퓨팅 성능이 필요하답니다.
여러 AI 에이전트가 함께 일하는 시대
앞으로 기업에서 사용하는 AI는 하나가 모든 일을 도맡는 형태가 아닐 가능성이 커요.
각각의 역할을 가진 여러 AI 에이전트가 함께 움직이는 방식으로 발전하고 있어요.
한 AI 에이전트는 자료를 분석하고, 다른 에이전트는 문서를 작성하고, 또 다른 에이전트는 설계를 돕는 식으로 전문 역할을 나눠 협업하는 형태죠.
DGX Station은 이런 '멀티 에이전트' 환경을 구축하고 운영할 수 있는 기반을 제공해요.
기업은 여러 개의 AI 에이전트를 동시에 실행하면서 업무 시스템과 연결할 수 있어요.
개발자는 AI 모델을 만들고 개선할 수 있고, 디자이너와 엔지니어는 자신이 사용하는 설계 프로그램 안에서 AI 도움을 받을 수 있어요.
AI 에이전트를 위한 안전한 운영 환경
AI 에이전트가 업무를 수행하려면 다양한 데이터와 프로그램에 접근해야 해요.
AI 에이전트에게 너무 많은 접근 권한이 부여되면 보안 문제가 발생할 수 있어요. 중요한 자료가 유출되거나, 허용되지 않은 작업을 수행할 가능성도 있기 때문이죠.
엔비디아는 이런 문제를 해결하기 위해 오픈셸(OpenShell)이라는 AI 에이전트 전용 보안 실행 환경을 지원하고 있어요.
오픈셸은 각 AI 에이전트마다 독립된 '샌드박스' 환경을 만드는 기술이에요. 에이전트가 접근할 수 있는 데이터와 수행할 수 있는 작업 범위를 미리 정해 두고, 그 밖으로는 나갈 수 없도록 안전한 울타리를 치는 개념이라고 볼 수 있어요. 또 시스템 관리자가 정한 보안 정책을 AI가 임의로 변경하거나 우회하지 못하도록 관리해요.
AI가 똑똑해질수록 중요한 것은 성능 향상뿐 아니라, 안전하게 통제하며 활용하는 능력이에요.
AI 개발부터 피지컬 AI까지
DGX Station은 다양한 기업 업무에 활용될 수 있어요.
개발자는 윈도 환경에서 대형 AI 모델을 학습하고 개선할 수 있어요. 필요하면 Windows Subsystem for Linux를 통해 기존 리눅스 기반 AI 개발 도구도 사용할 수 있죠.
데이터 과학자는 최대 748GB 메모리를 기반으로 대규모 데이터를 처리하고 분석할 수 있어요.
여기에 더해, AI를 실제 물리 세계와 연결하는 '피지컬 AI' 영역에서도 중요한 역할을 할 수 있어요.
로봇이나 자율 시스템이 가상 환경에서 상황을 학습하고 실제 세계와 연결되는 기술 개발에도 도움을 줄 수 있답니다.
앞으로 기업 경쟁력은 AI 기술 자체뿐 아니라, AI를 안전하고 효율적으로 활용하는 역량에 따라 달라질 거예요.
최성훈 기자 csh87@etnews.com