SKT 독파모 2차 모델은 '일하는 AI'…산업 현장서 실증

김태윤 SK텔레콤 파운데이션모델담당
김태윤 SK텔레콤 파운데이션모델담당

SK텔레콤이 독자 인공지능(AI) 파운데이션 모델 'A.X K2'를 공개하고 제조·국방·바이오 등 산업 현장 공략에 나선다. 질문에 답하는 수준을 넘어 스스로 계획하고 과업을 수행하는 '에이전틱 AI'를 구현해 소버린 AI 주도권을 확보하겠다는 구상이다.

김태윤 SK텔레콤 파운데이션모델 담당은 4일 뉴스룸 사내 인터뷰에서 “A.X K2의 가장 큰 변화는 답하는 AI에서 스스로 계획하고 실행하는 AI로 무게중심을 옮긴 것”이라며 “에이전틱 시대에 맞춰 추론 능력을 강화했다”고 말했다.

A.X K2는 6880억개(688B) 매개변수를 갖춘 거대언어모델(LLM)이다. 국내외 14개 벤치마크 평균 성능이 전작 A.X K1 대비 32.2%포인트(p), 장문 이해·에이전트 평가는 83.9%p 향상됐다.

초고난도 수학 벤치마크 'Apex' 점수는 1.0에서 45.8로 올랐고, 한국어 지식 평가 KMMLU-Pro는 80.5, 한국 문화 이해 평가 CLIcK은 91.6를 기록했다. 에이전트 도구 사용 능력을 측정하는 τ²-Bench Telecom에서는 오픈웨이트 모델 가운데 1위에 올랐다.

모델 규모는 키웠지만 추론시 실제 활성화되는 매개변수는 33B로 유지해 비용 증가를 억제했다. 자체 개발한 SGA 어텐션 구조 적용으로 120K 입력 기준 토큰 처리량은 A.X K1 대비 67.7% 개선됐다.

해외 오픈소스 모델과 비교해 한국어 및 국내 산업 환경에 최적화된 성능, 데이터 주권·보안 등이 강점으로 꼽힌다. SK텔레콤은 A.X K2를 허깅페이스에 아파치 2.0 라이선스로 공개하고 API도 제공할 예정이다.

김 담당은 “우수한 데이터 품질과 독자 아키텍처, 정교한 사후학습이 복합적으로 작용한 결과”라며 “국내 기업·공공기관이 안심하고 활용할 수 있는 소버린 AI를 구현하는 것이 목표”라고 밝혔다.

SK텔레콤은 비전언어모델(VLM)과 오디오 음성 모델도 함께 선보여 산업 현장에서 필요한 멀티모달 AI를 구현한다는 계획이다.

산업 현장 실증도 진행 중이다. 철강기업 KG스틸, 자동차부품기업 코넥과 불량 원인을 파악하고 조치 방법을 안내하는 제조 특화 AI 에이전트를 개발하고, SK하이닉스 사내 AI 서비스 'LLM Chat'에는 경량 모델을 연동했다.

국방 분야도 공략한다. 방부에는 A.X K1을 FP8·FP4·INT4 등 형태로 양자화해 공급했으며 A.X K2도A.X K2도 온프레미스 기반 폐쇄망 환경에서 제공할 계획이다. 민감한 데이터는 외부 학습에 활용하지 않고 기관 내부에서만 학습하도록 해 보안성을 확보했다.

SK텔레콤은 후속 모델을 조 단위 매개변수 규모로 확장한다는 목표다. 정부가 지원하는 그래픽처리장치(GPU) 인프라에 자체 투자를 더해 에이전틱 강화학습과 보안 역량을 고도화한다. 서울대, KAIST, 크래프톤 등과 차세대 아키텍처 연구도 병행한다.

김 담당은 “A.X K2는 한국이 설계부터 학습까지 자체 기술로 개발한 AI 모델이 글로벌 최고 수준에 도달할 수 있다는 가능성을 보여준 사례”라며 “개방과 협력으로 국내 AI 생태계의 기반을 만들고 산업 현장과 국민이 체감할 수 있는 AI 서비스를 확대해 나가겠다”고 말했다.

박준호 기자 junho@etnews.com

  • ET Events