초거대 AI는 미국과 중국의 빅테크 기업이 선도하고 있다. 구글, 화웨이, 마이크로소프트 등이 대표적이다.
초거대 AI가 처음 탄생한 것은 2018년이다. 미국 AI 연구소인 오픈AI가 처음으로 초거대 AI인 GPT-1을 선보였다. 오픈AI는 일론 머스크 테슬라 최고경영자(CEO)가 주도해 설립했다.
GPT-1은 1억1700만개의 파라미터로 학습하는 초거대 AI다. 이후 파라미터 수가 1000배 이상 늘어난 GPT-3가 개발되는 등 기술 발전이 빠르게 진행되고 있다.
구글도 초거대 AI 분야에 막대한 투자를 이어가고 있다. 구글은 연례 개발자 행사에서 초거대 AI를 기반으로 탄생한 대화형 AI인 '람다'를 시연했다. 람다는 언어와 문맥을 이해하고 대화까지 가능한 AI다. 사람처럼 복잡한 대화까지 가능하다.
마이크로소프트(MS)는 오픈AI가 조성하는 1억달러 스타트업 펀드 조성에 참여했다. GPT-3를 활용해 스타트업이 혁신 응용 서비스를 선보이도록 지원하기 위해서다.
MS는 초거대 AI 기술을 활용해 최대 1조개의 매개 변수를 수용하는 모델을 효율적으로 학습시키는 오픈소스 딥스피드(DeepSpeed)도 업그레이드했다. 이 기술은 기존 컴퓨팅 시스템보다 더 적은 그래픽칩을 사용하도록 진화했다.
아마존도 초거대 AI를 자사 서비스와 제품에 응용하기 위해 기술 개발을 이어가고 있다.
중국도 초거대 AI 기술 확보에 적극이다. 화웨이는 오픈AI의 GPT-3를 넘는 최대 2000억개의 매개 변수를 포함하는 대규모 자연어처리(NLP) 모델 '판구 알파(PanGu Alpha)'를 개발했다. 중국 대표 AI 기술기업인 센스타임도 초거대 AI 분야에서 차별화한 경쟁력을 과시하고 있다.
박소라기자 srpark@etnews.com
