[KAIST AI를 선도한다-탑] AI, 스스로 해킹 공격·방어... 사이버 공간 AI 전쟁 격화

글자 작게 글자 크게 인쇄하기

사이버 공간은 단순히 정보와 편의를 제공하는 곳이 아니다. 좋고 나쁜 요소가 함께 존재한다. 온갖 범죄와 해커집단 간 전쟁과 같은 부정적 모습도 늘어나고 있다. 2010년 독일의 핵시설과 산업 기반시설을 공격한 '스턱스넷', 최근 기승을 부린 랜섬웨어 '워너크라이'가 대표 사례다.

AI 기술의 발전은 이런 부정적 현상이 확대되는 기폭제가 된다. 그동안 해커가 하던 '사이버전'을 인공지능(AI)이 대신 수행하게 된다. 정부, 기관, 기업의 사이버 영토를 AI가 자동 공격·방어한다. 범죄현장과 전장은 무한히 확장된다. 그동안에는 소수의 해커만이 싸움에 나섰다면 앞으로는 누구나 AI를 이용해 사이버전을 벌일 수 있다. 대규모 사이버전에 대비해 AI를 이용한 공격·방어 기술을 개발하지 못하면 외부 위협을 감당하지 못하게 된다.

지난해 8월 미국 국방부는 사상 처음으로 AI 사이버전을 다룬 '사이버 그랜드 챌린지(CGC)' 대회를 개최했다. 총 상금 규모 42억원, 대회 진행 장비에만 10억원을 투자한 대형 행사였다. AI 분야에서 막강한 영향력을 행사하는 7개 대학·기업 팀이 참여해 사이버전 역량을 선보였다. 당시 대회 모습은 3D로 세계에 중계될 만큼 큰 인기를 끌었다. 우승은 카네기멜론대에 돌아갔다. 지금은 스타트업을 창업한 '포 올 시큐어' 팀이 자체 개발한 AI '메이헴'을 이용해 우승했다.

지난해 미국 국방부가 개최한 AI 사이버전 대회 '사이버 그랜드 챌린지(CGC)' 의 모습. 7개 대학·기업 팀이 참여해 '메이헴'이 우승을 거뒀다.
<지난해 미국 국방부가 개최한 AI 사이버전 대회 '사이버 그랜드 챌린지(CGC)' 의 모습. 7개 대학·기업 팀이 참여해 '메이헴'이 우승을 거뒀다.>

메이헴은 이후 인간 해커팀과도 자웅을 겨뤘다. 같은 해 세계 최고 해킹대회인 '데프콘'에 참가해 14개 인간 해커팀과 경쟁했다. 전체 점수는 15등으로 최하위에 그쳤지만, 14위 팀과 아주 근소한 차이만을 보였다. AI 사이버전 능력이 세계 최고 수준 해커팀을 따라잡을 수 있는 가능성을 보인 것이다.

KAIST(총장 신성철)는 올해부터 AI로 사이버전을 수행하는 기술을 10대 연구 혁신 추진과제에 포함시켰다. AI를 사이버 보안 기술에 적용해, 인간의 개입 없이 자동으로 공격과 방어를 할 수 있는 체계를 만들기 위해서다. 제4차 산업혁명 시대에 들어서 사이버 공간의 중요성이 확대되면 AI 사이버전 기술 중요성도 커진다는 판단이다.

차상길 전산학부 교수는 사이버전 AI 관련 연구를 하고 있다. 차 교수는 사이버전 AI 메이헴의 핵심 엔진을 개발한 주인공이다. 카네기멜론대 박사과정 재학 중에 관련 논문 제1저자로 참여했다. 이 경험을 토대로 KAIST에서 더욱 강력한 사이버전 AI를 개발하고 있다.

차 교수가 이끄는 연구팀은 현재 '바이너리코드(이진숫자로 구성된 기계어 코드)' 분석 정확도와 속도를 높이는 연구를 하고 있다. 바이너리코드 분석은 사이버전 AI의 핵심 기반기술이다. 인간이 이해하기 어려운 코드를 정형화된 의미(시맨틱)를 갖는 '중간 언어'로 변환해 공격 가능 여부를 파악할 수 있게 한다.

CGC 우승에 이어 인간 해커팀과도 대결을 펼친 메이헴
<CGC 우승에 이어 인간 해커팀과도 대결을 펼친 메이헴>

연구팀이 개발 중인 기술은 기존의 것보다 더 많은 바이너리 코드의 의미를 파악할 수 있다. 메이헴 개발진의 것보다 40% 이상 바이너리 명령어를 다룰 수 있고, 정확도도 높다. 바이너리 코드 분석에 쓰이는 '기호실행' '퍼징' 요소기술을 융합한 결과다.

기호실행은 프로그램 안에 존재하는 모든 정보에 도달할 수 있도록 '경로식'을 만드는 기법이다. 코드 안에서 접근가능, 불가능 영역을 구분해 더 쉽게 취약점을 찾을 수 있도록 한다. 퍼징은 프로그램에 무작위 정보를 연속적으로 대입해 정보를 얻는 기법이다.

연구팀은 기호실행 기법으로 접근 가능한 위치를 한정한 뒤, 퍼징 기법을 적용하는 방법으로 취약점 탐색을 효율화했다. 앞으로는 이 기반기술로 메이헴보다 성능이 좋은 사이버전 AI를 개발할 계획이다.

차 교수는 “AI의 사이버전 능력이 인간을 따라잡으면서 사이버 세상의 보안 위협도 커지고 있다”면서 “남들보다 먼저 고성능 사이버전 AI 기술을 개발해야 우리의 정보를 안전하게 보호할 수 있다”고 말했다.

KAIST 정보보호대학원 교수 및 학생들이 가상의 사이버전 상황을 연구하는 모습.
<KAIST 정보보호대학원 교수 및 학생들이 가상의 사이버전 상황을 연구하는 모습.>

KAIST는 사이버전이 격화된 이후에도 충분히 활용할 수 있는 방어기술도 개발하고 있다.

강병훈 정보보호대학원 책임교수(전산학부 교수)는 외부 환경과 분리된 신뢰 컴퓨팅 환경 구축 기술을 개발했다. 신뢰 컴퓨팅은 시스템의 중요 부분을 분리, 신뢰성을 높이는 솔루션 기술이다. 시스템 내부에 안전을 위한경계 지점을 설정하고, 내·외부 모든 경로에서 접근하지 못하도록 하는 방식이다. 메모리 등 시스템 요소를 논리적으로 분할하고, 물리적으로도 분리하는 방법을 동시에 적용한다. 외부의 공격이 이뤄지기 전부터 선제적으로 접근을 차단, 어떤 해킹 상황에서도 효과적으로 시스템을 보호한다.

이 기술은 이미 산업계에도 적용됐다. 지난해 말부터 생산되는 '삼성 스마트 TV'에 적용돼, 운영체제(OS) 및 시스템 보안을 책임지고 있다.

이주영 전산학부 교수는 양자컴퓨터가 개발된 후에도 사용할 수 있는 '양자컴퓨터 내성 암호화 기술'을 개발하고 있다. 양자컴퓨터는 양자를 연산 법칙으로 사용하기 때문에 기존의 보안 시스템을 손쉽게 무력화한다. 연산 속도가 워낙 빨라서 기존의 '소인수 분해' 기반 암호 체계는 쉽게 해독할 수 있다. AI를 통한 사이버전이 발전하는 것에도 중요한 영향을 끼칠 전망이다.

이 교수는 현재 많이 사용되는 '비밀키 암호' 알고리즘의 안전성을 분석·보완한다. 향후 AI 사이버전, 양자컴퓨터 사용이 활성화된 뒤에도 안전한 암호화 체계를 구축한다.

이 교수는 “양자컴퓨터와 AI 기술이 융합되면 지금 기술로는 상상할 수 없을 만큼 강력한 사이버전 기술이 만들어질 것”이라면서 “이를 대비한 암호체계 연구가 함께 이뤄져야 미래에 안정적으로 대응할 수 있다”고 말했다.


 

<국방기술품질원 평가 2015년 국별 사이버전 기술 수준, 단위:%>

국방기술품질원 평가 2015년 국별 사이버전 기술 수준, 단위:%

<사이버전 관련 주요 스타트업 및 세부기술 현황>

사이버전 관련 주요 스타트업 및 세부기술 현황

<2016 데프콘 대회 15개 팀 최종 점수, 단위:점>

2016 데프콘 대회 15개 팀 최종 점수, 단위:점

대전=김영준기자 kyj85@etnews.com