기존 암호체계가 무력화되는 이른바 'Q-데이(Q-Day)'의 도래 시점이 앞당겨질 것이란 전망이 나온다. 고성능 양자컴퓨터 개발이 빨라지는 데다, 오류정정과 연산 설계 개선으로 암호 해독에 필요한 큐비트 수를 줄일 수 있다는 연구가 있따르고 있어서다.
◇암호 해독 큐비트 급감
과거에는 기존 암호체계를 해독하려면 수백만개의 물리 큐비트가 필요할 것으로 예상됐다. 양자 위협이 먼 미래의 일로 여겨진 이유다.
하지만 최근에는 암호해독에 필요한 큐비트 수를 크게 낮출 수 있다는 연구가 잇따르고 있다.
호주 양자컴퓨팅 스타트업 아이스버그 퀀텀은 지난 2월 '피너클 아키텍처'를 공개했다. 기존 오류정정 방식은 논리 큐비트 하나를 만들 때 많은 물리 큐비트를 따로 묶어야 했다. 피너클은 같은 물리 큐비트 묶음에 여러 논리 큐비트를 담아 RSA-2048 해독에 필요한 물리 큐비트를 기존 약 100만개에서 10만개 미만으로 줄일 수 있다고 추산했다.
미국 캘리포니아공과대와 양자컴퓨팅 스타트업 오라토믹 연구진은 지난 3월 약 1만개의 '재구성 가능한 중성원자 큐비트'로 암호 해독 규모의 쇼어 알고리즘을 실행할 수 있다는 설계를 공개했다. 원자 위치를 계산에 맞춰 바꾸는 구조에 고효율 오류정정 기술과 최적화된 연산 회로를 결합해 필요한 물리 큐비트 수를 줄였다.
구글 퀀텀 인공지능 연구진은 같은 달 비트코인 등에 쓰이는 ECC(secp256k1 규격)의 해독 회로를 단순화했다. 필요한 논리 큐비트를 1200~1450개로 낮추고, 오류정정용 큐비트까지 포함한 물리 큐비트 규모도 50만개 미만으로 줄일 수 있다고 분석했다. 기존 추정치의 약 20분의 1 수준이다.
◇현 암호체계 붕괴 우려
고성능 양자컴퓨터의 등장이 가까워지면서 기대와 우려가 교차하고 있다. 신약·신소재 개발과 금융 최적화, 기후·우주 시뮬레이션처럼 기존 컴퓨터로 풀기 어려운 문제를 해결할 수 있지만, 디지털 사회의 신뢰 기반인 공개키 암호도 무력화할 수 있어서다.
금융·행정·전자상거래에는 알에스에이(RSA)와 타원곡선암호(ECC)가 널리 쓰인다. 공개키는 외부에 공개하고 비밀키는 소유자만 보관해 상대방의 신원을 확인하고 전자서명을 검증하는 방식이다. RSA는 큰 수의 소인수분해, ECC는 공개된 값에서 비밀값을 역산하는 이산로그 문제의 난도를 보안 기반으로 삼는다.
기존 컴퓨터로는 이러한 수학 문제를 현실적인 시간 내 풀기 어렵다. 하지만 양자컴퓨터용 '쇼어 알고리즘'은 이를 훨씬 효율적으로 계산할 수 있다. 충분한 성능의 양자컴퓨터가 등장하면 공개키만으로 비밀키를 알아내 전자서명을 위조하고 이용자나 서비스 회사를 사칭할 수 있다는 의미다.
모든 암호가 같은 방식으로 무너지는 것은 아니다. 실제 데이터를 잠그는 대칭키 암호는 키 길이를 늘려 대응할 수 있다.
문제는 수많은 불특정 사용자를 보유한 서비스에서는 사전에 암호키를 대면 배포하는 것이 사실상 불가능해 RSA나 ECC 같은 공개키 암호로 대칭키를 교환할 수밖에 없다는 점이다.
가정 우려되는 건 과거에 수집한 암호문을 미래의 양자컴퓨터로 해독하는 '선수집·후해독(HNDL)' 공격이다. 유효기간이 3년인 금융 거래 인증서에 대한 해킹 우려도 바로 이 때문에 제기되는 것이다.
◇해외 선제 대응…국내도 속도
금융은 PQC 전환에 가장 빠르게 대응하는 분야로 꼽힌다. 인증서와 전자서명, 기관 간 통신 등 거래 전반이 공개키 암호에 의존하고, 침해 시 허위 결제와 자금 탈취로 이어질 수 있어서다.
마스터카드는 미국 국립표준기술연구소(NIST)가 PQC 표준을 확정하기 3년 전인 2021년부터 양자 보안·통신 프로젝트를 추진했다. 결제망의 양자 취약 암호를 파악하고 PQC 전환에 필요한 시스템 구조와 네트워크 운영 방식을 검토했다.
인프라 도입과 실증도 이어졌다. 이탈리아 인테사 산파올로는 2023년 양자안전 암호 기능을 지원하는 IBM 메인프레임 'z16' 도입을 결정했다. 영국 HSBC는 2024년 실물 금의 소유권을 나타내는 디지털 토큰을 다른 전자지갑으로 옮기는 과정에 PQC를 시험 적용했다.
JP모간체이스는 2024년 두 데이터센터 사이에서 암호키를 안전하게 주고받는 양자키분배(QKD) 통신망을 구축했고, 이듬해 여러 참여자가 함께 서명해야 거래를 승인할 수 있는 양자내성 전자서명 기술을 공개했다.
국내 금융권도 PQC 전환에 속도를 내고 있다. 미래에셋증권, 메리츠증권, KB은행, Sh수협은행, 빗썸은 PQC 인증체계 도입을 위해 아톤과 협력하고 있다. KDB생명보험도 라온시큐어의 PQC 솔루션 도입을결정했다.
이창민 고려대 스마트보안학부 교수는 “양자컴퓨터가 실제 공격에 활용될 시점은 불확실하지만, 금융은 사고가 나면 피해 규모가 큰 만큼 보수적으로 접근해야 한다”며 “PQC 전환도 다른 분야보다 조금 더 빨리 움직일 필요가 있다”고 말했다.
박진형 기자 jin@etnews.com
