[보안뉴스= 김광조 KAIST 전산학부 정보보호대학원 교수] 21세기에 들어와 종래의 유·무선 정보 시스템에 클라우드 및 SNS 등의 새로운 정보 시스템이 보급되면서 사이버 공간상에 상호 의사 전달 및 연결 편리성이 증대된 반면, 이를 노린 공격과 보안위협은 점점 더 복잡화·지능화·조직화하고 있다.

현재 사용 중인 암호와 인증방식은 공격에 성공하면 일반적으로 안전성을 강화하기 위해 키의 크기 등과 같이 비도 변수를 단순 증가시키는 방법의 ‘사후약방문’식 대응기술로 대처하고 있다.
우리가 현재 전자상거래, 전자결제, 웹 보안 등에 사용되는 암호 시스템 중 전 세계에서 가장 널리 사용되는 공개키 암호 시스템인 DH(Diffie Hellman) 키 공유 방식과 RSA(Rivest, Shamir, Adlemann) 공개 키 시스템이다. 이 방식은 1970년대 중반에 설계돼 송·수신자 간의 보안통신에 요구되는 비밀 키의 안전한 전송, 전자문서의 디지털 서명, 개인 식별, 부인 방지 등을 목적으로 국가망, 국방망, 금융망 등 정보통신 전 분야에 걸쳐 널리 쓰이고 있다.
이러한 RSA 공개키 암호, DH 방식, 타원곡선 암호 등은 준지수적(sub-exponential) 계산시간이 소요되는 소인수분해 문제 또는 이산대수 문제에 암호학적 안전성의 근간을 두고 있다.
그러나 소인수분해 및 이산대수 알고리즘이 점점 개선되고 있다는 점과 컴퓨터 성능이 1년 반마다 2배씩 빨라진다는 무어의 법칙에 의한 디지털 컴퓨터 계산능력의 급속한 향상으로, 1991년에 330비트 정수의 소인수분해가, 2005년에는 660비트 정수의 소인수분해가 가능해졌다. 2018년에는 1,024비트 정수가 소인수분해가 가능해질 것으로 예측돼 현재 키의 크기가 2,048비트 이상인 정수를 사용해야 RSA의 암호학적 안전성을 보장 받을 수 있으로 보인다.
한편, 1984년 쇼어(Shor)는 이러한 ‘정수론 문제에 근간을 둔 공개키 암호방식’에 대해 양자컴퓨터를 사용할 수 있다는 가정 하에 ‘문제의 크기에 관계없이 빠른 시간 내에 소인수분해 및 이산대수 문제를 해결할 수 있는’ 알고리즘을 제시했다.

▲캐나다 D-Wave사에서 제작한 512 qubit 양자컴퓨터
당시에는 양자컴퓨터의 구현이 어려워 쇼어의 주장은 이론적인 연구에 불과했다. 그러나 2014년 캐나다의 D-Wave 사는 위 그림과 같이 세계 최초로 512 qubit 양자컴퓨터를 제작해 Google, NASA 등에 판매했다. 양자컴퓨터의 상용화가 거의 목전에 다가와 있는 것이다. 혹자는 양자컴퓨터의 상용화는 향후 15년간 수십억 불을 투자하면 가능할 것이라 예측하고 있다.
이러한 양자컴퓨터가 현실화되어 쇼어 알고리즘을 이용해 RSA 공개키, DH 키 분배 방식 및 타원 곡선 암호 시스템 등이 손쉽게 해독된다면 현재 널리 보급되고 있는 보안 시스템이 갑자기 붕괴되는 패닉 상황이 발생할 수 있다.
따라서 전 세계 암호학자들은 양자컴퓨터를 이용한 공격에도 안전성을 보장할 수 있는 새로운 포스트 양자암호 시스템을 연구해 기존의 암호 시스템을 대체하고 다양한 시스템에 암호와 인증체계를 준비해야 한다고 주장하고 있다.
다행히 이러한 양자컴퓨터 공격에도 안전한 암호체계는 종래의 정수론적 어려움이 아닌 다른 대수학적 구조를 갖는 격자 문제, 2진 다항식 문제, 해시 함수, 부호 이론 등을 근간으로 한 새로운 공개키 암호 및 인증기술의 경우 과거 10년 전부터 미국, 일본, 유럽 등에서 연구가 진행되고 있다.
그러나 점차 가시화되고 있는 양자컴퓨터 상용화에 대비하기 위해 미국 NSA는 2015년 이러한 정수론적 문제 기반의 암호 체계를 수용하는 Suite B 암호 시스템의 사용중지 결정을 내렸다.

미국 표준기구인 NIST는 2016년 1월 일본에서 개최된 PQcrypt 2016 국제학술대회에서 각종 포스트 양자 암호체계를 2016년 가을경 전 세계에 공모할 예정이라고 발표했으며, 향후 5년 동안 제안된 포스트 양자 암호체계의 안전성과 성능 평가를 통해 표준안을 작성한다는 계획을 발표했다.
우리나라도 선진국의 이러한 선행 연구에 대비에 대해 포스트 양자 암호체계에 대한 집중적인 투자와 새로운 암호 인프라 구축 연구를 최대한 서둘러야 한다. 또한, 포스트 양자 암호 시스템의 국내 조기 정착을 위해 산·학·관·연이 합심해야 하며, 이론적인 주도권을 잡지 못한다 하더라도 세계 최고 패스트 추적자의 위상을 확보해야 한다.
[글_ 김광조 KAIST 전산학부 정보보호대학원 교수(kkj@kaist.ac.kr)]
필자 소개_ KAIST 전산학부 정보보호대학원 김광조 교수는 국가보안기술연구소 실장, 한국정보통신대학교 공학부장, 세계암호학회 이사, 아시아크립토 조정위원장, 한국정보보호학회장을 지낸 후, MIT(미국), KUSTAR(UAE) 및 ITB(인도네시아) 방문 교수를 역임했다. 현재 IACR, IEEE, ACM, IEICE 회원 및 한국정보보호학회 명예회장, IFIP-TC11 한국대표, Cryptography Journal 주 편집자, J. of Mathematical Cryptography 편집자 등으로 활동하고 있다.
[민세아 기자(boan5@boannews.com)]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>