’다중 광학모드 양자 토모그래피’ 기술 개발…양자컴퓨터 내부 그림처럼 재구성
복잡한 양자연산 검증· 최적화 가능...차세대 양자컴퓨팅·통신 기술 확장성 열어

[보안뉴스 한세희 기자] 국내 연구진이 16개 광학 모드가 서로 얽혀 작동하는 대규모 양자 연산을 분석해 규명하는 기술을 개발했다. 양자 컴퓨팅이나 양자 센싱 발전에 기여하리란 기대다.

KAIST는 라영식 물리학과 교수 연구팀이 광학 기반 양자 컴퓨터 내부에서 일어나는 다중 광학모드 양자연산의 특성을 빠르고 정확하게 파악할 수 있는 양자연산 토모그래피(Quantum Process Tomography) 기술을 개발했다고 17일 밝혔다.

‘토모그래피’는 보이지 않는 내부 구조를 다양한 데이터를 바탕으로 복원하는 기술이다. 의료용 CT가 대표적이다.

양자 컴퓨팅에서도 여러 실험 데이터를 이용해 양자연산 내부의 작동 원리를 재구성하는 기술이 필수적이다.

양자컴퓨터가 기존 컴퓨터보다 월등한 성능을 내려면 큐비트나 광학 모드 등 동시에 조작할 수 있는 양자 단위의 수가 많아야 한다. 하지만 큐비트나 광학 모드의 수가 늘어날수록 토모그래피에 필요한 작업량이 기하급수적으로 증가해, 기존 기술로는 5개 이상의 광학 모드를 분석하는 것조차 어려웠다.


▲다양한 결맞음 양자 상태를 입력해 출력 광의 세기의 위상을 측정해 증폭 행렬을 구하고, 진공 상태를 입력해 출력 잡음을 측정해 잡음 행렬을 구함 [자료: KAIST]

광학 기반 양자 컴퓨터 안에선 여러 개의 빛 신호가 서로 영향을 주며 복잡하게 얽혀 움직인다. 연구팀은 비선형 광학 과정(nonlinear optical process)을 정밀하게 기술하는 새로운 수학적 표현을 도입했다.

빛이 서로 영향을 주고받으며 변하는 복잡한 양자 상태를 빛이 얼마나 증폭되고 어떻게 변했는지에 대한 ‘증폭 행렬’(Amplification matrix)과 외부 환경 때문에 생긴 잡음이나 손실이 얼마나 섞였는지에 대한 ‘잡음 행렬’(Noise matrix)’이라는 두 가지 틀로 분석하는 방식이다.

빛이 본래 가진 양자특성 변화와 현실 세계에서 피할 수 없는 잡음을 각각 따로, 동시에 정확하게 볼 수 있는 ┖양자 상태 지도┖를 만든 것이다. 실제 양자 컴퓨터의 동작을 더욱 현실적으로 규명할 수 있다.

연구팀은 양자연산이 어떻게 작동하는지 알아내기 위해 여러 종류의 ‘빛 신호’(양자상태)를 입력하고, 그 결과가 어떻게 바뀌었는지 하나하나 정밀하게 관찰했다. 이렇게 모은 데이터를 가장 정확한 방식으로 설명해주는 최대우도추정 통계 기법을 이용해 ‘실제로 내부에서 어떤 연산이 일어났는지’를 역으로 추적했다.

그 결과, 필요한 계산량을 크게 줄여 세계 최초로 16개 광학 모드(빛 신호)가 서로 얽혀 작동하는 대규모 양자연산을 실험적으로 규명하는데 성공했다. 기존 방식은 모드가 조금만 늘어나도 필요한 분석 양이 폭발적으로 많아져 사실상 5개 정도까지만 분석이 가능했다.

라영식 교수는 “이번 연구는 양자컴퓨팅의 필수 기반기술인 양자연산 토모그래피의 효율을 획기적으로 높인 성과”라며 “향후 양자컴퓨팅·양자통신·양자센싱 등 다양한 양자기술의 확장성과 신뢰성을 높이는 데 기여할 것”이라고 말했다.


▲(왼쪽부터) KAIST 물리학과 곽근희 석박통합과정, 라영식 교수, 노찬 박사후 연구원, 윤영도 석박통합과정 (왼쪽 위) 김명식 임페리얼칼리지런던 교수 [자료: KAIST]

이 연구는 한국연구재단 (양자컴퓨팅 기술개발사업, 중견연구자 지원사업, 소재혁신 양자시뮬레이터 개발사업, 양자기술연구개발 선도사업, 기초연구실 지원사업)과 정보통신기획평가원 (양자인터넷 핵심원천기술 사업, 대학ICT연구센터지원사업) 및 미국 공군연구소 지원을 받아 수행됐다. 11일(현지시간) ‘네이처 포토닉스’(Nature Photonics)에 온라인판으로 정식 출판됐다.

※ 논문명: Completely characterizing multimode second-order nonlinear optical quantum processes (DOI:10.1038/s41566-025-01787-x)

[한세희 기자(boan@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>