LLM 방식 한계 넘는 C→러스트 코드 자동 변환 핵심 기술...연구 방향과 비전 제시

[보안뉴스 한세희 기자] 보안 위험이 높은 C 언어를 보다 안전한 ‘러스트’ 언어로 자동 변환하는 연구를 KAIST 연구진이 선도해 주목된다.

KAIST는 전산학부 류석영 교수 연구팀 논문이 세계 최대 컴퓨터학회 ACM(Association for Computing Machinery)이 발행하는 학술지 CACM(Communications of the ACM) 11월호 표지 논문으로 선정됐다고 9일 밝혔다.

이 논문은 류석영 교수 연구팀이 개발한 C 언어를 러스트(Rust)로 자동 변환하는 기술을 종합해 다루며 향후 이 연구가 나아가야 할 기술적 비전과 학문적 방향을 제시했다.


[자료: KAIST]
C 언어는 1970년대부터 폭넓게 사용돼 왔으나, 구조적 한계로 심각한 버그와 보안 취약점을 유발해 왔다. 러스트는 2015년 개발된 안전한 프로그래밍 언어로, 프로그램 실행 전에 버그를 탐지하고 방지할 수 있는 특성을 지닌다. 운영체제 및 웹 브라우저 개발 등에 쓰인다.

미국 백악관은 지난해 2월 발표한 기술 보고서에서 C 언어 사용 중단을 권고했다. 미국 국방고등연구계획국(DARPA) 또한 C 코드를 러스트로 자동 변환하는 기술 개발 과제를 추진하며 C 언어 보안 문제 해결에 러스트가 핵심 대안임을 명시했다.

류 교수 연구팀은 이러한 움직임이 본격화되기 전부터 C 언어의 안전성 문제와 자동 변환의 중요성을 선제적으로 제기하고, 관련 핵심 기술을 개발해 왔다.

KAIST 연구팀은 2023년 5월 프로그램 동기화에 필요한 뮤텍스(Mutex) 변환 기술을 소프트웨어 공학 분야 학회 ICSE(International Conference on Software Eng)에서 발표했으며, 작년 6월엔 결과 전달에 사용되는 출력 파라미터(Output Parameter) 변환 기술을 프로그래밍 언어 분야 학회 PLDI(Programming Language Design and Implementation)에서 발표했다. 같은 해 10월 다양한 데이터를 함께 저장하는 유니언(Union) 변환 기술을 소프트웨어 자동화 분야 학회 ASE(Automated Software Eng)에서 발표했다.

이들 세 연구는 모두 세계 최고 수준 국제 학술대회에서 세계 최초로 발표된 성과로, 각 기능별 자동 변환 기술을 완성도 높게 구현해 왔다.

이번 논문 제1저자 홍재민 KAIST 정보전자연구소 연수연구원은 “우리가 개발한 변환 기술은 프로그래밍 언어 이론에 기반한 원천 기술로, 변환의 ‘정확성’을 논증할 수 있는 것이 큰 강점”이라며 “대부분 연구가 대규모 언어모델(LLM)에 의존하는 반면, 우리 기술은 변환의 올바름을 수학적으로 보장할 수 있다”고 밝혔다.


▲KAIST 전산학부 류석영 교수(왼쪽)와 홍재민 연구원 [자료: KAIST]

이번 연구는 한국연구재단 선도연구센터·중견연구자지원사업, 정보통신기획평가원(IITP), 삼성전자의 지원으로 수행됐다.

또 류 교수 연구팀은 소프트웨어 공학 분야 학회 ASE 2025에 ‘C→러스트 변환’ 기술을 포함한 4편의 논문이 채택돼 발표를 앞두고 있다.

이들 논문은 자동 변환 기술뿐 아니라 △양자컴퓨터 프로그램이 제대로 작동하는지 검증하는 기술 △웹어셈블리 프로그램(웹에서 빠르고 효율적으로 프로그램을 실행하기 위한 기술)의 정확성을 자동 검사하고 테스트를 만들어주는 ‘웨스트’(WEST) 기술 △복잡한 웹어셈블리 코드를 자동으로 단순화해 오류를 빠르게 찾아내는 기술 등을 다룬다. 이 가운데 웨스트(WEST) 논문은 우수논문상(Distinguished Paper Award)을 받았다.

[한세희 기자(boan@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>