크레이그 젠트리 “암호화 상태서 다중 사용자 LLM 추론 효율 최적화”

[보안뉴스 강현주 기자] 동형암호를 통한 생성형 AI 보안 기술에 큰 진전이 있었다.

생성형 AI의 핵심 기술인 대규모 언어 모델(LLM)의 추론 효율을 크게 높여주는 ‘다중 사용자 배칭 처리’(multi-user batching) 기술을 암호화된 LLM 추론에도 실용적 수준으로 적용하는 데 성공했다는 연구개발 결과가 공개됐다.

이러한 기술 진보는 생성형 AI 서비스들의 데이터 보안을 효율적으로 향상시킬 수 있음을 의미한다.


▲‘제9회 동형암호 표준화 회의’ 현장 [출처: 디사일로]

서울 마곡동 LG사이언스파크에서 디사일로와 LG전자 주최로 5일부터 6일까지 열린 ‘제9회 동형암호 표준화 회의’(9Th HomormorphicEncryption.org Standards Meeting)에서 이 같은 성과가 공개됐다.

‘완전동형암호(FHE)의 창시자’라고 불리는 크레이그 젠트리(Craig Gentry) 박사는 ‘사용자 간 일괄 처리를 지원하는 프라이버시 보호 선형 대수’(Private Linear Algebra with Batching Across Users)라는 주제로 동형암호 기술 동향을 발표했다.

그의 발표에 따르면, LLM 추론 실용화를 위한 핵심 기법을 암호화 상태에서 비교적 저렴하게 구현해낼 수 있게 됐다.

LLM의 추론 효율을 높여주는 ‘배칭 처리’를 암호화된 상태에서도 적용이 가능하도록 하는 진전이 있었기 때문이다.

배칭 처리는 여러 사용자의 요청을 모아 한꺼번에 수행해, LLM 연산의 효율을 크게 올리는 기법을 말한다.

젠트리 박사는 “큰 스케일의 LLM 추론 실용화는 비암호화 상태로도 어려운데, 암호화된 상태에서는 당연히 훨씬 더 어렵다”며 “우리는 두번의 비암호화 행렬곱셈 수준의 비용으로 암호화된 LLM 추론 배칭 처리가 가능토록 구현해냈다”고 밝혔다.

이번 행사에서는 임효준 LG전자 차세대컴퓨터연구소장도 ‘신뢰의 아키텍처’(The Architecture od Trust)를 주제로 기조연설을 했다. 임 소장은 프라이버시를 지키면서도 혁신적 AI를 구현하는 LG전자의 완전동형암호 관련 전략을 공유했다.

또 미국 국립표준기술연구소(NIST) 측에서 영상을 통해 동형암호 표준화 동향에 대해 공유했다.

이번 회의는 로자리오 카마로타(Rosario Cammarota) 카마로타랩 CEO, 천정희 크립토랩 대표 등 세계적인 동형암호 석학 및 전문가들이 한자리에 모여 지식과 인사이트를 나눴다.

한편, 동형암호 분야 기술과 표준화에 대한 글로벌 동향을 공유하고 논의하는 글로벌 행사인 동형암호 표준화 회의는 지난 2017년 미국 레이먼드에서 처음 막을 열었다. 2023년 서울에서 열린 이후 한국 개최는 올해가 두번째다. 2025년에는 이스탄불에서 열렸다.

[강현주 기자(jjoo@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>