의료 데이터·연구 인프라와 AI 위협 대응 기술 결합
의료 LLM·AI 플랫폼 취약점 대응…‘Security for AI’ 고도화

[보안뉴스 강현주 기자] 차의과학대학교 산학협력단(교수 한현욱)이 AI 보안 전문 기업 샌즈랩(대표 김기홍)과 AI 기반 차세대 의료·헬스케어 보안 기술 공동 개발에 나선다.

양사는 ‘IITP 기술교류 및 협업을 통한 의료·일반 네트워크 보안 연구 개발 업무 협약’을 체결했다고 7일 밝혔다.


▲(왼쪽부터)한현욱 교수와 김기홍 대표[자료: 샌즈랩]

최근 의료·헬스케어 분야에서 빠르게 확산 중인 의료 특화 대규모언어모델(LLM) 및 AI 진단·분석 플랫폼은 환자 진료기록, 영상 데이터, 유전자 분석 정보 등의 민감 데이터를 활용하고 있다. 이에 데이터 유출, 모델 오염, 프롬프트 인젝션(Prompt Injection, 프롬프트 주입 공격), API 취약점 등 새로운 형태의 공격 기법과 보안 위협에 노출되고 있다.

이번 협약은 IITP(정보통신기획평가원)의 기술교류 및 협업을 통해 맺은 결실이다. 의료 특화 대규모언어모델(LLM) 및 AI 진단·치료 헬스케어 솔루션들이 직면한 보안 위협들을 선제적으로 분석하고 대응하는 차세대 의료보안 기술을 개발하기 위한 공동 프로젝트의 시작이다.

이를 위해 차의과학대는 실제 의료 현장 인프라 및 임상 연구 환경 데이터를 활용한다. 샌즈랩은 AI 기반 위협분석 기술과 네트워크 대응 보안 기술을 의료 데이터 환경에 최적화할 예정이다.

협력의 범위는 △Security for AI 개발에 따른 학술 및 기술 정보 교류 △위협분석 및 대응보안 공동 연구 △장비·시설 등 물적 자원 공동 활용 △협력 사업수행 발굴 등으로 다양한 분야다.

의료 AI 모델 학습 데이터를 보호함은 물론 병원 EMR(전자의무기록) 시스템, 유전체 분석 서버, 원격진료 플랫폼, AI 의료기기까지 포함하는 통합 보안 프레임워크 설계 또한 가능해질 것으로 기대된다. 특히 차의과학대의 연구 임상·의료 빅데이터와 실제 의료 현장 환경을 기반으로 한 실증(PoC, 기술검증)을 통해 의료 현장에 즉시 적용 가능한 의료 AI 모델 상용화가 가속화되는 점도 큰 시너지를 낼 수 있는 부분이다.

양사는 인공지능 기반 의료 데이터 보안 기술의 공동 개발과 더불어 특허·논문 발표, 학술대회 참여, 의료 보안 전문 인력 양성 등을 함께할 계획이다. 산·학·연·병 융합 생태계 조성을 위한 협력 교류 활동을 이어 나갈 방침이다.

한현욱 차의과학대학교 교수는, “의료 AI의 발전이 환자 치료 혁신으로 이어지지만 보안이 뒷받침되지 않으면 정작 그 가치가 무너질 수 있다”며, “샌즈랩과의 협력을 통해 의료 환경에서 발생할 수 있는 다양한 위협을 과학적으로 분석하고 안전하고 신뢰할 수 있는 병원·연구소·의료기기 전 주기 보안 체계를 구축해 나갈 것”이라고 밝혔다.

김기홍 샌즈랩 대표는 “의료 분야의 데이터 보안은 한 사람의 생명과 직결될 수 있는 중요한 부분이기 때문에 얼마나 안정적으로 운영될 수 있느냐가 곧 경쟁력인 시대”라며, “차의과학대의 우수한 의료진들의 연구로 축적한 빅데이터가 임상, 신약개발 및 헬스케어 솔루션을 위한 AI 개발에 활용될 수 있도록 차세대 보안 기술로 뒷받침하겠다“고 소감을 밝혔다.

한편 샌즈랩은 이번 협약을 시작으로 바이오·헬스케어 클러스터 구축, 개인 의료정보 서비스 자동화 등 다양한 신규 프로젝트 참여 기회를 모색하고 AI 기반 의료 보안 기술의 적용 범위를 종합병원·R&D센터·의료기기를 넘어 헬스케어타운, 문화·상업시설 등의 스마트 헬스케어 인프라 전반으로 확장할 계획이다.

[강현주 기자(jjoo@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>