최승철 클라우데라코리아 지사장

오늘날 AI 기술은 업무를 자동화하고, 인사이트를 도출하며, 대규모 혁신을 이끄는 ‘만능열쇠’로 여겨진다. 하지만 AI의 도입이 광범위하게 이뤄지고 빨라질수록, AI 기술이 데이터를 처리하고 이동시키는 과정에서 발생하는 위험도 커지고 있다. 맥킨지(McKinsey)의 최근 보고서에 따르면, 기업 임직원들이 가장 우려하는 사안 중 하나로 AI 보안 리스크를 꼽고 있다.

AI 생태계가 점점 복잡해지고 그 속에서 처리되는 데이터의 양도 증가하고 있다. 다가오는 3월 31일 세계 백업의 날과 4월 3일 세계 클라우드 보안의 날은 각자의 데이터 보안과 거버넌스 전략을 되돌아보기 좋은 기회가 될 것이다.

AI 기술이 비즈니스 과정에 점점 더 깊이 결합되면서 기존 데이터 거버넌스에도 여러 보강이 필요한 상황이다. 기업은 데이터에 대한 지속적인 가시성 확보, 통제, 복원력을 강화해야 하는데, 이를 충족하지 않는다면 AI 중심의 복잡한 환경 속에서 데이터 관리의 주도권을 잃게 될 수 있다. 즉, 현대적인 데이터 레이크하우스나 멀티 클라우드 기반의 데이터 관리 전략과 같은 총체적인 데이터 보호 접근 방식이 필요한 시점이다.

기존 데이터 시스템은 예측 가능한 방식으로 정보를 저장하고 접근성을 제공한다. 하지만 우리 눈앞에서 펼쳐지고 있는 AI 환경은 기존보다 훨씬 더 유연하고 빠르게 움직인다. AI 모델은 온프레미스, 클라우드, 외부 AI 서비스까지 데이터를 끊임 없이 수집, 처리, 생성하기 때문에 기존의 보안 접근 방식으로는 속도와 규모를 따라갈 수 없다. 데이터가 여러 팀과 부서, 시스템을 지속적으로 넘나들며 이동하다 보니, 데이터가 어디서 만들어져서 어떻게 변환되는지와 누가 접근 권한을 가지고 있는지 파악하는 것은 점점 더 어려운 과제가 되고 있다. 이에 대한 보호 장치가 없다면, 기업의 가장 중요한 자산이라고 할 수 있는 데이터는 통제 불능 상태에 빠지게 될 것이다.

대다수의 기업들은 위협을 감지한 이후에 대응하는 보안 시스템에 의존하고 있다. 그러나 AI 환경에서는 이러한 사후약방문은 절대로 용납될 수 없다. 데이터가 어디로 이동하더라도 처음부터 안전하게 보호할 수 있는 사전 예방형 시스템이 필요하다.

AI 도입이 확산되면서 점점 더 많은 팀이 AI 기반 인사이트에 의존하고, 데이터는 여러 시스템과 경로를 통해 끊임없이 이동하게 된다. 이러한 흐름을 명확하게 통제하지 못한다면, 고객의 개인정보나 기업의 핵심 기밀이 AI 모델이나 분석 리포트에 포함된 상태로 외부에 노출되거나 오·남용되고, 승인받지 않은 사용자와 공유되는 상황이 벌어진다. 게다가, 각 부서가 새로운 데이터를 AI 모델에 지속적으로 틀리거나, 편향됐거나, 낡은 정보를 입력할 경우, AI가 제공하는 인사이트의 신뢰도도 떨어진다. 이 문제를 사전에 방지하기 위해서는 데이터 흐름을 추적해 AI 기반 의사결정에 오류가 생기는 것을 방지하는 데이터 계보 솔루션을 도입해야 한다.

많은 AI 모델은 마법 상자처럼 작동하기 때문에 데이터가 어떻게 처리되고 변환되는지 명확하게 파악하기 어렵다. 때문에 데이터 노출 위험을 넘어선 규제 미준수 우려도 있으며, AI 기반 의사결정이 정당하지 않을 경우 평판 리스크도 발생할 수 있다. AI 모델은 끊임 없이 학습하고 진화하는 역동적인 시스템이다. 전통적인 보안 체계만으로는 이런 유동적인 흐름에 대응할 수 없다. 이를 방치할 경우, 단순 보안 침해 위협 노출에서 더 나아가 제재, 운영 혼란, 고객 신뢰 하락 등 추가적인 리스크도 발생한다.

사전 예방 거버넌스로 전환하는 것은 AI 워크플로우 전반에 보안 체계를 내재화하는 것으로 시작된다. 이는 대규모 민감 데이터를 다루는 금융이나 의료 산업에서는 특히 더욱 중요하다. AI 거버넌스는 가시성 확보가 기본이다. 가트너 보고서에 따르면, 기업의 60%가 핵심 데이터가 어디에 저장되어 있는지조차 파악하고 있지 못하고 있는 것으로 나타났다. 기업은 종단간 데이터 계보 추적으로 AI 모델이 데이터를 어떻게 처리하고 공유하는지 명확하게 이해해야 문제 발생시 신속하게 대응할 수 있다.

AI 거버넌스는 자동화돼야 한다. 보안 통제는 AI 워크플로우에 기본 내장돼야 하며, 데이터가 온프레미스든, 클라우드든, 외부 AI 생태계든 보안과 규정 준수 정책이 일관되게 적용돼야 한다. 적절한 시기에 적절한 사람만 데이터에 액세스할 수 있도록 사용 패턴에 따라 실시간으로 조정되는 세분화된 접근 제어도 필요하다.

AI 보안은 IT 부서만의 고민이 아니다. AI 데이터의 적절한 관리 및 보호의 실패는 과징금, 법적 책임, 고객 신뢰 하락에 그치지 않고 재무 건전성까지 영향을 준다. AI 도입이 지속적으로 확대되고 있는 지금, 낡은 보안 체계에 의존해 뒤늦게 대응할 것인지, 강력한 AI 데이터 거버넌스로 주도권을 잡을지에 대한 정답은 명확하다. 선제적인 AI 보안 체계를 오늘 도입한 기업이 앞서 나갈 것이다.


[자료: 클라우데라코리아]

△최승철 클라우데라코리아 지사장
-서울대 산업공학과
-KAIST 대학원 산업공학과
-뉴타닉스코리아, 스플렁크코리아, 한국테라데이타, 한국인포매티카, 한국HP 등 근무

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>