코리안리·토스증권·뤼튼 등 6인의 보안 실무진 AX 전략 공유
클라우드 SLA 배상 한계와 규제 회피용 ‘AI 게이트웨이’ 쏠림 경고
‘딸깍’ 세대 의존 경계... AI 오류 검증할 기초 인프라 역량 절실

[보안뉴스 조재호 기자] “AI 전면 차단의 시대는 끝났습니다. 이제는 어떻게 안전한 AI 활용과 동시에 기업 비즈니스의 동반자로서의 보안에 대한 고민이 필요한 시점입니다.”

문광석 코리안리 IT보안파트장은 ‘보안 최전선: 라운드테이블’을 시작하며 이같이 말했다. 최근 AI가 기업 인프라 중심축으로 자리하며, 기업 보안 실무 담당자들의 역할이 단순한 ‘통제관’에서 위험을 제어하며 비즈니스 활성화를 지원하는 ‘조력자’로 변화하고 있다.

<보안뉴스>는 그간 ‘보안 최전선’을 진행하며 만난 문광석 코리안리 IT보안파트장, 오석윤 뤼튼테크놀로지스 보안 엔지니어, 장현호 토스증권 매니저, 홍성진 OWASP 서울챕터 리더, 권현준·공지훈 라포랩스 보안 엔지니어 등 6인의 실무진을 다시 한번 만나 AI 질주 시대의 보안 조직이 맞닥뜨린 한계와 인력 생태계의 변곡점을 짚어봤다.


▲보안 최전선: 라운드테이블 참석자들이 기념 촬영을 하고 있다. [출처: 보안뉴스]

전면 차단은 끝났다...‘컴퍼니 OS’부터 ‘보안 에이전트’까지
가장 먼저 화두에 오른 주제는 AI 전환(AX)이다. 보안팀이 개발자들의 AI 활용을 무조건 차단하는 시대는 끝났다. 이제는 비즈니스 환경에 맞춰 위험을 관리하는 방향으로 저마다 통제 전략을 마련하고 있다.

문광석 파트장은 “신규 서비스를 출시할 때마다 사람이 일일이 진행하는 전통적 보안성 검토로는 매일 코드와 API가 업데이트되는 현업의 속도전을 물리적으로 따라잡을 수 없다”며 “보안 조직도 클라우드 서비스 제공사(CSP)의 유연한 컨테이너 기반 아키텍처나 AI 보조 도구를 활용해 검토 프로세스 자체를 지능화·자동화하는 방향으로 체질을 바꾸고 있다”고 설명했다.

오석윤 엔지니어도 “사내에 맥 스튜디오 클러스터를 구축해 임직원 수만큼 AI 코워커를 배포하고 있다”며 “AI를 단순 통제 대상 시스템이 아닌 사내에서 소셜 네트워크를 형성한 인격체로 봐야 하고, 정해진 프로세스를 벗어나면 강제로 초기화하는 등 통제할 수 있는 ‘컴퍼니 OS’ 체계를 구축해 가고 있다”고 말했다.

금융 규제망에 속한 기업과 속도전이 핵심인 스타트업도 각자의 타협점을 찾아가고 있다. 장현호 매니저는 “임직원의 프롬프트를 일일이 감시해 위축시키기보다는 로컬 PC와 서비스 내 민감 데이터를 탐지해 자동 삭제하는 에이전트 고도화에 힘을 싣고 있다”고 설명했다.

공지훈 엔지니어도 “스타트업은 비즈니스 성장과 개발 편의성에 방점을 두고 있어, 사내 구성원이 자유롭게 AI를 활용할 수 있도록 한다”며 “대신 보안팀이 보안 스킬을 배포해 엔지니어가 작업한 코드에 크리덴셜이 포함되지 않도록 제거하고, 시큐어 코딩을 자동으로 적용하는 조치를 하고 있다”고 말했다.

권현준 엔지니어도 “현업 개발 환경에서 AI 활용을 일방적으로 막기보다 실무자가 원하는 도구를 최대한 지원하되, 이로 인해 늘어나는 공격 표면과 권한 오남용 리스크를 보안 조직이 뒷단에서 안전하게 제어하는 방향으로 체질을 바꾸고 있다”고 설명했다.”

참석자들은 개발과 배포 속도가 보안성 검토를 초월하면서 사람에 의한 검토 체계가 한계에 달했다고 입을 모았다. 향후 AI가 시스템의 로그를 종합 분석해 취약점을 판별하고, 스스로 패치까지 수행할 수 있는 ‘보안 에이전트’를 구현하는 것이 보안 조직의 미래가 될 것이라는 전망이다.

AI 게이트웨이와 과징금 그리고 CISO 책임론... 제도적 합리화는?
최근 AI 도입과 보안에 대해서도 다양한 이야기를 들어볼 수 있었다. 기업들은 클라우드 기반 AI 도입 시 입력 데이터가 학습 모델에 쓰이지 않고 폐기되는 ‘제로 리텐션’(Zero Retention) 조건으로 서비스 수준 협약(SLA)을 체결한다. 하지만 보안 관점에서 계약서만으로 실제 해킹이나 정보 유출 사고에서 기업을 보호하긴 힘든 부분이 있다는 의견이다.

홍성진 리더는 “사고 발생 시 클라우드 서비스 제공사(CSP)와 맺은 서비스 수준 협약(SLA)만으로는 배상 범위에 분명한 한계가 존재한다”며 “설령 도입 기업이 1000억원대 유출 손해를 입었더라도, 약정된 서비스 이용료 규모를 넘어서는 피해 전체를 제공사 측에서 보상하기는 현실적으로 어렵다”고 설명했다. 이어 “계약상 책임 한계 조항으로 인해 최종적인 피해 복구와 법리적 책임은 결국 도입 기업에 집중되는 구조”라고 설명했다.

문광석 파트장은 “사고가 발생하면 클라우드나 AI 솔루션 제공사는 뒤로 물러나고, 도입 기업이 모든 대외적·법적 책임을 전담하는 구조적 불균형이 존재한다”며 “보안 담당자 입장에서 외부 AI 모델 활용 시 법리적 통제 한계를 고민할 수밖에 없다”고 말했다.

권현준 엔지니어는 “스타트업과 대기업은 의사결정 속도와 소통 방식이 다를 수밖에 없는 만큼, 형식적인 절차나 증빙에만 매몰되기보다 기업 문화와 속도전에 발맞춘 실질적 보안 거버넌스를 갖춰야 한다”고 말했다.

금융 부문의 도입 장벽과 기술적 부작용은 한층 복합적이다. 금융감독원이 혁신금융서비스 제도를 통해 망분리 환경에서도 해외 클라우드 AI 모델을 사용할 수 있도록 열어주었으나, 그 전제 조건으로 까다로운 3단계 필터링을 명시하고 있다.

업계에서는 현재 다수의 금융·공공 기관과 기업들이 규제 준수를 위해 출입문 역할을 하는 ‘AI 게이트웨이’(AI Gateway) 솔루션 도입을 적극 검토하는 단계인 것으로 보고 있다. 실무자들은 기업이 기술적 안정성이나 실질적인 보안 강화라는 본질보다 규제 기관의 감사 통과용 증빙 요건에 매몰될 경우, 실질적 방어 생태계로 성장하기보다 형식적인 도입 절차에 머물 수 있음을 경계해야 한다고 지적했다.

정부 규제 당국의 행정 처분과 거버넌스 체계에 대해서는 합리적 개선을 촉구하는 목소리가 이어졌다. 사고 발생 시 일률적인 과징금 제재에 집중하기보다, 기업이 스스로 보안 역량을 키울 수 있는 환경을 조성해야 한다는 의견이다.

권현준 엔지니어는 “사고 발생 시 일률적인 과징금·제재에 집중하기보다, 기업이 스스로 보안 역량을 키울 수 있는 환경을 조성해야 한다”며 “기업의 자발적인 보안 인프라 투자를 이끌어낼 실효성 있는 지원 정책과 컴플라이언스 인센티브가 뒷받침돼야 한다”고 말했다.

화려한 이력서 뒤 ‘딸깍’ 세대... 기술 기초 체력의 중요성
이러한 규제와 책임 리스크는 보안 인력 채용 시장의 양극화와 기술 기초 체력 저하 문제와도 연결되고 있다.

문광석 파트장은 “신입 정규직 공채는 줄고 인턴이나 계약직 중심의 AI 위주의 임시직으로 운영되는 경향이 강해졌다”며 “이력서에는 논문 수십 편과 화려한 대외활동을 적어내지만, 기초 면접 질문에는 답변을 못 하는 사례가 적지 않다”고 말했다.

홍성진 리더는 업계 전반에 만연한 용어의 혼선을 지적하며 사회적·커뮤니티 차원의 합의가 시급하다고 제언했다. 그는 “현재 산업계에서는 ‘AI 보안’이라는 표현이 ‘AI를 활용한 보안’(AI for Security), ‘AI 시스템 및 모델 자체에 대한 보안’(Security for AI), ‘AI의 윤리적·기능적 안전성’(AI Safety) 등 서로 다른 개념으로 무분별하게 혼용되고 있다”며 “명확한 용어 정의와 커뮤니티 합의가 선행되지 않으면, 실무 주니어들은 자신이 무엇을 방어하고 통제해야 하는지 개념적 방향성조차 잡지 못하게 된다”고 설명했다.

공지훈 엔지니어는 “AI가 코드 생성과 보안 검토 속도를 획기적으로 높여주지만, 자동화 도구에만 의존하면 보이지 않는 논리적 취약점을 놓칠 위험이 있다”며 “AI의 산출물을 비판적으로 검증하고 최종 판단을 내릴 수 있는 엔지니어의 기초 아키텍처 이해도가 그 어느 때보다 중요해졌다”고 말했다.

좌담회 참석자들은 AI가 무한한 지식을 주더라도 이를 검증할 기초 인프라 지식이 없으면 무용지물이라고 강조했다. 코딩과 점검이 자동화될수록 AI의 허점을 해석하고 교차 검증하는 아키텍트급 ‘휴먼 인 더 루프’(Human-in-the-Loop)의 가치가 높아지지만, 생태계는 척박해지고 있다는 분석이다. 현장의 6인은 AI 속도를 따라잡을 ‘보안 에이전트’의 기술 혁신과 함께, 실무자를 보호하고 과징금을 보안 기금으로 순환시키는 제도적 개선이 시급하다고 조언했다.

[조재호 기자(zephyr@boannews.com)]

<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>