[딜사이트 노만영 기자] 인공지능(AI)이 사이버 공격 도구로 활용되는 사례가 늘면서 방어 체계 역시 AI 중심으로 진화하고 있다. 국산 거대언어모델(LLM) '솔라(Solar)'를 개발한 '업스테이지'와 보안·인증 기업 '라온시큐어'는 AI 기반 보안 자동화 플랫폼 공동 개발에 착수했다. 금융·공공 분야를 겨냥해 위협 탐지와 대응을 자동화하는 국산 AI 보안 모델 구축에 나선 것이다.

1일 관련업계에 따르면 업스테이지는 최근 코스닥 상장사 '라온시큐어'와 에이전틱 AI 기반 보안 자동화 플랫폼 공동 개발에 나섰다. 해당 플랫폼은 AI가 보안 로그를 분석하고 위협 대응을 자동화하는 구조로, 올해 하반기 출시를 목표로 개발되고 있다. 서비스형 소프트웨어(SaaS) 방식뿐 아니라 금융·공공기관 등 데이터 반출이 어려운 고객을 위해 내부망(온프레미스) 환경에서도 운영 가능한 형태로 준비 중인 것으로 알려졌다.

AI 기반 플랫폼 개발은 기존 보안관제의 한계를 보완하려는 시도로 해석된다. 기존 체계에서는 이상 징후 탐지 이후 분석과 판단, 대응 과정의 상당 부분을 보안 인력이 직접 수행한다. 반면 AI 기반 보안 자동화 플랫폼은 AI 에이전트가 로그와 보안 이벤트를 분석해 위협 가능성을 식별하고, 대응 방안을 제시하는 방식이다. 반복 업무를 줄이고 보안 담당자의 대응 속도를 높이는 데 초점을 맞추고 있다.

최근 AI가 취약점 탐색과 침투 경로 분석에 활용되면서 방어 체계 역시 AI 기반 자동화가 필요하다는 목소리가 커지고 있다. 방어 체계의 자동화가 부각된 데에는 AI를 활용한 공격 방식의 고도화가 자리한다.

앞서 오픈AI 출신 연구진이 공동 창업한 AI 기업 앤트로픽은 지난달 프로젝트 글래스윙(Project Glasswing)을 발표하며 비공개 사이버 보안 특화 모델인 '미토스'를 공개했다. 미토스는 AI 에이전트가 소프트웨어 취약점을 탐색하고 보안 위협을 분석하는 데 활용되는 모델이다. 보안업계에서는 공격자가 미토스와 같은 AI를 활용해 취약점 탐색과 침투 경로 분석을 자동화할 경우 기존 수동 점검 중심으로는 대응 속도를 맞추기 어렵다는 지적이 확산되고 있다.

이러한 상황에서 업스테이지와 라온시큐어 등 국내 기업들이 방어 AI 구축에 선제적으로 나서고 있다. 이번 플랫폼에는 LLM 기반 AI 모의해킹 기능과 AI 가드레일 기능이 포함될 것으로 전해졌다. AI 기반 레드팀 에이전트(모의해커)가 공격 시나리오를 생성해 잠재적 취약점을 점검하고, AI 가드레일이 실제 운영 환경에서 에이전틱 AI를 겨냥한 위협을 탐지·차단하는 방식이다. 공격 시뮬레이션 결과를 방어 절차에 재반영해 선제 점검과 자동화 대응을 강화하는 구조다.

양사 간 협력은 국산 AI와 국내 보안·인증 기술을 결합한 AI 보안 모델의 시험대로 평가된다. 업스테이지는 자체 개발한 LLM '솔라'를 앞세워 과학기술정보통신부의 '독자 AI 파운데이션 모델' 프로젝트 1차 평가를 통과해 LG AI연구원, SK텔레콤과 함께 2단계에 진출한 상황이다.

라온시큐어는 1998년 설립된 국내 정보보안 1세대 기업으로 모바일 보안과 인증, 블록체인 기반 신원증명, 생체인증, 제로트러스트 보안 등을 주요 사업으로 영위하고 있다. 행정안전부 모바일 신분증 구축 사업에 참여하며 디지털 신원확인 분야에서 존재감을 키웠으며, 모바일 운전면허증·국가보훈등록증 등 공공 디지털 인증 인프라 사업을 영위하고 있다.

국산 AI와 국내 보안 기술의 결합은 금융·공공·국방 분야에서 활용도가 높을 것으로 전망된다. 이들 분야는 보안 로그와 내부 데이터를 외부 클라우드나 해외 AI 모델로 반출하기 어려운 경우가 많아 데이터 통제권과 보안 주권 확보가 중요하기 때문이다. 미토스와 같은 보안 특화 AI 모델이 일부 파트너 중심으로 제공되는 점도 국내 기술 기반의 AI 보안 체계 필요성을 키우는 요인으로 꼽힌다.

김태진 라온시큐어 최고기술책임자(CTO)는 "보안 자동화와 에이전틱 AI 관리(AAM)는 라온시큐어가 보유한 계정·권한관리, 디지털 ID 역량을 AI 시대로 확장하는 출발점"이라며 "AI가 실제 업무 행위자로 들어가는 환경에서는 누가 움직이고 있는지, 어디까지 허용됐는지, 문제가 생겼을 때 어떻게 책임을 추적할 것인지에 대한 체계가 핵심 보안 인프라가 될 것"이라고 말했다.