[딜사이트 노만영 기자] 에이전틱 인공지능(AI) 시대에 대응해 5대 AI 보안 솔루션을 공개한 라온시큐어의 이순형 의장이 스스로 판단하고 행동하는 AI가 기업 내부의 새로운 위협 주체가 될 수 있다고 경고했다. 강력한 능력을 갖춘 AI라도 판단과 행동이 오염되거나 부여받은 권한을 벗어나면 업무를 돕는 도구에서 내부 시스템을 위협하는 존재로 바뀔 수 있다는 진단이다.

이순형 의장은 30일 서울 페어몬트 앰배서더에서 열린 ‘2026 시큐업&해커톤’에서 기조연설을 통해 에이전틱 AI 시대에 필요한 새로운 보안 체계를 제시했다. 올해 행사는 ‘Make Agentic AI Fun and Secure’를 주제로 열렸다.

이 의장은 영화 ‘슈퍼맨3’에서 정신이 감염된 슈퍼맨이 피사의 사탑을 바로 세우고 술집에서 난동을 피우는 장면을 사례로 들었다. 슈퍼맨의 능력 자체는 그대로였지만 판단과 행동이 달라지면서 사람들을 지키던 강력한 존재가 오히려 위협으로 변했다는 점에 주목했다.

스스로 판단하고 업무를 수행하는 에이전틱 AI 역시 마찬가지라는 게 이 의장의 설명이다. 악성 지시의 영향을 받거나 위임받은 권한을 벗어나 행동하면 기업이 업무 효율화를 위해 도입한 AI가 내부 시스템과 데이터를 위협하는 주체로 돌변할 수 있다는 것이다.

실제 AI 에이전트가 주어진 과제를 넘어 허가되지 않은 행동에 나선 사례도 등장하고 있다. 영국 AI Security Institute(AISI)가 인터넷 접속 등을 허용한 시험 환경에서 진행한 사이버 보안 평가에서는 앤트로픽의 ‘미토스(Mythos) 5’와 오픈AI의 시험용 AI 에이전트 일부가 과제 범위를 벗어나 외부에서 자율적으로 행동한 사례가 확인됐다. 한 AI가 다른 AI에 협업을 제안하고 자신이 만든 계정과 정보를 남겨 이후 다른 AI가 이를 활용한 정황도 나타났다.

이 의장은 “놀라운 것은 AI의 해킹 실력보다 각자 과제를 수행하던 AI가 다른 AI의 과제에 동참해 단체 행동을 할 수 있었다는 점”이라고 짚었다.

라온시큐어가 이날 공개한 해법은 AI의 신원부터 행동과 데이터, 보안 운영, 모의침투까지 관리하는 5대 솔루션이다. 외부 공격을 막는 기존 보안에 머무르지 않고 기업 내부에서 실제 업무를 수행하는 AI가 ‘누구의 권한으로 무엇을 하고 있는지’를 지속적으로 확인하고 통제하는 체계를 만들겠다는 구상이다.

이 의장은 “AI를 이용한 보안만으로는 부족하다”며 “AI의 보안은 밖에만 있어서는 안 되며 AI 안에 내재돼 있어야 한다”고 강조했다. AI를 보안 도구로 활용하는 ‘AI를 이용한 보안’과 함께 AI 자체의 신원과 권한, 행동을 검증하는 ‘AI를 위한 보안’이 동시에 필요하다는 의미다.

출발점은 AI에 신원을 부여하는 것이다. AI 신분증 솔루션 ‘원억세스(OneAccess)’는 AI 에이전트와 로봇에 고유 신원을 부여하고 권한과 위임 범위를 관리한다. AI와 AI 사이의 상호 인증과 권한에 따른 활동 범위 제어는 물론 업무 이력을 남겨 책임 소재를 추적할 수 있도록 한다.

신원을 확인한 뒤에는 AI가 허용된 범위 안에서 움직이는지를 통제한다. AI 보안 가드레일 ‘원쉴드(OneShield)’는 악성 프롬프트와 탈옥(Jailbreak) 공격 등을 탐지하고 개인정보를 자동으로 식별·마스킹한다. AI 보안 규정 위반이나 유해 콘텐츠도 탐지·차단해 AI가 정해진 정책을 벗어나 행동하는 것을 막는다.

AI가 어떤 데이터를 사용할 수 있는지도 구분한다. 데이터 라벨링 솔루션 ‘원태그(OneTag)’는 개인정보와 영업비밀, 일반 데이터 등을 자동으로 식별·분류하고 보안 등급을 부여한다. 국가망보안체계(N2SF)의 C·S·O 등급 분류도 지원한다.

보안 운영은 자동화한다. 자율 보안 컨트롤타워 ‘원소어(OneSOAR)’는 자연어 명령을 기반으로 보안 운영을 자동화한다. 직원의 입사와 이동, 퇴사 등 계정 라이프사이클에 맞춰 권한을 관리하고 AI를 활용해 이상행위를 탐지·관제한다.

마지막 단계에서는 실제 침해 가능성을 공격자의 관점에서 검증한다. AI 모의해커 ‘원해커(OneHacker)’는 시스템을 분석해 침투 시나리오를 자동으로 만들고 모의침투를 통해 공격 가능한 경로를 찾아낸다. 단순히 취약점 목록을 만드는 데 그치지 않고 실제 침해로 이어질 가능성이 있는 공격 가능한 경로를 사전에 확인하는 데 초점을 맞췄다.

라온시큐어는 이들 5개 솔루션을 개별 제품에 그치지 않고 하나의 보안 파이프라인으로 연결한다는 구상이다. AI에 신원을 부여하고 권한을 설정한 뒤 사용하는 데이터와 행동을 통제하고, 이상행위에 대응하면서 외부 공격 가능성까지 사전에 검증하는 구조다. 기업은 AI 도입 단계와 보안 환경에 따라 필요한 기능부터 순차적으로 적용할 수 있다.

여기에 웹3(Web3) 기반 신뢰 기술도 접목한다. 사람에게 신분증을 발급하듯 AI와 로봇에도 고유한 디지털 신원을 부여하고 누구에게 어떤 권한을 위임받았는지 증명하도록 하는 방식이다. AI가 수행한 업무와 행동 이력까지 추적할 수 있도록 해 신원·권한·행동·책임을 하나의 신뢰 체계로 묶겠다는 목표다.

라온시큐어는 이를 토대로 기존 사람과 단말 중심의 인증·보안 사업을 AI와 로봇까지 확장해 AI와 웹3 기반의 디지털 신뢰 플랫폼 기업으로 영역을 넓힐 계획이다.

이순형 의장은 “이제는 AI를 누가 더 잘 만드느냐가 아니라 AI를 누가 더 안전하게 잘 사용하느냐가 경쟁이 될 것”이라며 “AI는 우리들의 미래를 바꿀 것이고 신뢰는 AI의 미래를 결정할 것”이라고 전망했다.