[딜사이트 이광호 기자] 인공지능(AI) 보안·인증 플랫폼 기업 ‘라온시큐어’가 AI 세이프 가드레일 솔루션 ‘원쉴드(OneShield)’로 ‘인공지능 제품·서비스 확인서’를 획득했다고 14일 밝혔다.

‘인공지능 제품·서비스 확인제도’는 한국인공지능·소프트웨어산업협회(KOSA)가 인공지능기본법에 따라 제품이나 서비스에 AI 기술이 실제 적용됐는지를 확인하는 제도다. 제품에 적용된 AI의 학습·추론 특성과 기능 기여도 등을 기술적으로 심사해 확인서를 발급한다.

기업의 생성형 AI 도입이 늘어나면서 기존 보안 체계만으로는 다루기 어려운 새로운 보안 문제가 나타나고 있다. 임직원이 업무 과정에서 회사의 중요 정보나 개인정보를 생성형 AI에 입력하거나, 공격자가 악성 프롬프트를 통해 AI에 설정된 정책을 우회하는 경우가 대표적이다.

원쉴드는 이러한 위협에 대응하는 AI 세이프 가드레일 솔루션이다. 사용자와 생성형 AI·AI 에이전트 사이에서 오가는 입·출력 데이터를 실시간으로 분석하고, 사전에 설정된 정책에 따라 허용하거나 차단한다. 기업이 생성형 AI를 안전하게 활용하면서 정보 유출과 AI 오남용 위험을 관리할 수 있도록 하는 것이 핵심이다.

프롬프트 인젝션, 탈옥(Jailbreak) 등 악성 프롬프트 공격을 탐지·차단하고, AI에 입력되는 개인정보를 자동으로 식별해 익명화하거나 마스킹한다. 또한 한국어 특화 모델을 기반으로 유해 콘텐츠를 걸러내며, 기업이나 기관이 설정한 AI 보안 정책에 따라 민감정보 입력이나 부적절한 AI 사용을 통제한다.

라온시큐어는 이번 확인서 획득을 계기로 원쉴드의 공공·금융 시장 공략을 본격화할 계획이다. 공공·금융기관이 AI 보안 솔루션 도입을 검토할 때, 이번 확인이 원쉴드의 AI 기술 적용 여부를 판단하는 근거가 될 것으로 기대하고 있다.

아울러 업무를 직접 수행하는 AI 에이전트 도입이 확대될수록 AI의 입·출력뿐 아니라 접근 권한과 행동까지 통제하는 보안 기술의 필요성도 함께 커질 것으로 보고 있다.

이정아 라온시큐어 대표는 “생성형 AI 활용을 넘어 AI 에이전트가 실제 업무를 수행하는 단계로 전환되면서 민감정보 유출, 악성 프롬프트, 정책 우회 등 새로운 보안 위협도 함께 커지고 있다”며 “원쉴드는 이러한 위협을 통제해 기업과 기관이 AI를 보다 안전하게 활용할 수 있도록 하는 솔루션으로, 이번 확인서 획득을 계기로 공공·금융을 중심으로 사업 기회를 확대해 나가겠다”고 말했다.

한편 라온시큐어는 AI 에이전트의 신원과 권한 관리부터 행동 통제, 위협 탐지·대응까지 아우르는 5대 에이전틱AI 보안 솔루션을 중심으로 에이전틱 AI 시대에 필요한 신뢰 인프라를 구축하고 있다.