[딜사이트 변한석 기자] ‘AI 세계 3대 강국’으로 가기 위해서는 보안 강화가 필수라는 전문가들의 진단이 나왔다. AI 활용이 확산되면서 공격과 방어 모두 AI 중심으로 재편되고 있는 만큼 보안 경쟁력이 국가 AI 경쟁력을 좌우할 것이라는 분석이다. 또한 보안 분야에서 생성형 AI의 할루시네이션 유발을 줄이려면 위해 여러 AI 에이전트를 동시에 활용해야 한다는 지적도 제기됐다.

세계 3대 해킹방어대회 ‘코드게이트 2026’이 지난 23일부터 24일까지 서울 강남구 코엑스 그랜드볼룸에서 개최됐다. ‘AI 세계 3대 강국으로 가는 길: 시큐리티’를 주제로 열린 이번 대회에는 보안업계 전문가들의 기조 강연과 토론이 준비됐다.

행사에서는 한국이 AI 경쟁력 확보를 위해서는 대형언어모델(LLM) 자체보다 이를 얼마나 효과적으로 활용하는지가 중요하다는 의견도 나왔다. 하나의 모델에 의존하기보다 목적에 맞는 특화 모델과 여러 AI 에이전트를 조합하는 구조가 현실적인 전략이라는 풀이다. 특히 해외 AI 모델 의존도가 커지는 상황에서 국내 환경에 맞춘 보안 특화 모델과 이를 활용할 수 있는 시스템 경쟁력을 함께 확보해야 한다고 강조했다.

김태수 마이크로소프트 보안 연구 부사장은 기조 강연에서 현재의 생성형 AI를 지능이 높은 아기로 비유했다. 생성형 AI는 많은 걸 알지만 기초적인 질문에는 엉뚱한 대답을 내놓는다는 뜻이다. 김 부사장은 “집에서 100m 거리에 세차장이 있는데 차를 타고 가야 할까, 걸어가야 할까 물으면 걸어가야 한다고 대답한다”며 “생성형 AI는 토큰을 이어 붙여 답을 생성하기 때문에 오답이 나올 수 있다”고 설명했다.

이러한 할루시네이션 현상은 보안 분야에서 ‘거짓 양성(False Positive)’을 유발할 수 있다. 거짓 취약점 검증에 시간을 낭비하게 되면 개발자가 실제 오류를 찾는 데 시간을 낭비할 수 있다. 이를 최소화하는 것이 AI 보안 시스템의 핵심 과제라는 설명이다.

현존하는 AI 모델의 한계를 극복하기 위해서는 하나의 생성형 AI 모델에 의존하기보다 역할을 세분화한 여러 AI 에이전트를 활용해야 하는 게 중요하다. 버그 탐지와 검증, 패치 생성 등을 각각 다른 에이전트가 맡고 여러 AI 모델의 결과를 교차 검증하는 '앙상블(Ensemble)' 구조를 적용하면 거짓 양성을 줄이고 정확도를 높일 수 있다는 것이다. 김 부사장은 "좋은 모델 하나를 쓰는 것보다 모델을 가장 잘 활용할 수 있는 인프라를 구축하는 것이 더 중요하다"고 강조했다.

김 부사장은 이러한 구조를 실제 AI 기반 보안 시스템에 적용한 결과 버그 탐지 정확도를 크게 높일 수 있었다고 설명했다. 여러 AI 에이전트가 각각 취약점 탐지와 검증, 패치 생성 등을 분담하고 결과를 교차 검증하면서 거짓 양성을 줄였다. 생성형 AI의 한계를 보완하는 시스템이 갖춰지면 보안 분야에서 AI의 활용 가치가 크게 높아질 것이라는 판단이다. AI가 단순히 취약점을 찾는 수준을 넘어 개발자의 분석과 검증을 지원하면서 방어 역량을 높이는 도구로 자리 잡고 있다는 설명이다.

김 부사장은 “AI는 해커에게 강력한 무기이지만 방어자에게도 동일한 무기”라며 “오류를 빨리 찾아내는 비율도 높아지고 있어 몇 년 뒤 방어자가 공격자를 치고 나갈 수도 있다”고 했다.

토론회에서는 AI 시대에 따른 보안 인력 배분 문제도 제기됐다. AI가 모든 걸 해결하면 당장은 편하지만 현재의 어린 세대가 미래의 시니어 전문가로 성장하지 못하면 인재가 성장할 수 있는 환경이 사라진다는 해석이다. 박세준 티오리한국 대표는 “실제로 AI에게 일을 시키면 더 빠르고 실용적”이라며 “컴퓨터 기초 학문 이해뿐만 아니라 AI 구현 원리까지 이해하는 인재가 필요하다”고 강조했다.

한편 코드게이트는 올해 최초로 한국과학기술원(KAIST)과 코드게이트보안포럼이 공동 개발한 AI 해커가 대회 본선 초청선수로 참가해 인간 해커와 같은 문제를 두고 경쟁을 벌였다. 대회 본선에는 88개국 3333명이 참여한다. 본선은 24시간 동안 진행되는 일반부와 12시간 동안 진행되는 주니어부로 나뉘어 진행됐다.

대회 결과 일반부에서는 ‘BunkyoWesterns’ 팀이 우승했으며 과기정통부 장관상과 상금 5000만원을 받았다. AI 해커는 18위를 차지했다. 주니어부에서는 김준원이 우승했으며 AI 해커는 2위를 기록했다. 개회사에서 최우혁 과학기술정보통신부 정보보호네트워크정책실장은 수상자들을 축하하며 “사이버보안 중요성을 깨닫고 있으며 인재 육성에도 많은 관심 가지고 있다”며 “국회 심의 등을 통해 예산을 포함한 지원 나설 것”이라고 밝혔다.