[딜사이트 권녕찬 기자] "AI 기술은 현재의 단순 생성형 AI를 넘어 디지털 인간 형태의 'AI 에이전트'로 진화하게 될 것입니다. AI 에이전트는 본인의 일을 지원하는 비서 개념이 아니라 사람하고 똑같이 일을 하는 수준을 뜻합니다. 성공적인 AI 에이전트 구축을 위해선 명확한 로드맵과 디테일한 커뮤니케이션, AI 리스크를 관리할 수 있는 거버넌스가 필수적입니다."

김진숙 딜로이트코리아 AI & Data 리드 파트너는 지난 10일 딜사이트와의 인터뷰에서 "최근 6개월 사이 시장이 급격히 바뀌고 있다"며 이같이 말했다. 이어 "AI 에이전트는 정해진 권한과 통제 아래 특정 업무를 수행하도록 설계돼 있으며 일부 기업에서는 실험적 도입과 초기 적용 단계를 밟고 있다"고 설명했다.

김 파트너는 금융권 재무·리스크 자문과 디지털 전환(DX) 분야에서 20년 이상 경력을 쌓은 전문가다. 딜로이트 호주, EY 호주, 글로벌 대형은행들을 거쳐 다양한 금융권 글로벌 프로젝트를 수행했으며, 최근에는 에이전틱 AI를 중심으로 기업 경쟁력 강화를 위한 컨설팅을 주도하고 있다.

그는 "불과 작년까지만 해도 기업들이 AI 도입에 신중했던 기업들이 이제는 구체적 실행 단계에 들어섰다"며 "특히 대기업 임원진들이 'AI 에이전트'를 핵심 혁신 과제로 인식하기 시작했다"고 분위기 변화를 전했다. AI 기술은 생성형 AI를 넘어 스스로 업무를 계획하고 실행하는 '에이전틱 AI(Agentic AI)' 시대로 발전하고 있다는 게 그의 진단이다.

최근까지 기업들은 메타(Meta)의 라마(LLaMA) 등 오픈소스 AI 모델 등을 기반으로 사내 생성형 AI 서비스를 개발·실험하는 단계에 있었다. 하지만 요즘에는 자사 데이터와 프로세스를 결합한 맞춤형 모델 개발이나 AI 에이전트가 실제 업무 프로세스에 참여하는 실험적 프로젝트(PoC)를 병행하는 등 활용 방식이 빠르게 고도화되고 있다. 다만 이러한 시도는 아직 파일럿 단계에 머무는 경우가 많아 전사적 확장까지는 추가적인 거버넌스와 ROI(투자수익률) 검증이 필요한 상황이다.

김 파트너는 "국내 금융권에서는 망분리 규제, 내부 보안 기준, 데이터 주권 요건 등으로 온 프레미스(On-Premise, 자체 인프라 구축) 또는 전용 클라우드 기반으로 운영하는 경향이 강하고, AI 거버넌스 체계의 미비 또한 실제 운영 도입 속도를 늦추는 현실적 제약으로 작용하고 있다"며 "다만 최근 금융당국이 망분리 완화 로드맵을 발표하는 등 제도 개선 움직임도 나타나고 있다"고 말했다.

김 파트너는 AI 시장이 검색과 추론을 기반으로 결과를 생성하는 생성형 AI(GenAI, Generative AI)를 넘어, 스스로 업무를 계획하고 다단계로 실행까지 주도하는 에이전틱 AI 시대로 빠르게 진화하고 있다고 진단했다. 다만 국내에서는 아직 그 수준의 시스템을 구현한 사례가 드물다는 점도 언급했다.

그는 AI 에이전트에 대해 "하나의 태스크(Task, 업무)를 처음부터 끝까지(n2n, end-to-end) 수행할 수 있는 수준을 말한다"며 "여러 기능 모듈이 각자 작은 단위의 업무를 처리하고, 이를 통합·조율하는 상위 에이전트가 존재하는 구조"라고 설명했다.

김 파트너는 또 "AI 에이전트가 여러 개 모여 서로 협업하는 방식은 마치 오케스트라 같다"며 "AI 에이전트는 내가 뭔가를 하는 걸 지원하는 비서 개념이 아니라 사람하고 똑같이 일을 하는 동등한 개념"이라고 강조했다.

해외 사례로는 '뱅크 오브 뉴욕 멜론(BNY Mellon)'을 꼽았다. 김 파트너는 "뱅크 오브 뉴욕은 AI 에이전트를 마치 인간하고 똑같이 취급해서 MS 팀즈(마이크로소프트의 화상회의 솔루션) 팀미팅 때 AI 에이전트가 들어와 독립적인 역할을 수행한다"며 "빅테크는 사실 더 잘하고 있겠지만 저희 인더스트리 내에서 전문성 측면에서 봤을 때 BNY는 좋은 벤치마크 사례"라고 밝혔다.

김 파트너는 성공적인 AI 에이전트 구축을 위해 명확한 로드맵, 지속적인 커뮤니케이션, 거버넌스 체계를 필수 요소로 꼽았다. 그는 "글로벌에서 AI를 도입한 업체가 굉장히 많은데 저희 파트너들 서베이(조사) 결과를 보면 80%가 실패한다"며 "원하는 명확한 그림이 없기 때문"이라고 말했다.

실패 사례를 보면 명확한 마스터플랜 없이 시행착오를 겪는 경우가 많다. 그는 "예컨대 비슷한 펑션을 다른 그룹사에서도 만들고 있고 그래서 비용도 2배로 들고 서로 나중에 통합하려고 보니까 약간 알력성 콤플릭(갈등)이 생기기도 한다"며 "생각보다 빨리 성과가 나지 않거나 중간에 ROI(투자수익률) 증명을 못해서 중간에 펀딩이 중단되는 케이스도 많다"고 밝혔다.

김 파트너는 "AI는 더 이상 IT영역이 아니라 그냥 비즈니스 그 자체"라며 "AI가 진짜 성공하려면 비즈니스를 정말 잘 이해해야 하고, 그 비즈니스 워크플로우(업무 처리 과정) 내에서 AI가 어떻게 같이 인간과 협업할 수 있는지 잘 디자인해야 한다"고 말했다. 그러면서 "그 작업 중간중간에 반드시 얼마만큼 진행이 됐고 그래서 어떤 식으로 효과를 주고 있는지 등을 지속적으로 서로 커뮤니케이션해야 한다"고 힘줘 말했다. 

특히 '거버넌스'의 중요성을 재차 강조했다. 김 파트너는 "에이전트 AI의 가장 큰 특징이 '자율성'인데 그러면 그만큼 위험도 증가하게 된다"며 "우리가 쓰는 모델들이 많이 디벨롭(발전)이 됐다고 해도 여전히 데이터에 대한 편향성 문제가 심각하고 그 데이터 편향성으로 잘못된 판단을 하는 경우가 분명히 있기 때문에 위험을 잘 관리할 수 있는 거버넌스 구축이 필수적"이라고 밝혔다.

이어 "단순히 내부용으로 쓰는 AI라면 괜찮지만, 외부로 공개되는 서비스라면 사회적 파급효과를 고려해야 한다"며 "AI의 윤리, 투명성, 책임성을 관리할 수 있는 거버넌스가 앞으로 기업 경쟁력을 좌우하게 될 것"이라고 말했다.