[딜사이트 변한석 기자] 인공지능(AI) 음성복제 기술이 고도화되면서 가족이나 지인의 목소리를 흉내 낸 보이스피싱 위협이 커지고 있다. 통신사들도 AI를 활용해 통화 내용뿐 아니라 목소리 자체를 분석하는 방식으로 대응 범위를 넓히고 있다. SK텔레콤은 가족 경고, KT는 성문 비교와 딥보이스 탐지, LG유플러스는 합성음성 판별을 중심으로 보이스피싱 대응을 강화하고 있다.

정부에 따르면 지난해 전체 보이스피싱 피해액은 약 1조2000억원으로 역대 최고치를 기록했다. AI를 이용한 보이스피싱 수법도 고도화되고 있다. 금융위원회와 금융감독원이 올해 2월 발표한 ‘보이스피싱 피해예방 10계명’에는 ‘가족도 AI 조작 의심’을 포함했다. 사기범이 자녀의 신상정보를 언급하며 납치를 가장한 뒤 AI로 조작한 목소리를 들려주고 돈을 요구할 수 있기 때문이다.

AI로 만든 목소리를 사람이 쉽게 가려내기 어렵다는 연구 결과도 나온다. 하버드대와 메타 연구진 등이 올해 미국 성인 4100명을 대상으로 한 AI 음성 피싱 연구에 따르면 가족이 위험에 빠졌다는 시나리오에서 응답자의 최대 36%가 범인의 요구에 따르거나 따를 가능성이 있다고 답했다. 일부 AI 음성 모델은 사람이 직접 말한 음성과 비교해 설득력 등에서 비슷한 평가를 받았다.

보이스피싱에 AI가 활용되면서 통신사들의 방어 기술도 달라지고 있다. 과거 의심 번호를 차단하거나 특정 단어와 대화 내용을 분석하는 방식에서 범죄자의 성문을 비교하고 AI가 만들어낸 목소리인지까지 확인하는 단계로 진화하고 있다. 통화 내용 분석은 개인정보 유출 우려를 줄이기 위해 외부 서버가 아닌 스마트폰 기기 자체의 온디바이스 AI를 기반으로 이뤄진다.

SK텔레콤은 에이닷 전화에서 통화 전·중 단계에 걸쳐 보이스피싱을 탐지하고 있다. 통화 전에는 ‘AI안심차단’으로 의심 전화를 차단하고 통화 중에는 AI가 대화 내용을 분석해 이용자에게 경고한다. 올해 4월에는 의심 정황이 탐지되면 사전에 등록한 가족이나 지인에게도 알리는 ‘가족 케어’ 기능을 추가했다. SK텔레콤에 따르면 AI안심차단은 올해 1분기 보이스피싱·스팸 약 3562만건을 차단했다. 올해 3월부터는 성문 데이터까지 활용해 누가 말하는지도 분석하고 있다.

KT는 후후에 적용한 ‘AI 보이스피싱 탐지 2.0’을 통해 대화 맥락 분석에 화자 인식과 딥보이스 탐지를 결합했다. 통화 상대의 성문을 수사기관이 확보한 보이스피싱 범죄자의 음성과 비교하고 AI가 합성한 음성인지도 함께 판별한다. 범죄자가 다른 사람의 목소리를 흉내 내는 경우까지 탐지 범위를 넓힌 것이다. KT에 따르면 지난해 4680만건 이상의 통화 가운데 3000여건의 보이스피싱을 예방했으며 탐지 정확도는 지난해 1분기 90.3%에서 4분기 97.2%로 높아졌다.

LG유플러스는 AI 통화 앱 ‘익시오’에 합성음성을 판별하는 ‘안티딥보이스’를 적용했다. 통화 음성의 주파수 특성을 분석해 약 5초 안에 위변조 여부를 판단하고 대화 패턴까지 분석해 보이스피싱 의심 여부를 탐지한다. LG유플러스에 따르면 지난해 6월 말 상용화 이후 첫 한 달간 약 5500건의 위변조 음성을 탐지했다. 기존의 ‘무슨 말을 하는지’에 더해 ‘실제 사람이 낸 목소리인지’까지 판별하는 방식이다.

AI가 목소리를 정교하게 복제할수록 그동안 신뢰의 근거였던 ‘익숙한 목소리’의 의미도 약해진다는 분석이 나온다. 이에 통신사들의 보이스피싱 방어선도 발신번호 차단과 통화 문맥 분석에서 범죄자 성문 비교, 합성음성 탐지, 가족 경고까지 여러 단계로 확대되고 있다.

다만 탐지 기술로 모든 보이스피싱을 걸러낼 수는 없다. 미국 연방거래위원회(FTC)는 가족이나 지인의 목소리가 들리더라도 믿지 말고 기존에 알고 있던 연락처로 당사자에게 직접 연락해 사실관계를 확인할 것을 권고한다. 정부도 개별 통신사의 탐지를 넘어 기관 간 정보를 공유하는 체계를 구축하고 있다. 과학기술정보통신부는 2026~2027년 ‘AI 기반 보이스피싱 통신서비스 공동 대응 플랫폼’을 구축해 경찰청·한국인터넷진흥원(KISA) 등 유관기관과 기업이 관련 데이터를 실시간으로 수집·분석·공유할 계획이다.

한 통신업계 관계자는 “AI를 활용한 보이스피싱은 새로운 수법이 빠르게 생겨나는 만큼 특정 기술 하나만으로 대응하기 어렵다”며 “통신 단계에서 이상 징후를 빨리 포착하고 금융·수사기관과 관련 정보를 공유해 실제 송금으로 이어지기 전에 차단하는 것이 중요하다”고 설명했다.