[이코리아] AI 기반의 음성 합성(딥보이스)과 얼굴 합성(딥페이크) 기술이 빠르게 발전하면서, 이를 악용한 AI 피싱 범죄가 급증하고 있다. 단순한 문자나 전화 사기를 넘어, 실제로 AI로 기업 간부의 목소리를 합성해 자금을 이체하도록 하는 보이스피싱이 발생하거나 자녀의 얼굴과 목소리를 AI로 조작하여 가족들에게 돈을 요구하는 등 고도화된 위협이 점차 현실화되고 있다.
보안기업 이스트시큐리티가 최근 국내 보안 전시회 'eGISEC 2025'에서 보안 실무자 1,969명을 대상으로 실시한 설문조사에서는, 66%가 AI·딥페이크 기반 피싱을 올해 가장 큰 보안 위협으로 인식한다고 답변했으며, 글로벌 사이버보안 기업 크라우드스트라이크가 '2025년 글로벌 위협 보고서'를 통해 지난해 하반기 AI 기반 보이스피싱이 상반기 대비 442% 증가했다고 분석하기도 했다.
어메이징 슬롯 기술을 사용한 사이버 공격은 이제 단순한 피싱을 넘어서, 사회공학적 공격과 비악성코드 기반 침투(정상 프로그램으로 위장한 침투) 등 다양한 형태로 진화하고 있다. 예를 들어, 채티 스파이더와 같은 사이버 범죄 그룹은 콜백 피싱(callback phishing) 기법을 사용해 법률 및 보험 업계를 표적으로 삼아 최대 1억1천7백만 원의 몸값을 요구한 사례도 있었다. 콜백 피싱이란, 공격자가 먼저 '결제 예정 요금'이나 '미납 청구서'와 관련된 유인성 이메일을 보내 사용자가 스스로 전화를 걸도록 유도한 뒤, 통화 과정에서 악성 파일 다운로드나 자격 증명 입력을 유도하는 사회공학 기반의 피싱 기법을 말한다.
이처럼 AI 보안 위협이 고도화되는 현실에 대응하기 위해, 국내 통신사들은 AI 탐지 기술을 기반으로 보이스피싱, 딥보이스, 딥페이크 범죄를 실시간 차단하는 ‘AI 기반 보안 체계’ 구축에 속도를 내고 있다.
LG 유플러스는 세계 최초로 온디바이스 AI 기반의 ‘안티딥보이스’ 기술을 상용화했다고 밝혔다. 지난 3월 MWC에서 공개한 ‘안티딥보이스(Anti-DeepVoice)’ 기술을 AI 통화 에이전트 서비스 ‘익시오(ixi-O)’에 탑재한 것이다.
‘안티딥보이스’는 AI가 위변조한 목소리를 판별하는 기술이다. 이 기술은 최근 위조한 목소리로 지인을 사칭하거나 인질극을 가장하는 등 AI를 활용한 보이스피싱 범죄가 늘고 있다는 점에서 큰 주목을 받고 있다.
LG유플러스는 안티딥보이스 기술을 개발하기 위해 AI 엔진에 약 3000시간 분량의 통화 데이터를 학습시켰다고 밝혔다. 3000시간은 통화 건수로 약 200만 건에 해당하는 양이다. 완성된 '안티딥보이스'는 위조된 목소리의 부자연스러운 발음을 찾아내거나 음성 주파수의 비정상적인 패턴을 탐지하는 등 과정을 통해 진위를 판별한다.
안티딥보이스 기술은 익시오를 통해 통화중인 상대방의 목소리가 위변조됐다는 사실을 즉각적으로 판별한다. 목소리 위변조 여부를 판단하는데 필요한 통화 데이터는 약 5초 남짓이다. 통화 상대방의 목소리가 위변조 된 경우, 익시오는 팝업 알림을 통해 고객에게 위험을 전달한다. 이를 통해 익시오 고객은 보이스피싱 위험으로부터 한층 보호받을 수 있을 것으로 기대된다.
나아가 LG유플러스는 AI가 합성한 얼굴을 활용한 범죄 피해를 예방하기 위한 ‘안티딥페이크’ 기술도 개발했다. 이 기술은 영상이나 이미지를 분석해, 합성된 영상에 남아있는 비자연적인 흔적을 탐지해 합성 여부를 판별한다. 픽셀 단위의 질감이나 사람의 눈에는 보이지 않지만 흔적으로는 남는 패턴의 불균형, 프레임 간 일관성이 떨어지는 현상 등을 분석해 합성 여부를 탐지하는 것이 핵심이다.
향후 LG유플러스는 안티딥페이크 기술을 활용해 영상을 이용한 피싱 범죄를 차단하고, 위변조된 유해 콘텐츠를 신속히 식별하는 등 새로운 기술들을 추가로 확보해 고객의 안전을 보호할 계획이다. 오는 8월에는 스팸과 보이스피싱 의심 전화를 AI가 대신 받아 주는 서비스를 선보일 예정이며, 시험 중인 범죄자의 목소리를 탐지하는 시스템은 올해 4분기 출시하는 것이 목표다.
다른 통신사들도 AI를 활용한 피싱 방지 기술을 개발하고 있다. SK텔레콤은 AI 사이버보안 기술 ‘스캠뱅가드(ScamVanguard)’를 기반으로 통신·금융 정보를 연계한 이상탐지 통합 서비스를 개발해 IBK기업은행, 자사 AI 서비스 ‘에이닷(A.)’ 등에 적용했다. AI가 통화 패턴을 분석해 보이스피싱 위험을 사전에 경고하고, 실제로 26건의 피해와 5억9천만 원의 금전 손실을 막는 성과도 거뒀다.
이 기술은 CES 2025 사이버보안 최고 혁신상, MWC 글로모 어워드 수상 등 국제적으로도 기술력을 인정받았다. SKT는 향후 음성·텍스트 변환 기반의 온디바이스 AI 탐지 시스템도 선보일 예정이다.
KT는 AI 보이스피싱 탐지 기능을 탑재한 ‘후후’ 앱을 상용화한 이후, 약 160억 원 규모의 피해를 사전에 차단했다고 밝혔다. 특히 케이뱅크와 협력해 실시간 탐지 정보를 은행의 금융사기 방지 시스템에 연동, 위험 전화를 받으면 출금 차단이나 본인 확인 절차가 자동으로 작동되도록 했다.
서울경찰청과도 협력해 악성 앱 설치 링크 분석, 피해자를 찾아가 대면 차단하는 사례도 확인됐다. KT는 AI 탐지 엔진 고도화와 화이트리스트·블랙리스트 체계를 보완하며 서비스 정밀도를 더욱 높일 계획이다.
지난 1일에는 은행연합회, LG 유플러스와 KT 3개사가 보이스피싱 예방·근절 위한 업무협약 을 체결한 바 있다. 당시 LG유플러스와 은행연합회, KT는 협약을 통해 보이스피싱 피해 예방 시스템 고도화 협업, 공동 홍보 체계 구축 등 보이스피싱 범죄 대응을 위한 적극적인 협력체계를 구축해 나갈 예정이라고 밝혔다.
특히 3사는 상호 정보 공유를 기반으로 보이스피싱 피해예방 시스템을 고도화하기로 했다. 구체적으로 은행연합회는 통신사의 보이스피싱 탐지시스템 고도화에 활용될 은행권 데이터를 제공하고. LG유플러스와 KT는 각각 보유하고 있는 보이스피싱 탐지시스템의 AI 분석 정보를 제공해 은행권의 이상거래탐지시스템을 고도화할 계획이다.
한편 SKT는 이에 앞서 지난 2023년 은행연합회와 전기통신 금융사기 예방·근절을 위한 업무협약을 체결한 바 있다.
정부 차원의 대응도 강화되고 있다. 한국인터넷진흥원(KISA)은 ‘QR 엑스레이 시스템’과 ‘카카오 보호나라’ QR검증 서비스 등을 통해 스미싱·큐싱을 사전에 차단하고 있으며, 통신 3사와 협력해 악성 문자·앱 탐지 체계도 구축 중이다.
해외에서도 AI 위협에 맞서 기술 개발을 이어가고 있다. 영국 통신사 O2는 'AI 할머니' 데이지를 개발, 보이스피싱범과 통화 시간을 끌며 범죄를 지연시키는 AI 대응 사례도 등장했다.
AI 기술로 피싱과 딥페이크 범죄가 더욱 정교해지고 있지만, 정부와 기업들 역시 AI를 보안 기술의 중심에 두며 ‘AI 대 AI’ 시대가 본격화되고 있다. 단편적인 기술 대응을 넘어, 금융, 공공, 통신 등 여러 분야가 상호 연결된 통합 보안 생태계 구축이 향후 보안 전략의 핵심이 될 것이라는 전망이 나온다.
