최근 정부에서 AI 기술을 활용한 보이스피싱 탐지 서비스들을 본격적으로 도입하고 있는 동향입니다.
1. 정부의 AI 보이스피싱 탐지 서비스 도입 배경
최근 보이스피싱 범죄가 급증하면서 정부와 민간이 협력하여 AI 기술을 활용한 대응 체계를 구축하고 있습니다. 경찰청에 따르면 보이스피싱 피해액은 2021년 7744억원에서 2022~2023년 사이 일시 감소했으나, 지난해 85% 증가하는 등 심각한 사회문제로 대두되었습니다.
특히 최신 기술을 악용한 보이스피싱이 증가하면서 다음과 같은 문제들이 발생했습니다.
- AI 딥보이스 기술을 이용한 가족 사칭
- 검찰·경찰 등 공공기관 사칭
- 가상자산과 연계된 신종 금융사기
- 스미싱과 결합된 복합적 범죄
2. 실시간 통화 기반 보이스피싱 탐지 서비스
2-1. 서비스 개요
과학기술정보통신부는 30일 제37차 신기술·서비스 심의위원회에서 실증특례로 지정된 '실시간 통화기반 보이스피싱 탐지 서비스'를 본격 개시한다고 밝혔다. 이 서비스는 실제 보이스피싱 통화 내역을 활용한 AI 기술을 통해 통화 중 실시간으로 위험도를 분석합니다.
2-2. 기술적 특징
- 실시간 음성 분석: 기존 텍스트 기반 분석보다 높은 정확도
- 화자인식 기술: 범죄자의 음성 패턴 인식
- 딥보이스 탐지: AI로 변조된 음성 감지
- 온디바이스 AI: 개인정보 보호를 위해 서버가 아닌 단말기에서 처리
2-3. 규제샌드박스 활용
'개인정보보호법'에 따르면 보이스피싱 음성은 민감정보에 해당해 이를 범죄 예방에 활용하기 위해서는 정보주체인 보이스피싱범의 동의가 필요하다는 현실적 어려움이 있었다. 이를 해결하기 위해 ICT 규제샌드박스 제도를 통해 실증특례로 지정되었습니다.
3. 통신사별 AI 보이스피싱 탐지 기술
3-1. SK텔레콤 - 스캠뱅가드(ScamVanguard)
SKT는 AI 사이버보안 기술 스캠뱅가드를 활용한 AI 기반 이상탐지 통합 서비스를 개발하고, IBK기업은행 및 자사 AI 서비스 에이닷(A.)에 적용했다.
주요 기능
- AI 미끼문자 탐지 시스템
- 피싱 시도 채팅 탐지 시스템
- 보이스피싱 통화 패턴 분석 AI
- 본인확인 분석 AI
성과
- IBK기업은행은 솔루션 정식 도입에 앞서 약 2주 동안 진행한 사전 테스트를 통해 총 26건의 보이스피싱 피해를 예방했으며, 약 5억 9천만 원의 금전적 손실을 막았다
- CES 2025 사이버보안 부문 최고 혁신상 수상
- MWC25 글로모 어워드 수상
3-2. KT - AI 보이스피싱 탐지 서비스
주요 특징
- 실시간 통화 분석
- 음성인식 및 언어처리 기술
- 범죄 전력 음성 탐지
성과
- 올해 상반기 동안 약 1460만건의 통화 트래픽을 분석해 91.6%의 탐지 정확도를 기록했으며, 약 710억원의 피해 예방 효과를 거뒀다
- KT는 이를 정부 발표 기준인 건당 평균 피해액(약 4100만원)으로 환산하면 약 160억원 규모의 피해를 예방한 효과가 있다고 추산했다
3-3. LG유플러스 - 익시오(ixi-O)
보이스피싱으로 의심되는 경우 AI가 통화 중 즉시 알림을 보내주는 보이스피싱 탐지 기능은 익시오의 핵심 서비스다. 익시오는 월평균 2만3000여건의 의심 통화를 탐지하는 것으로 알려졌다.
특징
- 실사용 데이터 기반 정밀 탐지
- 악성 앱 의심 경보 서비스
- 경찰과의 현장 협력 체계
4. 보이스피싱 AI 플랫폼 구축 계획
4-1. 플랫폼 개요
금융위원회는 28일 권대영 금융위 부위원장 주재로 보이스피싱 근절을 위한 현장간담회를 개최해 보이스피싱 AI 플랫폼(가칭) 구축 계획을 발표했습니다.
4-2. 정보 구성
플랫폼에 집중되는 정보는 크게 두 가지로 분류됩니다.
1) 긴급공유 필요정보
- 피해의심자 연락처
- 범죄자 계좌정보
- 즉시 공유가 필요한 긴급 정보
2) AI 분석정보
- 보이스피싱 의심계좌 특징
- 계좌 개설 내역 패턴
- 범죄 수법 분석 데이터
4-3. 참여 기관
- 전 금융권 (1·2금융권, 전자금융업자)
- 통신사 (SKT, KT, LG U+)
- 수사기관 (경찰청, 검찰청)
- 금융보안원 (AI 모델 개발 및 운영)
4-4. 기대 효과
이를 통해 사전탐지 역량이 상대적으로 낮은 제2금융권도 다양한 신종 범죄수법 데이터와 금융보안원의 AI기술 바탕으로 효과적으로 범죄계좌를 지급정지 조치할 수 있어 피해 예방이 강화될 것으로 기대됩니다.
5. AI 보이스피싱 탐지 기술의 작동 원리
5-1. 실시간 통화 분석
- 통화 중 음성을 실시간으로 분석
- 보이스피싱 의심 키워드 감지
- 통화 패턴 및 시나리오 매칭
5-2. 위험도 평가 및 알림
- AI가 위험도를 실시간 계산
- 일정 수준 이상 위험 감지 시 알림
- 문자 메시지로 경고 발송
- 심각한 경우 통화 자동 종료
5-3. 사후 대응
- 의심 번호 데이터베이스 등록
- 금융기관과 정보 공유
- 계좌 지급정지 등 즉각 조치
6. 개인정보 보호 방안
6-1. 기술적 보호조치
- 온디바이스 AI: 통화 데이터를 서버를 통하지 않고 단말 내에서 보이스피싱 여부를 탐지하는 '온디바이스AI' 기술이 적용될 것으로 보인다
- 가명처리 및 암호화
- 최소 정보 수집 원칙
6-2. 관리적 보호조치
- 개인정보보호위원회 사전 검토
- 정기적인 보안 점검
- 접근 권한 최소화
7. 향후 발전 방향
7-1. 기술 고도화
- 생성형 AI를 활용한 탐지 기술 개발
- 딥페이크 음성 탐지 강화
- 다국어 지원 확대
7-2. 협력 체계 강화
- 국제 공조를 통한 해외 발신 차단
- 민관 협력 플랫폼 확대
- 실시간 정보 공유 체계 구축
7-3. 법제도 정비
- 통신사기피해환급법 개정
- 정보 공유 특례 조항 마련
- AI 활용 범위 확대
8. 시민을 위한 활용 가이드
8-1. 서비스 이용 방법
- 통신사 앱을 통한 서비스 가입
- 보이스피싱 탐지 기능 활성화
- 가족 연락처 등록 (알림 공유)
8-2. 경고 알림 대응 방법
- AI 경고 메시지 수신 시 즉시 통화 중단
- 발신 번호 확인 및 차단
- 금융거래 진행 중이었다면 즉시 중단
- 필요시 경찰 신고 (112)
8-3. 예방 수칙
- 공공기관은 전화로 개인정보를 요구하지 않음
- 안전계좌로의 이체 요구는 100% 사기
- 의심스러운 경우 직접 해당 기관에 확인
- AI 탐지 서비스를 보조 수단으로 활용
이러한 AI 기반 보이스피싱 탐지 서비스는 기술 발전과 함께 지속적으로 고도화되고 있으며, 정부와 민간의 협력을 통해 더욱 정교하고 효과적인 범죄 예방 체계로 발전할 것으로 예상됩니다.
댓글