오탐을 60% 줄이면서도 범죄 포착은 4배로: HSBC AI 활용 사례
금융회사의 AI가 경고를 줄이면 실제 위험까지 놓치게 되지 않을까요? HSBC는 자금세탁방지 시스템에 AI를 적용해 오탐을 60% 줄이면서 실제 금융범죄 탐지를 기존보다 2–4배 높였습니다. 수십억 건의 거래를 분석하는 데 걸리는 시간도 수 주에서 수일로 단축했습니다.
이 결과가 중요한 이유는 효율과 위험관리 사이의 오래된 충돌을 풀었기 때문입니다. 단순히 경고 기준을 느슨하게 하면 조사량은 줄지만 범죄를 놓칩니다. HSBC는 더 적은 경고에서 더 많은 실제 위험을 찾았습니다. 좋은 금융 AI는 경고를 많이 만드는 시스템이 아니라 전문가의 시간을 진짜 위험에 집중시키는 시스템입니다.
HSBC AML AI의 탐지 성과
HSBC는 Google과 공동 개발한 Dynamic Risk Assessment를 자금세탁방지 거래 모니터링에 적용했습니다. 기존의 고정 규칙과 달리 고객과 거래의 다양한 행동 패턴을 함께 분석합니다.
의심 활동 탐지: 기존 시스템 대비 2–4배
오탐: 60% 감소
상업은행에서 확인된 금융범죄: 약 2배
소매은행에서 확인된 금융범죄: 거의 4배
거래 분석시간: 수 주에서 수일로 단축
의심 계좌 탐지: 최초 경고 뒤 약 8일 수준
HSBC는 이 결과를 공식 AI 금융범죄 사례에 공개했습니다.
HSBC의 2023년 투자자 자료는 이 시스템이 2021년 영국에서 시범 운영된 뒤 5개 시장, 고객의 80% 범위로 확대됐으며 당시 오탐이 60% 줄었다고 설명합니다. 2~4배 탐지 수치는 2024년 회사 발표 기준이며 두 자료 모두 HSBC의 내부 성과입니다.
기존 AML 시스템은 왜 오탐을 쏟아냈나
전통적인 자금세탁방지 시스템은 “일정 금액 이상의 해외 송금”, “짧은 기간의 반복 거래”처럼 전문가가 정한 규칙을 적용합니다. 규칙은 설명하기 쉽지만 고객의 정상적인 행동 맥락을 충분히 반영하지 못합니다. 사업상 해외 결제가 많은 고객과 갑자기 해외 송금을 시작한 고객에게 같은 기준이 적용될 수 있습니다.
경고가 만들어지면 조사자는 거래 내역, 계좌 관계, 고객 자료를 확인하고 필요하면 고객에게 소명을 요청합니다. 정상 거래가 잘못 걸리면 조사시간을 쓰고 고객의 결제도 지연됩니다. 경고의 대부분이 오탐이면 숙련된 조사자가 실제 범죄 신호를 찾을 시간이 줄어듭니다.
HSBC의 AI는 거래 하나만 보지 않고 계좌의 평소 행동, 자금 이동 순서, 관련 계좌 네트워크와 갑작스러운 변화를 함께 봅니다. 이미 알려진 범죄 유형을 찾는 데 그치지 않고 여러 계좌가 협력하는 패턴도 식별합니다. 경고 수를 줄이면서 실제 범죄 발견이 늘어난 배경입니다.
오탐 60% 감소의 경제적 가치
오탐 감소는 조사 인건비를 줄이는 데서 끝나지 않습니다. 정상 고객에게 서류를 다시 요구하거나 거래를 막는 일이 줄어 고객경험이 개선됩니다. 수사기관에는 관련성이 더 높은 정보를 제공할 수 있고, 조사자는 복잡한 사건에 더 많은 시간을 씁니다.
다만 HSBC는 절감된 금액을 공개하지 않았습니다. 오탐 한 건의 평균 조사시간과 인건비, 고객 이탈, 제재 위험이 외부에 알려지지 않았기 때문입니다. “오탐 60% 감소”를 곧바로 운영비 60% 감소로 바꿔 말하면 안 됩니다. 모델 운영과 검증을 담당하는 새로운 비용도 생깁니다.
그럼에도 탐지량 2–4배 증가와 오탐 60% 감소가 함께 공개됐다는 점은 강한 증거입니다. 비용을 줄이기 위해 위험을 희생한 것이 아니라 같은 프로세스의 정밀도를 높였기 때문입니다.
탐지율이 높아도 AI를 그대로 믿을 수 없는 이유
AI는 과거에 확인된 조사 결과를 학습합니다. 과거 조사가 특정 국가, 업종, 고객군에 집중됐다면 모델도 같은 집단을 더 자주 의심할 수 있습니다. 조사되지 않아 기록이 없는 신종 범죄는 낮은 위험으로 평가할 가능성도 있습니다.
가령 특정 국가로 송금하는 중소기업이 반복적으로 높은 점수를 받는다고 해보겠습니다. 실제 범죄가 많아서인지, 과거 규칙이 그 국가를 많이 조사해 학습 데이터가 치우친 것인지 구분해야 합니다. 점수만 보고 고객을 제한하면 차별과 사업 손실이 발생합니다.
AI 거버넌스 구축 시에는 탐지율과 오탐률을 고객군별로 나누어 보고, 새 범죄 유형이 등장했을 때 모델이 놓치는지 점검해야 합니다. 고위험 판단의 근거를 조사자에게 보여주고, 사람이 뒤집은 결정과 이유를 기록해야 합니다. 모델 업데이트 전에는 기존 시스템과 나란히 운용해 실제 사건 기준으로 비교해야 합니다.
그렇다면 설명하기 쉬운 규칙만 유지하는 편이 안전할까요? 그렇지 않습니다. 규칙 기반 시스템의 지나친 오탐도 고객과 조사조직에 위험을 만듭니다. AI 거버넌스는 복잡한 모델을 금지하는 것이 아니라 복잡성을 검증하고 책임질 방법을 마련하는 일입니다.
한국 기업이 HSBC 사례에서 배워야 할 실행 원칙
첫째, 자동화율보다 정밀도를 봐야 합니다. 검토 건수가 줄었는지뿐 아니라 실제 위험 발견과 놓친 위험이 어떻게 변했는지 함께 측정합니다.
둘째, 학습 데이터의 생성 과정을 조사해야 합니다. 과거의 조사 우선순위와 편향이 정답 데이터에 섞여 있을 수 있습니다.
셋째, 사람의 재량을 기록 가능한 피드백으로 바꿔야 합니다. 조사자가 점수를 무시한 이유가 남지 않으면 모델도 정책도 개선되지 않습니다.
넷째, 모델을 배치한 뒤 지속적으로 감시해야 합니다. 범죄자는 탐지 방식을 학습하고 행동을 바꾸므로 출시 시점의 정확도가 계속 유지되지 않습니다.
AML AI를 실전에 배치하는 검증 순서
첫 단계에서는 과거에 조사가 끝난 거래를 재생해 AI가 실제 범죄와 정상 거래를 어떻게 분류하는지 확인합니다. 이때 기존 규칙보다 경고가 적다는 이유로 통과시키면 안 됩니다. 범죄 유형별 탐지율, 오탐, 경고 한 건의 조사시간과 탐지까지 걸린 시간을 함께 비교해야 합니다.
다음에는 기존 시스템과 AI를 동시에 돌리는 그림자 운영이 필요합니다. AI 경고가 실제 고객이나 조사 순서에 영향을 주지 않는 상태에서 두 시스템의 차이를 조사자가 검토합니다. AI만 찾은 사건, 기존 규칙만 찾은 사건, 두 시스템이 모두 놓친 사후 사건을 분류하면 자동화 가능한 범위가 보입니다.
운영 전환 뒤에도 일정 비율의 저위험 거래를 무작위로 표본검사해야 합니다. 모델이 경고하지 않은 영역을 보지 않으면 미탐률을 계산할 수 없기 때문입니다. 특정 국가나 고객군의 경고가 갑자기 줄거나 늘면 성능 개선이 아니라 데이터 단절이나 편향일 수 있습니다.
비용 절감액을 계산할 때 빠지는 항목
오탐 감소로 절약한 조사시간은 담당자의 실제 인건비와 외주단가로 계산해야 합니다. 여기에 줄어든 고객 문의, 거래지연과 규제위험의 기대손실을 더할 수 있습니다. 그러나 모델 운영, 독립 검증, 데이터 보관, 감독기관 설명과 사람이 고난도 사건에 더 오래 쓰는 비용을 차감해야 합니다.
AI가 쉬운 경고를 제거하면 남은 사건의 평균 난도가 높아집니다. 전체 경고가 60% 줄었다고 조사팀 비용도 60% 줄지 않는 이유입니다. 반대로 같은 인력으로 더 많은 실제 범죄를 찾는다면 인원감축 없이도 강한 경제적 가치가 생깁니다.
자주 묻는 질문
오탐이 60% 줄었는데 탐지가 늘 수 있나요?
가능합니다. 정상 거래와 의심 거래를 더 정확히 구분하면 전체 경고는 줄면서 실제 위험이 포함된 경고 비율은 높아질 수 있습니다. HSBC는 탐지량도 2–4배 증가했다고 밝혔습니다.
AML AI가 고객 계좌를 자동으로 정지하나요?
공개 사례의 핵심은 AI가 위험을 식별하고 조사 우선순위를 높이는 것입니다. 계좌 제한과 신고 같은 최종 조치는 법적 절차와 사람의 검토 아래 운영해야 합니다.
일반 기업에도 같은 원리를 적용할 수 있나요?
부정 결제, 내부 이상행동, 품질 이상, 보안 경고처럼 오탐이 많은 탐지 업무에 적용할 수 있습니다. 단순 정확도보다 실제 사건 발견률과 검토비용을 함께 측정해야 합니다.
함께 읽으면 좋은 글
AI 거버넌스 전문 팀, 다빈치에 문의하세요
다빈치는 대기업, 스타트업, 공공기관 AI 거버넌스 구축 경험을 고루 갖춘 탑티어 인프라 엔지니어 조직입니다. AI 도입을 고민하고 계신 기업 담당자들께서는 고민을 다빈치에 편하게 공유해주세요. 상담은 무료입니다.