AI 보이스 클로닝·딥페이크 사기

서론

AI가 만든 목소리와 영상은 이제 보안팀만의 관심사가 아니다. 가족에게는 “사고가 났으니 지금 송금해 달라”는 전화로, 기업에는 “대표가 화상회의에서 긴급 결제를 지시했다”는 요청으로 나타난다. 문제는 피해자가 공격자의 시스템에 로그인하거나 악성코드를 실행하지 않아도 손실이 발생할 수 있다는 점이다. 공격자는 익숙한 목소리와 얼굴, 실제 조직 정보, 긴급한 상황 연출을 결합해 피해자가 스스로 송금하거나 승인하게 만든다.

이 공격의 핵심은 기술 자체보다 신뢰의 우회다. 목소리가 닮았는지, 영상이 자연스러운지에만 집중하면 방어가 늦어진다. 보이스 클로닝과 딥페이크 사기에 대응하려면 “진짜처럼 보이는 요청”을 “검증된 요청”으로 착각하지 않는 절차가 필요하다. 가족은 암구호와 콜백 규칙을 정해야 하고, 기업은 결제·지급처 변경·고액 송금에 대해 별도 채널 검증과 보류 절차를 기본값으로 둬야 한다.

본론

AI 사칭 사기가 노리는 지점

보이스 클로닝과 딥페이크 사기는 인증 시스템보다 사람의 판단 절차를 먼저 겨냥한다. 공격자는 공개 영상, SNS 게시물, 회의 녹화, 보도자료, 조직도, 채용공고, 이메일 서명, 메신저 대화 양식을 모아 관계와 업무 맥락을 만든다. 이후 피해자가 신뢰할 만한 가족, 임원, 거래처 담당자, 동료를 흉내 내며 돈이나 승인을 요구한다.

가족 대상 공격은 대개 감정과 시간을 압박한다. 자녀, 손주, 배우자, 부모를 사칭해 사고, 체포, 병원비, 휴대폰 분실, 지갑 분실 같은 상황을 주장한다. 통화 품질이 나쁘다거나 울먹이는 목소리를 섞어 세부 질문을 어렵게 만들고, 다른 가족에게 말하지 말라고 요구하기도 한다. 피해자는 금융기관의 일반 경고보다 익숙한 가족 목소리에 더 강하게 반응할 수 있다.

기업 대상 공격은 기존 비즈니스 이메일 침해(BEC)에 음성·영상 사칭을 결합하는 방식으로 진화한다. 이메일로 결제 명분을 만든 뒤 전화나 화상회의로 압박을 더하면, 재무 담당자는 여러 채널에서 같은 요청을 확인했다고 느낄 수 있다. 그러나 이메일, 통화, 화상회의가 모두 공격자가 설계한 흐름이라면 채널 수가 늘어도 검증이 강화된 것이 아니다. 요청 채널과 승인 채널을 분리하지 않으면 “영상에서 봤다”는 사실만으로 결제가 실행될 수 있다.

가족이 확인해야 할 위험 신호

가족 단위에서는 다음 신호를 사기 가능성으로 봐야 한다.

• 갑자기 돈, 상품권, 암호화폐, 간편송금을 요구한다.
• 통화를 끊지 말라고 하거나 다른 가족에게 알리지 말라고 한다.
• 새 번호, 새 계좌, 새 메신저 계정으로 연락한다.
• 사고·체포·병원비·납치성 상황처럼 즉시 판단을 요구한다.
• 본인 확인 질문에 짧게 답하거나 통화 품질 문제를 핑계로 회피한다.

이때 중요한 것은 통화 속 목소리를 판별하려고 애쓰지 않는 것이다. 통화를 끊고 기존에 저장된 번호로 다시 연락해야 한다. 당사자와 연결되지 않으면 배우자, 형제, 다른 자녀, 친구 등 사전에 정한 확인망을 통해 상황을 확인한다. 실제 긴급 상황이라도 5~10분의 확인 절차가 치명적 지연이 되는 경우는 드물다. 반대로 사기범에게는 그 시간이 가장 큰 방어 장치가 된다.

기업 결제 사기에서 반복되는 패턴

기업 환경에서 특히 위험한 요청은 고액 송금, 해외 송금, 신규 수취인 등록, 거래처 계좌 변경, 비밀 프로젝트 명목의 선급금, 임원 직통 지시다. 공격자는 “이사회 전까지 처리하라”, “보안상 기록을 남기지 말라”, “평소 절차는 나중에 맞추라”는 식으로 통제를 우회하려 한다. 이런 문구가 등장하면 요청자의 직급과 관계없이 고위험 결제 이벤트로 분류해야 한다.

딥페이크 영상회의도 결제 승인 증거로 삼아서는 안 된다. 영상 속 얼굴과 목소리가 자연스러워 보여도, 그것은 결제 시스템 안에서 남는 승인 기록을 대체할 수 없다. 통화 녹음, 채팅 캡처, 회의 녹화는 참고 자료일 뿐이다. 최종 승인은 ERP, 전자결재, 구매·지급 시스템 같은 공식 승인 경로 안에서만 유효해야 한다.

탐지 도구보다 절차 통제가 먼저다

딥페이크 탐지 기술은 보조 수단이 될 수 있지만, 모든 통화와 회의를 실시간으로 정확히 판별한다고 기대하기 어렵다. 특히 공격자는 짧은 통화, 낮은 화질, 잡음, 급한 상황을 활용해 탐지와 사람의 판단을 동시에 흐린다. 따라서 조직은 “진짜 목소리인지 확인한다”보다 “어떤 목소리로 요청하든 같은 결제 절차를 거친다”는 원칙을 세워야 한다.

이 원칙은 가족에게도 그대로 적용된다. 가족 목소리가 맞는지 맞히는 게임을 하지 말고, 송금 요청은 암구호와 콜백을 통과해야 한다는 규칙을 만든다. 절차가 사람의 기억과 감정에 의존하지 않도록 미리 정해 두는 것이 중요하다.

대응방안

가족용 점검 절차

가족은 간단한 규칙만으로도 보이스 클로닝 사기 위험을 크게 낮출 수 있다.

1. 가족 암구호를 정한다. 생일, 학교, 반려동물 이름, 여행지처럼 SNS에서 추측 가능한 단어는 피한다.
2. 돈을 요구하는 전화는 일단 끊는다. 상대가 끊지 말라고 할수록 사기 가능성이 높다.
3. 기존에 저장된 번호로 다시 전화한다. 통화 중 받은 번호나 문자로 받은 번호는 쓰지 않는다.
4. 당사자와 연결되지 않으면 다른 가족 1명 이상에게 확인한다.
5. 송금 전 최소 10분을 보류한다. 상품권, 암호화폐, 제3자 계좌 입금 요구는 특히 경계한다.
6. 부모·조부모처럼 고위험 가족에게 실제 사례와 확인 절차를 반복해서 설명한다.

기업용 결제 검증 절차

기업은 다음 통제를 재무·구매·경영지원 프로세스에 명문화해야 한다.

1. 음성·영상·메신저 지시는 결제 승인 증거가 아니라고 규정한다.
2. 고액, 긴급, 신규 수취인, 지급처 변경 요청은 자동으로 강화 검증 대상으로 분류한다.
3. 요청 채널과 승인 채널을 분리한다. 이메일로 온 요청은 ERP나 전자결재에서 별도 승인하고, 전화 요청은 사내 등록 연락처로 콜백한다.
4. 요청자가 알려준 전화번호나 회의 링크를 검증 경로로 쓰지 않는다. 사내 주소록, 계약서, ERP에 등록된 연락처만 사용한다.
5. 거래처 계좌 변경은 기존 등록 연락처 콜백, 계약 담당자 확인, 재무팀 2인 검토, 변경 사유 기록을 거친다.
6. 신규 또는 변경 계좌로 일정 금액 이상 송금할 때는 최소 수 시간 또는 다음 영업일까지 보류하는 기준을 둔다.
7. CEO, CFO, 본부장 지시라도 예외 승인으로 처리하지 않는다. 임원 요청일수록 더 엄격한 검증을 적용한다.
8. 결제 후에는 수취인 정보, 승인자, 콜백 결과, 확인 시각, 근거 자료를 감사 로그로 남긴다.

임직원 교육 체크리스트

교육은 “딥페이크를 눈으로 구별하라”가 아니라 “절차를 우회하지 말라”에 초점을 맞춰야 한다. 재무팀, 구매팀, 해외법인, 임원 비서, 헬프데스크, 신규 입사자는 우선 교육 대상이다.

• 긴급성, 비밀 유지, 기록 금지 요구를 고위험 신호로 분류한다.
• 화상회의 참석자 대부분이 말하지 않거나 상호작용이 부자연스러우면 별도 확인한다.
• 개인 메신저나 개인 이메일로 온 결제 지시는 공식 시스템으로 다시 접수시킨다.
• 계정이 정상 로그인 상태여도 결제 요청은 별도 절차를 거친다.
• 의심 요청은 보안팀·재무팀에 신고하고, 이미 송금했다면 즉시 은행 지급 정지와 수사기관 신고 절차를 시작한다.

결론

AI 보이스 클로닝과 딥페이크 사기는 “사람처럼 보이는 요청”을 “승인된 요청”으로 착각하게 만드는 공격이다. 따라서 대응의 중심은 완벽한 딥페이크 판별이 아니라 결제 전 검증 절차다. 가족은 암구호, 콜백, 확인망, 송금 보류를 생활 규칙으로 만들어야 한다. 기업은 음성·영상 지시를 결제 증거로 인정하지 않고, 고액·긴급·지급처 변경 요청에 대해 2채널 승인과 보류 절차를 강제해야 한다.

공격자는 앞으로 더 자연스러운 목소리와 영상을 만들 수 있다. 그러나 절차가 흔들리지 않으면 공격의 성공 가능성은 크게 낮아진다. “목소리가 맞는가”보다 “검증 절차를 통과했는가”를 묻는 습관이 보이스 클로닝·딥페이크 사기에 대한 가장 현실적인 방어선이다.

참고자료

• Medium, The AI Tricks That Are Fooling Everyone Right Now: https://medium.com/@prince.sh/the-ai-tricks-that-are-fooling-everyone-right-now-fc15df1f5b27
• FTC, Scammers use AI to enhance their family emergency schemes: https://consumer.ftc.gov/consumer-alerts/2023/03/scammers-use-ai-enhance-their-family-emergency-schemes
• FTC, Fighting back against harmful voice cloning: https://consumer.ftc.gov/consumer-alerts/2024/04/fighting-back-against-harmful-voice-cloning
• FBI, Business Email Compromise: https://www.fbi.gov/how-we-can-help-you/scams-and-safety/common-frauds-and-scams/business-email-compromise
• IC3, Business Email Compromise: The $55 Billion Scam: https://www.ic3.gov/PSA/2024/PSA240911
• Trend Micro, Deepfake CFO Video Calls Result in $25MM in Damages: https://www.trendmicro.com/en_us/research/24/b/deepfake-video-calls.html

본 콘텐츠는 AI 기술로 작성된 분석 리포트를 포함하고 있습니다. 내용 중 사실과 다르거나 보완이 필요한 정보를 발견하셨으면 댓글을 통해 의견을 부탁드립니다. 여러분의 피드백은 더 정확한 보안 정보 공유에 큰 도움이 됩니다.