금융·보험 AI 에이전트 도입 확대: 의사결정 업무 보안 점검 포인트

서론

금융·보험권의 AI 활용은 문서 요약이나 상담 챗봇을 넘어 의사결정 업무 가까이 이동하고 있다. 고객정보 분석, 리스크 분석, 상품 추천, 보험 언더라이팅, 청구 심사, 사기 탐지, 내부 업무 자동화처럼 결과가 고객 권리와 의무에 영향을 줄 수 있는 영역에서 AI 에이전트 도입 논의가 커지고 있다.

국내에서도 금융위원회는 2026년 6월 금융권 AX 간담회에서 금융권 AI 에이전트 도입 흐름과 규제 불확실성 해소 필요성을 언급했다. 같은 발표에서 금융분야 AI 가이드라인의 7대 원칙으로 거버넌스, 합법성, 보조수단성, 신뢰성, 금융안정성, 신의성실, 보안성을 제시했다. 특히 보조수단성은 AI가 최종 의사결정자가 아니라 사람의 판단을 돕는 수단이라는 점을 분명히 한다.

해외에서도 비슷한 흐름이 보인다. 영국 FCA의 Mills Review는 소비자와 금융회사가 더 많은 금융 의사결정을 AI에 위임할 수 있으며, AI가 추천을 넘어 거래 개시와 결정 실행까지 수행할 가능성을 다룬다. 보험 분야에서는 NAIC가 언더라이팅, 가격, 고객서비스, 청구, 마케팅, 사기 탐지 등 보험사의 AI 활용 영역을 정리하고, AI가 지원한 결정도 보험법과 공정성·정확성·차별금지 의무를 준수해야 한다는 감독 관점을 제시한다.

이 글의 초점은 AI 에이전트 도입 자체의 찬반이 아니다. 의사결정 업무에 AI 에이전트를 붙일 때 어떤 보안 통제를 먼저 설계해야 하는지다. 기존 챗봇 보안 통제만으로 충분하다고 단정하기보다, 에이전트가 실제 데이터와 도구를 호출하는 구조에 맞춰 추가 통제를 설계하는 편이 안전하다.

본론

AI 에이전트는 답변 시스템이 아니라 업무 행위자에 가깝다

전통적인 챗봇은 대체로 질문에 답하거나 문서를 요약하는 데 머물렀다. 반면 AI 에이전트는 목표를 해석하고, 필요한 데이터를 조회하고, 내부 시스템이나 외부 도구를 호출하며, 다음 행동을 선택할 수 있다. 이 차이 때문에 보안 통제의 중심도 모델 응답 품질에서 에이전트 ID, 권한, 도구 호출, 데이터 흐름, 승인 절차, 감사 증적으로 넓어진다.

금융·보험 환경에서 이 변화는 더 민감하다. 에이전트가 고객정보를 조회하고, 신용정보나 보험 청구자료를 분석하고, 고객에게 안내 문구를 생성하고, 특정 상품을 추천하거나 심사 결과를 보조한다면 잘못된 출력이 단순 오류로 끝나지 않는다. 고객 불이익, 개인정보 노출, 불완전판매, 차별적 의사결정, 규제 조사 대응 실패로 이어질 수 있다.

따라서 AI 에이전트를 설계할 때는 "무엇을 대답할 수 있는가"보다 "무엇을 할 수 있는가"를 먼저 확인해야 한다. 조회, 추천, 초안 작성, 외부 전송, 고객 통지, 지급·승인·거절 같은 행위를 분리하고, 각 행위마다 허용 조건과 승인 단계를 다르게 둬야 한다.

금융·보험 의사결정 업무의 주요 위험

첫 번째 위험은 프롬프트 인젝션과 간접 인젝션이다. 공격자는 웹페이지, 이메일, 첨부문서, 고객 업로드 파일, RAG 문서에 숨긴 지시문으로 에이전트의 목표나 도구 호출을 바꾸려 할 수 있다. 금융·보험 환경에서는 고객정보 조회, 청구자료 열람, 내부 리스크 기준표 검색, 고객 통지 초안 생성 과정에서 이런 위험이 현실적인 시나리오가 된다.

두 번째 위험은 과도한 권한이다. 에이전트가 사람 계정을 공유하거나 넓은 업무 권한을 상속하면 잘못된 모델 출력이 실제 조회, 변경, 전송, 지급 행위로 이어질 수 있다. 조회만 필요한 에이전트가 외부 전송 권한을 갖거나, 초안 작성 에이전트가 고객 통지까지 자동 실행할 수 있다면 사고의 범위가 커진다.

세 번째 위험은 민감정보 유출이다. 고객식별정보, 신용정보, 보험 청구자료, 의료·건강정보, 투자성향, 내부 리스크 모델과 심사 기준이 프롬프트, RAG 결과, 모델 응답, 로그, 외부 모델 호출 과정에서 노출될 수 있다. 외부 LLM이나 제3자 에이전트 플랫폼을 사용할 때는 재학습 여부, 로그 보관 위치, 국외 이전, 하위 처리자, 삭제·보존 정책을 계약과 기술 통제로 함께 확인해야 한다.

네 번째 위험은 의사결정 오류와 컴플라이언스 리스크다. 국내 금융분야 AI 가이드라인은 최종 책임과 인간 개입 원칙을 강조한다. 고객 권리와 의무에 영향을 주는 판단에는 사람의 책임, 설명 가능성, 이의제기와 정정 절차가 필요하다. 보험 언더라이팅, 가격 산정, 청구 심사, 사기 탐지, 대출·투자 권유에서는 편향, 부정확성, 설명 부족이 소비자 피해와 감독 리스크로 연결될 수 있다.

다섯 번째 위험은 제3자 및 집중 리스크다. 외부 LLM, 임베딩 모델, 에이전트 플랫폼, MCP나 도구 서버, 클라우드, 데이터 공급자가 동시에 장애나 정책 변경을 일으키면 다수 업무가 영향을 받을 수 있다. FCA와 영국 금융당국의 Critical Third Parties 논의는 주요 기술 제공자 장애가 금융회사와 시장에 동시 영향을 줄 수 있다는 관점을 보여준다. AI 에이전트 운영에서도 클라우드·모델·도구 제공자 의존도를 별도 관리해야 한다.

출처를 어떻게 해석해야 하나

금융위원회 발표는 국내 금융권 AI 에이전트 도입과 금융분야 AI 가이드라인의 직접 근거로 활용할 수 있다. FCA Mills Review는 영국 소매금융에서 AI가 추천과 실행에 가까워질 수 있다는 규제·정책 논의 자료로 볼 수 있다. NAIC 자료는 보험사가 AI를 활용하는 업무 영역과 감독상 고려사항을 확인하는 직접 출처다.

OWASP Top 10 for LLM Applications와 NIST AI Risk Management Framework, NIST Generative AI Profile은 금융권 전용 규정은 아니지만, 프롬프트 인젝션, 민감정보 노출, 도구 설계 취약점, 과도한 자율성, 모델 탈취, 거버넌스와 위험 관리 체계를 정리하는 실무 기준으로 참고할 수 있다.

금융보안원의 "금융분야 인공지능 보안 안내서"는 국가전략정보포털 상세 페이지에서 발행처가 금융보안원, 발행일이 2026년 6월 19일, 문서 식별자가 PLAN0000064529로 확인된다. 해당 페이지에는 AI 특화 보안 위협 식별, 입출력 필터링, 회피 공격 대응, 적대적 공격 테스트, 실시간 모니터링, 데이터·모델 추출 공격 대응, 자산 목록 및 형상 관리, 외부 모델·데이터 검증, 공급망 보안, 접근 통제와 권한 관리 등이 목차로 제시돼 있다. 다만 이 경로는 금융보안원 공식 사이트의 직접 PDF URL이 아니라 국가전략정보포털 상세 페이지이므로, 본문에서는 보조 근거로 제한하고 핵심 주장은 직접 확인 가능한 금융위·FCA·NAIC·OWASP·NIST 자료에 둔다.

CSA의 2026년 금융서비스 클라우드·AI 보고서는 업계 동향 참고자료로만 해석하는 편이 안전하다. 금융기관이 클라우드와 AI 실험을 넘어 대규모 AI 에이전트와 자율 시스템을 검토하고 있다는 흐름을 보는 데는 도움이 되지만, 공식 규제 요건이나 감독 기준처럼 서술해서는 안 된다.

보안 점검 포인트 1: 에이전트 권한 범위

AI 에이전트에는 사람 계정을 공유시키지 않는 것이 기본이다. 에이전트별 독립 ID를 발급하고, 업무·데이터·도구 단위로 최소권한을 적용해야 한다. 같은 고객 상담 영역이라도 조회, 추천, 초안 작성, 외부 전송, 거래 실행, 고객 통지는 서로 다른 권한으로 분리해야 한다.

고위험 API는 기본 차단 후 승인 기반으로 허용하는 방식이 적절하다. 결제, 대출 승인, 신용한도 변경, 보험금 지급·거절, 투자 권유, 고객 불이익 통지, 약관·상품설명 생성은 에이전트가 단독 실행하지 않도록 설계해야 한다. 자동화가 필요한 경우에도 업무 위험도, 금액, 고객 영향, 법적 고지 여부를 기준으로 승인 단계를 나눠야 한다.

권한 검토는 배포 전 한 번으로 끝나지 않는다. 에이전트가 새 도구를 연결하거나 RAG 데이터 범위가 바뀌거나 외부 전송 기능이 추가될 때마다 권한 재검토가 필요하다. 운영 중에는 에이전트별 대량 조회, 평소와 다른 도구 조합, 반복된 정책 회피 시도, 외부 전송 증가를 탐지해야 한다.

보안 점검 포인트 2: 데이터 반출 통제

금융·보험 AI 에이전트는 민감정보를 많이 다룬다. 고객식별정보, 신용정보, 보험 청구자료, 의료·건강정보, 투자성향, 내부 리스크 기준표, 심사 로직이 외부 모델이나 제3자 플랫폼으로 넘어가는지 먼저 확인해야 한다. 데이터가 모델 입력에 들어가는 경우뿐 아니라 첨부파일, 검색 결과, 도구 호출 인자, 로그, 모델 응답에도 같은 통제를 적용해야 한다.

입력 단계에는 DLP, 마스킹, 토큰 단위 민감정보 탐지, 비신뢰 문서 분리 정책을 적용한다. 출력 단계에는 개인정보와 내부 기준표, 모델 파라미터, 위험평가 로직이 노출되지 않도록 필터링해야 한다. RAG를 사용하는 경우 검색된 문서의 권한과 사용자의 실제 권한이 일치하는지 확인하고, 에이전트가 사용자의 권한을 넘어 문서를 요약하지 않도록 해야 한다.

외부 모델 사용 시에는 계약 검토도 필요하다. 재학습 사용 여부, 로그 보관 기간, 저장 위치, 국외 이전, 하위 처리자, 사고 통지, 삭제 요청 처리, 감사권을 확인해야 한다. 민감도가 높은 업무는 전용 인스턴스, 비저장 옵션, 내부 모델, 프라이빗 배포 방식이 필요한지 검토한다.

보안 점검 포인트 3: 승인 워크플로우

AI 에이전트가 분석과 추천을 수행할 수는 있어도, 고객 권리·의무에 영향을 주는 결정은 사람의 승인 단계를 둬야 한다. 추천과 실행을 분리하고, 실행 전 사람이 확인하는 Human-in-the-Loop 구조를 적용하는 것이 기본이다.

승인 화면에는 단순히 "AI 추천"이라는 결과만 보여주면 부족하다. 사용한 데이터, 근거 문서, 모델 버전, 도구 호출 내역, 신뢰도나 불확실성, 정책 위반 경고, 고객 영향 범위를 함께 표시해야 한다. 승인자가 판단 근거를 볼 수 있어야 사후 민원, 감독 대응, 내부 감사에서 설명 가능성이 생긴다.

일정 금액 이상의 결제, 신용한도 변경, 보험금 지급 거절, 투자 권유, 고객 불이익 통지는 2인 승인 또는 독립 검토 대상으로 둘 수 있다. 저위험 내부 요약이나 초안 작성은 승인 부담을 낮출 수 있지만, 고객에게 직접 전달되거나 거래를 실행하는 단계에서는 통제를 강화해야 한다.

보안 점검 포인트 4: 로그와 감사

에이전트형 AI는 사고가 났을 때 "왜 그런 결정을 했는지"를 재현할 수 있어야 한다. 프롬프트, RAG 출처, 모델과 버전, 도구 호출, 입력·출력 해시, 승인자, 최종 실행 결과를 상호 연결 가능한 이벤트로 저장해야 한다. 민감정보를 그대로 로그에 남기지 않도록 마스킹과 접근 통제도 함께 필요하다.

감사 로그는 보안 사고 대응뿐 아니라 금융소비자 보호와 규제 대응에도 중요하다. 고객별, 계정별, 에이전트별 의사결정 재현성을 확보해야 민원이나 감독 조사에서 설명할 수 있다. AI가 생성한 추천을 사람이 승인했는지, 사람이 어떤 근거를 보고 수정했는지, 최종 고객 통지 내용이 무엇이었는지를 연결해야 한다.

탐지 룰은 기존 애플리케이션 로그와 AI 특화 이벤트를 함께 봐야 한다. 대량 조회, 비정상 도구 조합, 고위험 출력 반복, 외부 전송 시도, 정책 회피 문구, 반복된 401·403, 승인 직전 취소와 재시도 같은 패턴을 우선 감시한다.

보안 점검 포인트 5: 모델·도구 공급망

AI 에이전트는 모델 하나로 끝나지 않는다. 외부 LLM, 오픈소스 모델, 임베딩 모델, RAG 데이터, 플러그인, MCP나 도구 서버, 클라우드, 벡터DB, 데이터 공급자가 함께 연결된다. 어느 한 구성요소가 바뀌어도 의사결정 결과와 보안 상태가 달라질 수 있다.

공급망 관리는 출처, 버전, 무결성, 업데이트 주기, 취약점 공지, 계약상 보안 의무를 확인하는 것에서 시작한다. 제3자 모델이 보험·금융 의사결정에 쓰이면 성능뿐 아니라 편향, 설명 가능성, 데이터 사용 권한, 재학습 정책, 로그 보관 정책까지 검토해야 한다.

주요 클라우드나 AI 플랫폼에 대한 집중도도 관리해야 한다. 장애, 지역 제한, 정책 변경, 가격 변경, 모델 폐기, API 동작 변경이 핵심 업무에 미치는 영향을 평가하고, 수동 전환이나 대체 운영 절차를 마련해야 한다.

보안 점검 포인트 6: AI 특화 공격 대응

AI 에이전트 운영 전에는 직접·간접 프롬프트 인젝션, 탈옥, 데이터 오염, 모델 오염, 모델 추출, 과도한 자율성, 도구 오용을 테스트해야 한다. 외부 문서, 웹페이지, 이메일, 고객 업로드 파일은 비신뢰 컨텍스트로 분리하고, 시스템 지시와 혼합되지 않도록 처리해야 한다.

도구 호출 전 정책 검사도 필요하다. 에이전트가 외부 전송, 고객 통지, 데이터 다운로드, 결제 실행 같은 행위를 요청하면 목적, 입력 데이터, 호출 대상, 고객 영향, 승인 상태를 검사해야 한다. 모델이 자연어로 "필요하다"고 판단했더라도 시스템 정책을 우회해서는 안 된다.

운영 중에는 레드팀 테스트와 모의감사를 반복한다. 새 모델, 새 프롬프트, 새 도구, 새 데이터셋이 들어올 때마다 보안성 검증을 수행하고, 사고 후에는 프롬프트와 도구 호출을 재현할 수 있어야 한다.

대응 우선순위

즉시 점검할 항목은 에이전트 자산목록, 에이전트별 독립 ID, 권한 범위, 연결된 API와 도구, 접근 가능한 데이터 목록, 외부 전송 가능 여부다. 고객정보·신용정보·보험 민감정보에 접근하거나 지급·승인·거절·통지 행위를 수행하는 에이전트는 고위험으로 분류한다.

30일 내에는 고위험 업무의 승인 워크플로우와 감사로그 표준을 정비한다. 프롬프트 인젝션, 도구 오용, 데이터 반출, 모델 응답 오류에 대한 테스트 케이스를 만들고, 외부 모델·도구 공급망 체크리스트를 마련한다. 고객에게 AI 활용 사실을 고지해야 하는 업무, 사람 상담이나 검토로 전환해야 하는 업무, 이의제기 절차가 필요한 업무도 함께 정리한다.

90일 내에는 NIST AI RMF 기반 위험평가와 기존 내부통제·모델리스크관리 절차를 연결한다. 운영 중 이상행위 탐지 룰을 만들고, 정기 레드팀, 모의감사, 장애 복구훈련을 수행한다. 업무별 자동화 허용 수준을 보조, 추천, 제한 실행, 자동화 금지 영역으로 나누고, 이를 정책과 시스템 통제에 반영한다.

결론

금융·보험권의 AI 에이전트 도입은 업무 효율을 높일 수 있지만, 의사결정 업무에 가까워질수록 보안 통제도 정교해져야 한다. 에이전트를 단순 챗봇으로 보면 권한, 데이터 반출, 승인, 로그, 공급망, AI 특화 공격 대응을 놓치기 쉽다.

실무적으로는 저위험 내부 요약·검색·초안 작성부터 통제된 방식으로 시작하고, 고객 권리와 의무에 영향을 주는 자동 결정과 금전 이동은 사람 승인과 재현 가능한 증적 없이 운영하지 않는 원칙이 필요하다. AI 에이전트의 안전한 도입은 모델 성능보다 통제 설계에서 갈린다.

조직은 지금 에이전트가 접근하는 데이터와 도구부터 목록화해야 한다. 그 다음 업무 위험도에 따라 권한과 승인 단계를 나누고, 로그와 공급망 검증, 프롬프트 인젝션 대응, 데이터 반출 통제를 붙여야 한다. 금융·보험 AI 에이전트 보안의 핵심은 "더 똑똑한 모델"이 아니라 "책임 있게 제한된 행위"다.

참고자료

1. 금융위원회
   https://www.fsc.go.kr/no010101/87142

2. 금융보안원 금융분야 인공지능 보안 안내서(국가전략정보포털 상세 페이지, PLAN0000064529)
   https://nsp.nanet.go.kr/plan/subject/detail.do?nationalPlanControlNo=PLAN0000064529

3. FCA, AI and the future of retail financial services(The Mills Review)
   https://www.fca.org.uk/publications/corporate-documents/mills-review

4. FCA, UK financial regulators overseeing critical third parties
   https://www.fca.org.uk/news/statements/uk-financial-regulators-overseeing-critical-third-parties-announced-treasury

5. NAIC, Artificial Intelligence
   https://content.naic.org/insurance-topics/artificial-intelligence

6. OWASP Top 10 for LLM Applications
   https://owasp.org/www-project-top-10-for-large-language-model-applications/

7. NIST AI Risk Management Framework
   https://www.nist.gov/itl/ai-risk-management-framework

8. NIST Generative AI Profile
   https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf

9. Cloud Security Alliance, State of Cloud and AI for Financial Services 2026
   https://cloudsecurityalliance.org/artifacts/state-of-cloud-and-ai-for-financial-services-2026

본 콘텐츠는 AI 기술로 작성된 분석 리포트를 포함하고 있습니다. 내용 중 사실과 다르거나 보완이 필요한 정보를 발견하셨으면 댓글을 통해 의견을 부탁드립니다. 여러분의 피드백은 더 정확한 보안 정보 공유에 큰 도움이 됩니다.