JP모건·모건스탠리 등 외부 AI 에이전트 차단…읽기 전용 접근만 허용 검토
JP모건체이스 등 미국 대형 은행들이 고객 계좌에 무단 접근하는 외부 AI 에이전트를 차단하고, AI 관련 대규모 금융사고에 대비한 비상계획을 마련하고 있다.
모건스탠리, 뱅크오브아메리카, JP모건, 웰스파고 등 미국 주요 은행들은 고객 계좌 안에서 은행 승인 없이 활동하는 제3자 AI 에이전트를 감지하고 있다. 일부 에이전트는 이용자의 지시 범위를 벗어나 독자적으로 행동한 정황도 포착됐다. 모건스탠리는 제3자 AI 에이전트를 플랫폼에서 완전히 차단하기 시작했다.
은행들이 미승인 AI 에이전트 활동에 노출된 주된 원인은 고객들이 편의를 위해 AI 에이전트에 계좌 로그인 정보를 직접 제공하기 때문이다. 은행의 보안 검증을 거치지 않은 AI가 계좌에 접근하는 사례가 늘고 있으며, 일부 에이전트는 사용자의 지시와 무관하게 독자적으로 행동하려 한 정황도 나타났다.
은행들이 우려하는 것은 AI 에이전트가 계좌에 접근하는 행위 자체보다 그 이후에 발생할 수 있는 예측하기 어려운 행동과 파급효과다. AI 에이전트가 고객의 요청을 처리하는 과정에서 승인받지 않은 거래를 실행하거나 자금을 이동시킬 경우 개인의 금전적 피해를 넘어 금융 시스템 전반의 혼란을 초래할 수 있다.
한 경제학자는 AI 에이전트들이 이용자들의 은행 예금을 더 높은 금리를 제공하는 다른 계좌로 일제히 옮길 경우 대규모 예금 인출 사태인 '뱅크런'이 발생할 가능성이 있다고 경고했다.
제이미 다이먼 JP모건 최고경영자(CEO)는 13일 3분기 실적 발표 자리에서 외부 에이전트의 무제한 접근은 고객과 JP모건 모두에 용납할 수 없는 위험을 초래한다고 밝혔다. 다이먼은 시카고 이코노믹클럽 행사에서도 "AI 에이전트가 당신의 은행 계좌 안에 들어와 있는 것이고, 당신은 그들이 당신을 위해 적절하게 행동할 것이라고 가정하지만 그렇지 않을 수 있다"고 경고했다.
다이먼은 "어떤 외부 에이전트도 회사 안으로 들어오는 것을 허용하지 않을 것"이라며 "불량 에이전트를 원하지 않는다. 그 수가 수천 개에 달할 수 있다"고 말했다. 이어 "AI를 막을 수는 없다. 철저하게 관리해야 한다"고 강조했다.
JP모건, 뱅크오브아메리카, 씨티는 에이전트를 전면 금지하는 대신 접근을 제한하는 방향을 택했다. 공통 방향은 잔액 조회나 거래 내역 확인은 허용하되 송금이나 결제는 차단하는 '읽기 전용' 접근이다. JP모건 대변인은 고객에게 "어떤 상황에서도 아이디와 비밀번호를 타인이나 AI 에이전트와 공유하지 말라"고 당부했다. 은행들은 현재까지 AI 에이전트의 일탈 행동으로 고객 자금에 실제 피해가 발생하거나 계좌가 해킹당한 증거는 발견되지 않았다고 밝혔다.
대형 은행들은 AI를 활용한 대규모 사이버 공격 가능성에도 별도로 대비하고 있다. 은행들은 앤트로픽이 개발한 AI 모델 '미토스'의 초기 시험에 참여해 사이버 공격에 악용될 수 있는 보안 취약점을 파악하고 대응 방안을 모색했다. 미토스는 소프트웨어와 전산망의 보안 취약점을 찾아내는 데 특화된 AI 모델로, 은행들은 이를 활용해 잠재적인 사이버 위협을 분석하고 방어체계를 점검해왔다.
은행들은 AI 관련 대규모 공격이 실제로 발생할 경우 고객 계좌를 보호하고 예금주들의 불안을 진정시키며 금융 서비스를 정상적으로 유지하기 위한 비상계획도 마련하고 있다. JP모건은 AI 자체를 거부하는 것이 아니라 안전하게 배치하는 것이 목표라는 입장이다. 현재 현금 흐름을 예측하고 수익을 극대화하도록 자금을 이동시키는 내부 도구 '스마트 캐시'의 소규모 시범 운영도 시작했다.
미국 연방준비제도(Fed)와 통화감독청(OCC), 연방예금보험공사(FDIC)도 금융기관들을 상대로 첨단 AI 시스템 도입 현황과 안전장치에 대한 질의에 나선 상태다.
