인스타 한국인 팔로워 [경제뭔데]내 보험금·대출 AI가 심사한다는데···어디까지 믿어도 될까 > 온라인문의

인스타 한국인 팔로워 [경제뭔데]내 보험금·대출 AI가 심사한다는데···어디까지 믿어도 될까

페이지 정보

작성자 이진숭
댓글 0건 조회 0회 작성일 26-06-20 21:07

본문

인스타 한국인 팔로워 “초고성능 인공지능(AI)이 인간의 의도를 벗어나는 상황에 대비하기 위해….”, “고위험 AI 시스템이 최종적 의사결정을 수행하지 않도록….”
기계와 인간의 갈등을 다룬 공상과학(SF) 소설의 한 대목 같지만, 아닙니다. 정부가 이번 주에 발표한 ‘금융 분야 AI 가이드라인’의 한 구절입니다. 너무 ‘오버’ 하는 것 같다구요? 은행·보험 같은 일상적인 금융 업무에서 AI가 얼마나 많이 쓰이는지 알면 저런 걱정을 이해하실 겁니다.
간단한 보험금 청구만 해도 그렇습니다. 요즘은 핸드폰 카메라로 진료비 내역서를 촬영해 보험사 어플리케이션(앱)에 올리면 거의 곧바로 보험금이 나옵니다. 보험사들이 AI 자동심사 모델, 서류 광학문자인식(OCR) 기술, 즉시송금시스템 등을 앞다퉈 도입한 결과입니다.
최근 실손보험을 청구했던 40대 직장인 A씨는 “앱으로 신청하고 잠깐 자리를 비우고 돌아왔는데 8분만에 보험금이 나왔다”며 “작년만 해도 3~4일은 걸렸던 것 같은데 정말 깜짝 놀랐다”고 말했습니다.
이미 은행권은 AI 대출심사 시스템으로 인력·비용을 빠르게 줄여 나가고 있고요, AI가 투자 종목을 추천해주는 ‘로보어드바이저’도 널리 쓰입니다. 자동차보험에서는 ‘블랙박스 영상활용 AI 과실판정 시스템(DB손해보험)’이 지난 주 출시됐습니다.
그러나 이런 걱정도 듭니다. 만약 AI의 판단 착오로 받아 마땅한 보험금을 못 받거나, 대출 심사에서 억울하게 탈락한다면 그 책임은 누가 질까요? 금융사 AI가 악의적인 누군가의 ‘가스라이팅’에 넘어가 민감한 고객 정보를 줄줄이 털어놓는다면요?
이번주 [경제뭔데]에서는 내 재산을 지키고 불리는 과정에서 AI가 필수불가결한 요소로 떠오른 요즘, ‘양날의 검’ 같은 위험성에 대처하기 위한 정부·금융권의 가이드라인도 알아보겠습니다.
금융위원회는 지난 18일 ‘금융분야 AI 가이드라인’을 내놓았습니다. 오는 22일 은행·보험사·증권사 등 전 금융권에 배포됩니다. 이 가이드라인을 참고해서 각 회사들이 자율적인 규제방안을 마련하라는 거죠.
사실 정부가 금융업계를 위한 AI 가이드라인을 처음 만든 건 5년 전인 지난 2021년입니다. 그런데 이듬해 챗GPT 등장과 함께 생성형 AI 기술이 폭발적으로 발전하면서 가이드라인은 이후 몇 차례 업데이트됐고, 최근에는 압도적인 보안·해킹 능력을 가진 ‘클로드 미토스’ 이슈까지 반영해 2026년판 개정안이 새로 나왔습니다.
이번 가이드라인은 AI를 활용하는 모든 금융회사가 따라야 할 7대 원칙을 제시했습니다. 먼저 경영진이 AI 개발·활용에 대한 관심을 갖고 역할·책임을 분담해야 한다는 점(거버넌스 원칙), 금융·AI 법규를 지켜야 한다는 점(합법성 원칙)을 제시했습니다.
무엇보다도 의사결정에 따른 책임은 ‘인간 임직원’에게 있다는 점을 강조했습니다(보조수단성 원칙). 월등한 성능으로 금융소비자들에게 큰 영향을 끼칠 수 있는 ‘고영향·고위험 AI’가 의사결정을 최종적으로 내리지 않아야 한다는 겁니다.
예컨대 미국 앤트로픽의 미토스는 너무나도 성능이 뛰어난 탓에, 운영체제를 해킹해 소스코드 수정 권한을 얻어내려 하거나 임무에 실패해도 해당 파일을 삭제한 후 성공했다고 보고하는 등 인간의 의도에서 벗어나는 이상 행동이 다수 관찰된 바 있습니다.
막대한 돈이 오가는 금융 업무에서 ‘자의적으로 판단하는 AI’는 위험한 결과를 초래할 수 있습니다. 위험 임계치를 넘어선 투자 결정을 내리거나, 과도한 대응으로 고객 민원을 유발할 수 있죠. 가이드라인은 AI 시스템을 “임계치·경보·긴급정지 기능(킬 스위치·Kill switch) 등 수단을 조합해 상시 모니터링과 즉시 개입이 가능하도록 설계해야 한다”고 했습니다.
예컨대 모 금융사는 자체 개발한 개인사업자 대출심사 시스템에서 AI는 신용등급, 한도, 금리 권고 등을 담은 보고서 초안까지만 생성하도록 했습니다. 심사 담당자가 이 보고서를 검토한 뒤 최종 판단을 내리고 시스템에 입력해야 대출 절차가 완료됩니다. 사실 보험금 지급처럼 대출 또한 AI가 심사부터 지급까지 ‘원스톱’으로 할 수 있지만, 중간에 인간이 검토하는 과정을 끼워넣어 혹시라도 발생할 수 있는 알고리즘의 오류 가능성을 잡아내려 한 겁니다.
AI를 훈련시킬 때 정확하고 믿을만한 데이터를 사용해야 한다는 ‘신뢰성 원칙’도 있습니다. AI 학습에 쓰이는 데이터가 왜곡되면 모델 자체의 편향성을 증폭시킬 우려가 있죠.
아울러 신뢰성을 위해서는 AI가 내린 판단을 고객에게 설명할 수 있어야 합니다. 예컨대 AI 시스템이 고객의 기초 정보를 토대로 대출을 거절하더라도, “고객님은 제1금융권 대출 건수가 18건에 이르고 신용한도 대비 리볼빙 잔액 비율도 63%로 높아 거절됐다” 처럼 ‘사람의 말’로 풀어낼 수 있어야 하죠.
이외에도 AI 설계·학습 과정에서 금융시스템 위기를 촉발할 위험을 줄이는 ‘안정성 원칙’, AI 활용시 금융소비자 이익을 최우선으로 두는 ‘신의성실 원칙’도 제시됐습니다.
마지막은 ‘보안성 원칙’ 입니다. 악의적 사용자가 AI 시스템을 속이거나 잘못된 결과를 유도하기 위해 시도하는 다양한 공격에 대비해야 한다는 겁니다.
예컨대 A 금융사는 챗봇 입력의 길이를 2000자로 제한하고, 데이터 타입이 예상 범위를 벗어나면 요청을 자동 거부하도록 설정했습니다. AI 챗봇의 허점을 뚫기 위한 악의적인 질문 세례를 사전 차단하기 위해서죠. 대출심사 모델의 판단 기준을 역추적하려는 시도를 막기 위해 B 금융사는 6개월마다 공격 시뮬레이션을 시행하고, 내부 정보 유출 가능성을 점검하기도 합니다.
AI가 복잡한 금융 업무를 빠르고 간편하게 바꿔 주고 있지만, 그에 따라 업계가 대비해야 할 위험과 취약점도 갈수록 늘어나는 모습입니다.
권대영 금융위 부위원장은 “AI와 제도가 바뀔 때마다 가이드라인도 계속 보완할 것”이라며 “AI 에이전트가 상품 추천, 가입, 결제까지 맡게 되는 만큼 업종 분류부터 AI의 책임과 권한까지 필요한 규율체계를 검토하겠다”고 말했습니다.
신세계사이먼이 외국인 관광객을 위해 여주 프리미엄 아울렛의 교통망 인프라 확충에 나선다.
신세계사이먼은 동부고속이 운행하는 강남 서울고속버스터미널과 여주 프리미엄 아울렛을 잇는 직통 고속버스 노선을 평일 왕복 1회 추가 증편했다고 18일 밝혔다.
신세계사이먼에 따르면 이 노선은 2023년 7월 개통 이후 내국인은 물론 외국인 개별관광객들에게 인기를 끌며 승객이 크게 늘었다. 지난달까지 누적 약 25만명이 탑승했다. 외국인 이용객은 지난해 대비 2배 이상 늘었다.
이번 증편으로 운행 횟수는 평일 왕복 8회, 주말과 공휴일은 왕복 10회로 확대됐다. 특히 강남 터미널에서 오후 7시, 여주 프리미엄 아울렛에서 오후 9시에 출발하는 1편이 추가돼 늦은 시간까지 여유롭게 쇼핑을 할 수 있게 됐다.
또 외국인 관광객을 대상으로 운영하는 여주 프리미엄 아울렛 ‘원데이 버스투어’ 상품은 7월 1일부터 종전 주 3회에서 5회로 확대한다. 서울 명동과 홍대에서 출발해 아울렛에서 약 6시간 동안 쇼핑과 식사 등을 즐긴 뒤 출발지로 복귀하는 일정이다. 지난해 4월 선보인 이후 큰 호응을 얻고 있는 만큼 연내 주 7회 매일 운영으로 확대한다는 계획이다.
신세계사이먼은 교통과 투어 인프라 확충과 함께 위챗페이·알리페이·라인페이 대만 등 해외 간편결제 서비스 도입, 외국인 할인 혜택, 택스리펀드 키오스크 구축 등 외국인 고객을 위한 쇼핑 환경을 개선하는 데 공을 들이고 있다.
신세계사이먼 관계자는 “최근 한국을 찾는 외국인 관광객이 크게 늘고 있어 교통 편의서비스는 물론 투어 상품도 확대했다”며 “앞으로도 외국인 고객이 편리하게 쇼핑과 관광을 즐길 수 있도록 인프라를 강화해 나갈 것”이라고 말했다.
식탁 앞에 앉았지만 서로를 보지 않는다. 부모와 아이들은 각자 휴대전화와 태블릿만 보고 있었다. 뉴욕에서 건너온 독일 바리톤 마티아스 괴르네가 서울의 한 식당에서 본 장면이다. 각자 자기 화면 안으로 고립되는 시대의 풍경이었다. 괴르네는 “이런 모습이 계속된다면 인류에겐 결국 종말이 오는 게 아닐까 하는 생각이 들었다”고 했다. 괴르네가 슈베르트의 연가곡 <겨울 나그네>를 현재의 작품으로 읽는 이유도 여기에 있다.
독일 가곡 해석의 권위자로 꼽히는 괴르네는 오는 21일 서울 롯데콘서트홀에서 피아니스트 선우예권과 함께 슈베르트의 <겨울 나그네> 24곡 전곡을 들려준다. 빌헬름 뮐러의 시에 슈베르트가 곡을 붙인 이 작품은 200여년 전 겨울 길을 걷던 방랑자의 절망과 고독을 노래한다.
18일 서울 하얏트호텔에서 열린 기자간담회에서 그는 “<겨울 나그네>는 인간이 누구인지, 인간이라는 존재가 무엇인지 다시 알려주는 작품”이라고 말했다. 그는 “지금까지 이 작품을 아시아, 아프리카는 물론이고 북극의 작은 도시에 이르기까지 전 세계에서 250여차례 불렀는데 그때마다 기적 같은 반응을 볼 수 있었다”며 “문화와 언어가 달라도 청중의 반응이 놀라울 만큼 비슷했다”고 설명했다. 자신의 길을 찾기 위해 계속 걸어가는 겨울 나그네의 이야기를 통해 “나만 그런 것이 아니구나, 나만 혼자가 아니구나” 하는 공감을 불러일으킨다는 것이다.
피아노 연주도 귀담아들을 필요가 있다. 흔히 성악가가 가곡을 부를 때 피아노는 반주의 영역에 머무르는 것으로 여기지만 슈베르트, 슈만, 브람스 등이 쓴 리트(독일 가곡)에서 피아노는 성악과 함께 작품을 이끄는 또 하나의 축이다. 성악이 화자의 말이라면 피아노는 그가 발 디디는 눈길이자 머뭇거리는 호흡, 기억의 그림자를 만든다. 그가 피아니스트 알프레드 브렌델과 2004년 녹음한 <겨울 나그네>(데카)는 피아노가 리트에서 또 다른 해석의 주체임을 보여주는 대표 사례다.
괴르네는 브렌델뿐 아니라 마리아 조앙 피레스, 예브게니 키신, 다닐 트리포노프 등 정상급 피아니스트들과 호흡을 맞춰왔다. 2019년 내한공연에서는 피아니스트 조성진과 함께 슈베르트의 가곡을 들려줬다. 이번 공연에서 선우예권의 피아노 역시 목소리를 받쳐주는 배경에 머물지 않는다. 괴르네는 성악과 피아노의 관계에 대해 “함께 떠나는 여행”이라고 말했다.

이전글출장용접 서울탐정사무소 출장용접 서울탐정사무소 서울탐정사무소 26.06.20
다음글‘음악 과외샘’ 모차르트가 직접 내준 과제는?···250년 전 ‘과외 교습 공책’ 발견 26.06.20

댓글목록

등록된 댓글이 없습니다.

온라인문의

온라인문의

페이지 정보

본문

댓글목록

이메일무단수집거부