| 금융·법조·산업계 리더 모여 AI 시대 전략적 대응 방안 모색
제5회 IAS 리더십 참석 인사들이 기념 촬영을 하는 모습. (사진=컴퓨터월드/IT DAILY)
9일 여의도 켄싱턴호텔에서 ‘제5회 IAS 리더십 포럼’을 개최했다. IAS 리더십 포럼은 30년 이상의 금융권 IT 경력을 보유한 CIO(최고정보책임자), CDO(최고데이터책임자), CISO(정보보호최고책임자)를 비롯해 기업 및 학계 전문가들이 참여하는 모임이다.
IAS는 디지털 금융 시대의 핵심 분야인 IT(정보기술), AI(인공지능), Security(보안)의 융합을 의미한다. 동시에 금융 산업의 미래 경쟁력을 이끌 3대 디지털 축(Three Digital Pillars)을 상징한다.
“AI 공격에 양자 위협까지…열쇠는 전략적 리더십”
포럼 환영사에 나선 고정현 IAS 리더십 포럼 의장(한국평가데이터 사외이사)은 “AI가 산업과 사회의 패러다임을 바꾸는 시기에 리더들이 무엇을 준비하고 점검해야 하는지를 논의하기 위해 자리를 마련했다”며 “금융·법조·산업계 전문가들과 함께 AI 시대의 방향성과 전략적 대응 방안을 모색하는 시간이 되길 바란다”고 말했다.
이날 화두는 에이전틱 AI였다. 에이전틱 AI는 거대언어모델(LLM)이 지닌 추론 능력으로 여러 AI 에이전트를 상황에 맞게 계획·조정·연결해 실제 목표를 달성하는 운영 체계를 뜻한다. 에이전틱 AI 같은 기술 발전은 업무 효율 향상이라는 성과를 거두는 한편, 취약점 공격 자동화 등 그릇된 목적으로 악용되는 문제점도 낳고 있다.
최근 발표된 ‘클로드 미토스(Claude Mythos)’는 이러한 화제의 중심에 서 있다. 앤트로픽은 일부 파트너사와 함께 미토스 프리뷰 버전을 활용한 결과, 고위험 취약점 1만여 건을 발견했다고 발표한 바 있다. 글로벌 IT 시장조사기관 가트너는 미토스 같은 AI 보안 모델이 등장하며 사이버 공격이 자동화되고 있다고 진단하기도 했다.
고정현 의장은 “최근 AI 보안 모델은 점점 사이버 공격을 가속화시킬 것”이라며 “점검·패치 중심 보안 체계만으로는 부족하다. 신속한 자동화 대응과 복구 역량이 업무 연속성과 조직 생존의 핵심 과제가 되고 있다”고 강조했다.
이어 “양자컴퓨터 등장에 따라 현행 암호 체계 역시 위험에 직면할 수 있으며 AI 자율 공격 과 양자 암호 위협이 결합할 가능성까지 고려해야 한다”며 “혼란이 가중되는 가운데 조직의 생존은 변화를 통찰하고 전략적으로 대응하는 리더십에 달려 있다”고 덧붙였다.
포티투마루 “AI 경쟁 기준, 모델 성능에서 산업 실행력으로”
이날 IAS 리더십 포럼에서는 김동환 포티투마루 대표와 이정아 라온시큐어 대표가 각각 에이전틱 AI를 중심으로 AI 전환(AX) 전략과 에이전틱 AI 대상 사이버보안을 주제로 발표했다. 먼저 김동환 대표는 ‘생성형 AI 시대 금융 혁신 전략’을 주제로 현장에서 일어나는 AX 사례를 소개했다.
김동환 포티투마루 대표는 생성형 AI의 확산이 디지털 전환(DX)을 넘어 AX를 가속화하고 있다고 진단했다. AI를 업무 생산성과 조직 운영 방식을 근본적으로 바꾸는 혁신 수단으로 바라봐야 한다는 것이다.
금융권은 AI 활용이 활발한 산업 중 하나로 꼽힌다. 고객 상담 요약부터 상품 약관 질의응답(QA), 보험금 청구 심사 지원, 자금세탁방지(AML) 등 여러 영역에 걸쳐 생성형 AI 도입이 일어나고 있다. 이를 통해 반복 업무를 자동화함으로써 생산성 향상을 체감하고 있다.
이 같은 변화에는 AI의 ‘추론(Reasoning)’ 역량 강화가 자리하고 있다. AI가 문맥을 이해하고 스스로 판단할 줄 알게 되며 수개월이 걸리던 분석·문서 업무가 수 분여 만에 해결되는 수준에 이르고 있다. 사람이 설정한 규칙에 따라 움직이던 챗봇은 생성형 AI를 만나 상세한 답변과 더불어 대안까지 제시할 정도로 발전했다.
김 대표는 향후 AI 시장을 이끌 핵심 기술로 △도메인 특화 소형언어모델(sLM) △멀티모달(Multimodal) AI △온디바이스(On-device) AI를 꼽았다. 범용 LLM 경쟁에서 벗어나 산업별 전문성과 기업 내부 데이터를 반영한 특화 모델 수요가 확대되리라는 전망이다.
가장 큰 변화는 에이전틱 AI다. 에이전틱 AI는 목표를 부여받고 스스로 계획을 수립해 업무를 수행하는 단계로 진화하고 있다. 글로벌 AI 시장 경쟁도 모델 성능 자체보다 산업 현장 적용 역량으로 무게 중심이 이동하고 있다. 더 큰 모델과 더 많은 파라미터 확보에 집중하던 업체들은 최근 특정 산업을 얼마나 정확하게 이해하고 업무에 접목하는지를 핵심 경쟁력으로 주목하고 있다.
금융권 또한 범용 AI 활용을 넘어 내부 데이터와 업무 프로세스를 반영한 특화 AI 구축에 관심을 나타내고 있다. 김동환 대표는 향후 AX 성패는 기술 도입 여부보다 업무 혁신과 조직 변화 관리 역량에 의해 좌우될 것이라고 내다봤다.
마지막으로 김 대표는 AX 성공을 위한 과제로 협력 체계와 작은 프로젝트를 강조했다. AI 분야는 매주마다 새로운 기술이 나오는데 내부 조직만으로 이를 따라잡기 버거울뿐더러 사업 규모가 클수록 실패 가능성도 높아진다는 지적이다.
김 대표는 “많은 기업이 내부에서 AX를 해결하려다가 한계에 부딪혔다. 조직은 무엇을 위해 AI가 필요한지 주목하고 문제 의식을 세우되 기술 요소는 전문 업체와 협력해서 풀어가야 한다”고 조언했다.
이어 “거창한 프로젝트는 오히려 독이 된다”며 “직원이 업무 중에 경험한 애로사항처럼 작으면서도 확실하게 해결할 수 있는 문제부터 하나씩 성공 사례를 만들어 가야 한다. 사업이 클수록 변화에 대응하기 힘들고 실패로 인한 여파도 커지기 마련”이라고 강조했다.
라온시큐어 “5대 보안 플랫폼으로 에이전틱 AI 위협 대응”
이정아 라온시큐어 대표는 에이전틱 AI 시대에 걸맞은 차세대 인증 보안을 소개했다. 에이전틱 AI는 통제되지 않은 보안 사각지대를 만들고 있다. 가령 사람이 아닌 IT 장치가 주체로서 사용하는 ‘머신 아이덴티티’는 에이전틱 AI와 더불어 늘고 있다. 사용자가 지시를 내리는 순간 AI 에이전트는 여러 계정에 접근해 확보한 권한으로 문제를 해결한다. 사용자에게 편리함을 안겨다 주는 동시에 알 수 없는 사각지대를 낳게 되는 셈이다.
프롬프트로 인한 데이터 유출도 또 다른 문제다. 직원이 생성형 AI를 사용하는 과정에서 무심결에 내부 문서를 업로드하게 되면 이 정보가 AI 모델로 새어 나갈 소지가 있다. 악성 프롬프트를 넣어 사내 AI 모델을 오염시키고 정보 탈취에 악용하는 공격도 일어날 수 있다.
이정아 대표는 “통합 계정관리(IAM)의 경우 사람을 중심으로 만들어진 체계이기에 AI 에이전트가 인증하고 권한을 확보하는 활동까지 관리하지 못한다”며 “AI 에이전트 생성부터 권한 부여, 업무 수행 등 전 생애주기를 아우르는 새로운 신뢰 프레임워크가 필요한 이유”라고 설명했다.
라온시큐어는 에이전틱 AI로 떠오른 사이버 위협에 대응하고자 5대 플랫폼 제품군을 개발 및 출시하고 있다. 이상행위 탐지, 계정 관리 등 보안 운영 전반을 자동화하는 ‘자율보안 컨트롤타워(AASP)’를 비롯해 프롬프트를 통제하는 ‘AI 세이프 가드(AAG)’, AI 에이전트 신원을 관리하는 ‘AI 신분증(AAM)’ 등을 선보이고 있다.
미토스를 시작으로 AI를 통한 취약점 점검도 주목받고 있다. 라온시큐어는 화이트해커 인력으로 확보한 위협 정보와 솔루션에서 수집된 방어 데이터를 결합해 ‘AI 모의해커(AAH)’를 개발했다. 고객이 최신 AI 모델로 상시 모의해킹을 운영해 보안 수준을 향상하고 급증하는 취약점에 대응력을 강화할 수 있도록 지원한다는 방침이다.
아울러 국가 망 보안체계(N2SF)로 주목받는 데이터 중요도 평가에 발맞춰 학습 데이터 민감도를 자동 분류하는 ‘AI 데이터 라벨러(AADL)’를 개발 중이다. 데이터에서 개인정보, 영업비밀 등을 구분하고 등급에 따른 보호 정책을 자동 적용할 수 있는 체계를 구현하고자 힘쓰고 있다.
에이전틱 AI 보안 플랫폼을 고도화하기 위한 특화 모델도 제작하고 있다. 업스테이지 ‘솔라(Solar)’ LLM과 라온시큐어가 축적한 위협 데이터를 기반으로 보안에 최적화된 경량 언어모델을 개발하기 위한 작업이 현재 진행 중이다.
이정아 대표는 “에이전틱 AI 시대에는 사람뿐 아니라 AI 역시 신원과 권한을 검증받아야 한다”며 “AI의 자율성이 높아질수록 이를 신뢰할 수 있게끔 만드는 보안 체계가 기업 경쟁력을 판가름하는 지점이 될 것”이라고 강조했다.
아이디데일리/ 김호준, 김병주 기자
출처: http://www.itdaily.kr/news/articleView.html?idxno=239732
