| 구글·오픈AI·아마존 등 참여 인증 워킹그룹 출범
| 사용자 지침·에이전트 인증·신뢰 위임 표준 추진
“예산 30만원 내에서 가성비 좋은 27인치 QHD 사무용 모니터를 찾아보고, 내일 집으로 배송 가능한 쇼핑몰에서 결제까지 진행해 줘.”
인공지능 에이전트(AI Agent)가 단순 검색을 넘어 사용자를 대신해 상품을 찾고 결제까지 수행한다. 아직은 일부 개발자들이 시험 삼아 구현하는 수준이지만 실제 가능한 기술이며 눈앞에 다가온 현실이다. 맥킨지(McKinsey) 조사에 따르면 전세계 ‘에이전틱 커머스(Agentic Commerce)’ 시장은 2030년까지 5조달러(약 7400조원) 규모로 성장할 전망이다.
문제는 구매 주체가 사람에서 AI로 넘어가면서 이미 보안 맹점이 다수 지적되던 기존 인증 체계에 큰 균열이 생길 수 있다는 우려가 커지고 있다는 점이다. 현재의 온라인 인증 모델은 사람이 직접 비밀번호나 생체 정보를 입력하는 방식에 맞춰 설계돼 있어, 대리 행위를 수행하는 AI 에이전트에 그대로 적용하기 어렵다.
즉 표준화된 인증 메커니즘이 없는 환경에서는 사용자가 AI 에이전트에 자신의 디지털 자격 증명을 사실상 통째로 넘겨줘야 하는 상황이 발생할 수 있다. 서비스 제공자 입장에서도 현재 접속한 AI의 행위가 실제 사용자의 의도에 따른 것인지 검증하기 어려울 것이란 우려가 크다.
최근 글로벌 최대 사이버 보안 기업 팔로알토네트웍스(Palo Alto Networks)에 인수된 신원(Identity) 보안 전문기업 사이버아크(CyberArk)의 관련 시연 사례는 이런 위험을 단적으로 보여준다. 해커가 주문서 배송 주소란에 숨긴 악성 명령어를 AI가 그대로 읽어들이자 AI가 원래 주문 처리 범위를 벗어나 민감 정보에 접근한 것이다. 일명 ‘프롬프트 인젝션(Prompt Injection)’ 공격이다. 이는 AI 에이전트가 악의적인 조작을 통해 부여된 권한 이상의 행위를 할 경우, 기밀 정보 유출이나 비인가 결제로 인한 금전 피해까지 이어질 수 있음을 보여준 사례다.
이 같은 구조적 공백을 해소하기 위해 글로벌 인증 표준 기구 FIDO(Fast IDentity Online) 얼라이언스가 관련 표준 제정에 착수했다. FIDO 얼라이언스는 4월 29일 AI 에이전트가 사용자를 대신해 안전하게 인증하고 거래할 수 있도록 지원하는 ‘에이전틱 상호작용 및 커머스(Agentic Interactions and Commerce)’ 글로벌 표준 개발에 나선다고 밝혔다.
이번 발표의 핵심은 ‘에이전틱 인증 기술 워킹그룹(Agentic Authentication Technical Working Group)’의 신규 출범과 실제 결제 흐름에 적용할 수 있는 에이전틱 커머스 규격의 개발이다.
신설된 ‘에이전틱 인증 기술 워킹그룹’에는 CVS헬스, 구글, 오픈AI가 의장사를 맡은 가운데 아마존, 옥타 등이 부의장사로 합류했다. 또한 ‘결제 기술 워킹그룹(Payments Technical Working Group)’은 마스터카드와 비자의 주도 아래 구글의 ‘에이전트 결제 프로토콜(AP2)’과 마스터카드의 ‘검증 가능한 의도(Verifiable Intent)’ 프레임워크를 표준 규격으로 발전시키는 작업을 수행할 예정이다. 아직까지 참여 명단에서 국내 기업의 이름은 확인되지 않았다.
AI 에이전트에 대한 권한과 신뢰 문제는 이미 기업 보안 환경에서 주요 과제로 다뤄져 왔다. 마이크로소프트는 클라우드 기반의 신원·접근 관리(IAM) 솔루션인 ‘엔트라 ID(Entra ID)’를 확장해 AI 에이전트 관리를 위한 ‘엔트라 에이전트 ID(Entra Agent ID)’를 선보였다. AI 에이전트를 ‘비인간 신원(Non-Human Identity)’으로 등록하고 기존 ‘엔트라’ 체계 안에서 인증과 권한, 가시성을 관리하겠다는 방향을 제시한 것이다.
클라우드 기반의 ICAM(신원·자격증명·접근 관리) 솔루션 전문기업 옥타(Okta)도 ‘옥타 포 AI 에이전트(Okta for AI Agents)’를 통해 기업 내 AI 에이전트 뿐만 아니라 관리되지 않는 ‘섀도(Shadow) AI 에이전트’까지 탐지하고 이를 별도 신원 객체로 관리하겠다는 청사진을 내놨다. 옥타 포 AI 에이전트는 4월 30일 공식 출시됐다.
국내에서는 라온시큐어가 관련 기술 개발 소식을 알렸다. 회사는 4월 초 거대언어모델(LLM) 기술 기업인 업스테이지와 손잡고 AI 에이전트의 신원 검증과 권한 통제를 위한 ‘AAM(Agentic AI Management)’ 솔루션 개발을 추진한다고 밝혔다.
FIDO 얼라이언스 역시 AI 에이전트의 보안성을 담보할 수 있는 공통적인 지침을 정립하고자 이번 글로벌 표준 개발에 나선다. FIDO 얼라이언스가 결제 문제를 포함해 AI 에이전트의 신뢰 문제를 해결하고자 제시한 방향은 크게 세 가지다.
첫째는 ‘검증 가능한 사용자 지침’이다. 사용자가 어떤 범위까지 AI 에이전트에 권한을 위임했는지 피싱 저항성을 갖춘 방식으로 확인하고, 에이전트가 그 범위를 넘지 못하도록 하는 구조다. 둘째는 ‘에이전트 인증’이다. 현재 접속한 AI가 실제로 인증된 사용자를 대신해 승인된 범위에서 행동하고 있음을 암호학적으로 입증하는 체계다. 셋째는 ‘커머스를 위한 신뢰 위임’이다. 에이전트가 시작한 결제와 거래가 실제 상거래 흐름과 안전하게 연결되도록 표준을 정하는 것이다.
앤드류 시키어(Andrew Shikiar) FIDO 얼라이언스 CEO는 “AI 에이전트가 일상적인 업무를 처리하는 비중이 급격히 늘어남에 따라, 사용자는 이러한 행위가 자신의 의도를 정확히 반영하고 보안이 유지된다는 확신이 필요하다”며 “이번 이니셔티브를 통해 인증과 커머스 전반에 걸쳐 에이전틱 상호작용을 위한 신뢰의 토대를 마련할 것”이라고 밝혔다.
IT조선/ 정종길 기자
출처: https://it.chosun.com/news/articleView.html?idxno=2023092161357
