2026년 11월 2주차 AI ISSUE SCANNER

영국 정부, AI 에이전트 통제 상실 사고에 대비한

4대 보안·회복력 조치 제안

영국 디지털문화미디어체육부(Department for Digital, Culture, Media and Sport, DCMS)와 과학혁신기술부(Department for Science, Innovation and Technology, DSIT)는 「사이버보안 및 회복력 법안(Cyber Security and Resilience (Network and Information Systems) Bill)」의 설명 자료를 통해 AI 에이전트의 통제 상실 사고에 대비한 4대 보안·회복력 조치를 제안했다.

이번 방안은 기존 네트워크·정보 시스템 보안 규정(NIS Regulations)의 적용을 받는 사업자가 AI 에이전트의 통제 상실 위험에 대응할 수 있도록 관련 요건을 강화하려는 것이다. 주요 대응 대상은 운영자가 AI 에이전트의 행동을 충분히 감시하거나 통제하지 못하는 상황이며, 구체적인 사고의 정의와 적용 범위는 산업계 및 감독 기관 등과 협의할 계획이다.

이번에 제안한 조치는 사고 예방과 피해 최소화, 사고 통지, 증거 보존, 사후 조사 등 4개 분야로 구성된다. 우선 AI 에이전트의 행동 감시와 위험 평가를 통해 사고 발생 가능성과 피해를 줄이기 위한 기술적·조직적 보안 및 회복력 요건을 마련할 계획이다. 또한 AI 에이전트로 인한 사고를 감독 기관에 보고한 사업자가 고객 외에 피해를 입은 다른 기관에도 사고 사실을 알리도록 하는 요건을 검토한다. 이는 AI 에이전트의 행동이 해당 사업자의 고객뿐 아니라 다른 기관에도 영향을 미칠 수 있다는 점을 고려한 것이다.

사고 발생 이후에는 AI 에이전트가 수행한 행동과 운영자의 통제 시도 등 사고 원인 분석에 필요한 정보를 보존하도록 하는 방안을 제시했다. 아울러 장관이 정부 내 기술 전문가에게 사고 원인과 영향을 검토하도록 지시하고, 전문가가 관련 정보를 요청하거나 시험을 수행할 수 있는 권한도 마련할 계획이다. 이를 통해 사고 원인과 대응 방안에 관한 정보를 축적하고, 필요한 경우 관련 사업자 등과 조사 결과를 공유해 유사 사고에 대한 대응 역량을 높인다는 구상이다.

정부는 조치의 적용 방식을 설명하기 위해 AI 에이전트가 허가 없이 다른 기관의 데이터베이스에 접근해 정보를 변경하고, 운영자가 이를 통제하지 못해 필수 서비스 운영에 심각한 장애가 발생하는 가상 사례도 제시했다. 이를 통해 피해 기관 통지와 사고 관련 기록 보존, 정부 전문가의 원인 분석 등이 실제 사고 대응 과정에서 어떻게 활용될 수 있는지 설명했다.

다만 이번 조치는 아직 시행 중인 규제가 아니다. 영국 정부는 법안이 왕실재가를 받은 이후 이해관계자 의견 수렴을 거쳐 하위 법령으로 세부 요건을 마련하고, 의회의 심의 및 승인 절차를 통해 도입할 계획이다. 또한 이번 방안은 모든 AI 관련 위험을 포괄하는 규제가 아니라 기존 NIS 규제 체계에서 AI 에이전트의 통제 상실 위험에 대응하기 위한 것으로, 구체적인 적용 범위와 요건은 향후 협의를 통해 정할 예정이다. (2026.11.03., 영국 정부)

홍콩, AI 에이전트 금융의 책임 있는 도입을 위한

‘Project SAGE’ 출범

홍콩 금융관리국(Hong Kong Monetary Authority, HKMA)은 AI 에이전트를 활용한 금융 서비스의 책임 있는 개발과 도입을 지원하기 위해 ‘프로젝트 세이지(Project SAGE)’를 출범하고 관련 전문가 그룹을 구성했다고 발표했다. SAGE는 ‘Securing Agentic Finance with Governance and Enablement’의 약자로, 이번 프로젝트는 AI 에이전트가 이용자를 대신해 결제나 자금 관리 등 금융 관련 업무를 수행하는 ‘에이전트 금융(Agentic Finance)’의 활용 사례를 탐색하고, 필요한 관리 체계를 논의하는 데 목적이 있다.

프로젝트는 시장 개발 및 활용 사례 탐색, AI 에이전트 신원 확인, 상호운용성 표준, 법률 및 규제 체계 등 4개 분야를 중심으로 추진된다. 먼저 금융기관과 관련 기업이 에이전트 금융의 활용 사례를 발굴하고 실제 적용 가능성을 검증하도록 지원한다. 주요 검토 대상에는 AI 에이전트를 통한 소비자의 상품 구매 및 결제, 기업 간 거래에서의 조달 및 자금 관리, 디지털 서비스 이용량에 따라 시스템 간 자동으로 대금을 지급하는 방식 등이 포함된다. HKMA는 업계와 함께 이러한 서비스의 실제 도입 과정에서 고려해야 할 사항과 예상되는 문제도 논의할 계획이다.

안전한 금융 거래를 위한 기술 및 관리 체계도 검토한다. AI 에이전트의 신원과 이용자로부터 위임받은 권한을 확인하는 ‘에이전트 확인(Know Your Agent, KYA)’ 방식과 인증 수단을 모색하고, 서로 다른 AI 에이전트와 금융 서비스가 안전하게 연동될 수 있도록 기술 표준과 통신 규약을 논의한다. 또한 에이전트 금융의 운영 및 관리 방식과 법적 책임, 소비자 보호 등 관련 법률 및 규제상 고려 사항에 대해서도 의견을 교환할 예정이다.

HKMA는 프로젝트 추진을 지원하기 위해 금융기관과 기술 서비스 기업, 전문 서비스 기업 및 학계 관계자가 참여하는 ‘에이전트 금융 전문가 그룹(Agentic Finance Expert Group)’도 구성했다. 전문가 그룹은 다양한 분야의 전문 지식과 의견을 모아 프로젝트 추진을 지원하는 역할을 맡는다. 이번 발표는 프로젝트 출범과 전문가 협력 체계 구성에 관한 것으로, 개별 금융 서비스의 상용화나 새로운 인증 및 규제 체계와 기술 표준의 확정을 의미하지는 않는다. (2026.11.02., HKMA)

중국 국가인터넷정보판공실(国家互联网信息办公室)은 관계 기관 등과 함께 2026년 세계인터넷대회 우전 정상회의에서 ‘지능형 인터넷 혁신발전 협력 이니셔티브(智能互联网创新发展合作倡议)’를 제안했다고 밝혔다. 이번 이니셔티브는 지능형 인터넷을 AI와 인터넷이 융합된 새로운 네트워크 공간으로 설명하고, 인터넷의 연결 대상이 기존의 사람과 정보에서 AI 에이전트와 지능형 서비스까지 확대되는 변화에 대응해 기술, 산업, 안전, 거버넌스 등 8대 국제 협력 방향을 제시했다.

기술 분야에서는 새로운 네트워크 통신 이론과 지능형 네트워크 구조, 전송 프로토콜 및 통신망·연산망 융합 기술에 대한 연구개발 투자 확대를 장려했다. 이를 뒷받침하기 위해 IPv6, 5G-A, 6G, 위성 인터넷, AI 연산 인프라의 공동 구축과 상호 연결을 추진하고, 발전 수준이 다른 국가와 지역에서도 합리적인 비용으로 이용할 수 있도록 접근성을 높일 것을 제안했다.

또한 서로 다른 AI 에이전트가 플랫폼과 분야를 넘어 협업할 수 있도록 연결 방식과 정보 교환, 업무 절차 등에 관한 개방적이고 비차별적이며 투명한 국제 표준을 공동으로 마련하고, 에이전트의 탐색, 협의, 실행 전 과정에서 상호 신뢰와 검증과 추적이 가능한 체계를 구축하도록 했다.

산업 분야에서는 AI 스마트폰과 휴머노이드 로봇 등 지능형 기기 및 체화지능 기술의 발전을 촉진하고, AI 기반 응용 서비스와 모델·에이전트 서비스 등 새로운 사업 모델을 육성해 과학 연구, 제조업, 생활 서비스, 사회 거버넌스 분야의 활용을 확대할 것을 제안했다. 데이터 분야에서는 국가별 제도 차이를 존중하면서 안전하고 효율적인 국경 간 데이터 이동 체계를 구축하고, 관련 법규 준수를 전제로 고품질 데이터의 공유와 활용을 촉진하도록 했다. 보안 분야에서는 AI를 활용한 사이버보안 역량 강화와 함께 데이터 오염 공격, AI 에이전트의 행동 통제 상실 등 새로운 위험에 대응해 지능형 인터넷의 연구개발, 배포, 운영 전 과정에 안전과 윤리를 반영하고, 위험 정보 공유와 긴급 대응 협력을 강화할 것을 강조했다.

아울러 국민 전반의 AI 이해 및 활용 역량을 높이고, 개발도상국, 외딴 지역, 취약계층을 대상으로 교육과 훈련, 교육 자원 공유를 확대해 디지털 격차를 해소할 것을 제안했다. 국제 거버넌스 측면에서는 유엔(UN) 등 다자 협의체를 통해 지능형 인터넷의 발전 방향과 거버넌스 규칙, 우수 사례에 관한 상시 대화를 추진하고, 각국의 네트워크·디지털 주권과 정책적 자율성을 존중하면서 거버넌스 경험을 공유하고 생태계의 분절을 방지하기 위한 협력을 강조했다. 이번 이니셔티브는 지능형 인터넷의 기술 발전과 안전하고 포용적인 활용을 위해 국제사회가 공동으로 추진할 협력 방향을 제시한 문서다. (2026.11.04., 중국 국가인터넷정보판공실)

오픈AI(OpenAI)는 소프트웨어의 보안 취약점을 발견하고 실제 공격 가능성을 검증하는 사이버보안 특화 AI 모델 ‘GPT-6 Cyber’를 공개했다. 이 모델은 취약점을 찾아 공격에 이용될 수 있는지 확인하고, 이를 수정하는 작업을 지원한다. 특히 사전에 승인된 시스템과 작업 범위를 준수하도록 별도의 훈련을 거쳤다.

오픈AI가 공개한 성능 평가 결과, 지정된 취약점에 대한 공격 성공 여부를 측정하는 ExploitGym에서 GPT-6 Cyber는 48.5%를 기록해 이전 모델인 GPT-5.6 Cyber(32.1%)보다 16.4%포인트 높은 성능을 보였다. 오픈AI는 자체 준비성 평가 체계에서 이 모델의 사이버보안 역량을 이전 모델의 ‘높음(High)’보다 상위인 ‘심각(Critical)’ 등급으로 분류했다.

실제 보안 연구에서도 취약점 발견과 검증 성과를 확인했다. 오픈AI 연구진은 GPT-6 Cyber를 활용해 Linux 커널의 취약점 1,724건을 재현하고, 이 중 948건에 대해 실제 작동하는 공격 코드를 개발했다. 또한 웹 브라우저 Firefox에서 이전에 알려지지 않은 심각도 높은 취약점 81건을 발견해 이를 재현할 수 있는 검증 자료와 수정 방안을 제시했다. 이후 Firefox 개발사인 모질라(Mozilla)는 여러 취약점에 대한 수정 사항을 배포했다.

오픈AI는 모델의 공격 수행 능력이 악용될 가능성에 대비해 안전 조치도 강화했다. 별도의 평가에서 모델이 허가된 범위를 벗어난 서비스를 공격하지 않은 비율은 배포용 안전 지시를 적용하지 않았을 때 99.93%, 적용했을 때 100%로 나타났다. 다만 이는 특정 시험 환경에서 측정된 결과다. 이와 함께 승인 범위 이탈 여부를 감시하고, 발전소와 정수 시설 등 핵심 인프라에 대한 고위험 사이버 활동 지원을 제한하는 조치를 마련했다. 승인된 핵심 인프라 보안 담당자가 필요한 보안 테스트를 수행할 수 있도록 별도의 접근 체계도 도입했다.

GPT-6 Cyber는 초기에는 심사를 거친 일부 Daybreak Red 이용자에게 API와 코딩 도구인 Codex를 통해 제공된다. Daybreak Red는 승인된 보안 연구자와 조직이 고도화된 사이버보안 작업을 수행할 수 있도록 지원하는 프로그램이다. 오픈AI는 향후 모든 Daybreak Red 이용자에게 제공 범위를 단계적으로 확대할 계획이다. (2026.11.05., OpenAI)

메타, AI 앱 Muse에 자연어 기반 맞춤형 공간 ‘Spaces’ 도입