미·중, AI 위험·편익 대화 체계 및 사고 소통 채널 구축 합의

미국과 중국은 시진핑 중국 국가주석의 미국 국빈방문을 계기로 AI의 위험과 편익을 논의하는 양자 대화 체계를 마련하고, 관련 사고 발생 시 활용할 소통 채널을 구축하기로 합의했다. 양측은 후속 의견 교환을 2026년 11월에 이어가기로 했으며, AI 관련 사고 발생 시 직접 소통할 수 있는 양자 연락 채널도 설치하기로 했다.

다만 대화 명칭과 기술을 지칭하는 용어에서는 차이가 있다. 백악관은 이를 ‘미·중 초지능 대화(U.S.-China Super Intelligence Dialogue, SI Dialogue)’로 발표하고, 양국 정상이 관련 신흥 기술을 ‘인공지능’ 대신 ‘초지능(super intelligence)’으로 부르기로 했다고 밝혔다. 반면 중국 외교부는 공식 성과 발표에서 ‘중·미 AI 대화(China-U.S. AI Dialogue)’와 ‘AI incidents’라는 표현을 사용했다. 중국 외교부는 별도 문답에서 미국 측의 ‘super intelligence’라는 용어 선택을 존중한다고 설명했다.

현재 공개된 자료에는 대화 대상이 되는 AI의 구체적인 능력 기준이나 사고 소통 채널의 세부 운영 절차는 제시되지 않았다. 따라서 이번 합의는 AI 위험과 편익을 미·중 간 별도 협력 의제로 설정하고, 후속 논의와 사고 대응을 위한 소통 체계를 마련한 단계로 볼 수 있다. (2026.09.25., 백악관)

영국, 우크라이나 전장 데이터 활용

AI 드론 군집 모델 개발 기업 모집

영국 국방부(Ministry of Defence, MOD)는 우크라이나의 실제 전장 데이터를 활용해 차세대 AI 기반 드론 군집 모델을 개발할 영국 기업을 모집한다고 발표했다. 이번 공모는 영국·우크라이나 AI 파트너십(UK-Ukraine AI Partnership)의 첫 번째 경쟁으로, 최대 12개 영국 기업을 수 주 내 선정한 뒤 데이터 활용을 시작할 예정이다. 영국은 우크라이나의 Avengers AI Labs 데이터에 접근하는 첫 국제 파트너다.

선정 기업은 Avengers AI Labs의 데이터베이스를 활용한다. 이 데이터베이스에는 무인항공시스템이 주간·열상 센서로 수집한 영상과 이미지가 포함돼 있으며, 전차와 포병, 방공 체계, 보병, 샤헤드 드론과 정찰용 무인항공기 등 600만 건이 넘는 객체 탐지에서 수집된 센서 정보를 담고 있다. 우크라이나는 이러한 데이터를 AI 모델의 개발·학습·평가에 활용해 왔다.

공모는 자율 표적 인식과 분산 의사결정, 적응형 임무 수행, 협업 센싱·정보융합 등 네 분야를 대상으로 한다. 구체적으로는 전장 표적을 탐지·분류·추적하고, 중앙 통제가 어려운 상황에서도 여러 무인체계가 환경 변화에 대응하며, 제한된 통신 환경에서 임무를 조정하고 여러 플랫폼의 센서 정보를 결합하는 기술을 모집한다. 영국 정부는 통신이 제한되거나 위성 항법을 사용할 수 없는 상황에서도 여러 드론이 적절한 인간의 개입 아래 협력해 임무를 지속할 수 있는 모델 개발을 목표로 제시했다.

제안 기술은 영국과 우크라이나의 국방 수요에 모두 적용할 수 있어야 한다. 사업은 영국 국방부의 신속 AI 제공 전담팀인 Taskforce RAID(Rapid AI Delivery)가 주도하며, 공모는 기업 선정 이후 신속한 시험 단계로 이어질 예정이다. (2026.09.25., 영국 정부)

네덜란드 정부는 유럽연합(EU) 집행위원장과 20개국 정상 및 정부 고위인사가 참여한 ‘프런티어 AI 모델 통제 촉구(A Call for Control of Frontier AI Models)’ 공동 성명을 공개했다. 성명은 프런티어 AI가 적절히 관리되지 않을 경우 안전과 보안에 중대한 위험을 초래할 수 있다고 지적하고, AI를 인간의 지시와 감독, 통제 아래 두면서 국제법에 부합하게 개발하고 사용해야 한다는 원칙을 제시했다.

기업에는 프런티어 AI의 위험을 관리하기 위한 투명한 안전 프로토콜을 마련할 것을 촉구했다. 여기에는 모델 배포 전 의무 시험과 독립 평가를 포함하고, 자격을 갖춘 외부 평가자가 위험을 충분히 검토할 수 있도록 필요한 접근 권한을 제공해야 한다고 밝혔다. 다만 이는 공동 성명을 통해 새로운 법적 의무가 즉시 부과됐다는 의미는 아니다.

정부와 지역 기구에는 공통 기준을 지속적으로 개발하고 조정하는 한편, 중대한 안전 사고를 공동으로 보고해 투명성을 높일 것을 제안했다. 또한 모든 지역의 국가가 AI 위험을 평가하는 데 필요한 과학적 역량과 전문성, 신뢰할 수 있는 평가에 접근할 수 있도록 지원해야 한다고 밝혔다.

국제 차원의 대응 체계도 제안했다. 성명은 유엔 회원국이 기존 국제 협력 체계를 활용하면서 프런티어 AI의 표준 설정과 검증을 지원할 국제 기관 설립을 검토하도록 촉구했다. 이 기관은 프런티어 AI의 역량이 일정 기준을 넘어설 경우 국가 간 협의를 소집하는 역할도 맡을 수 있다고 제시했다. 

이번 성명은 프런티어 AI 위험관리에 필요한 방향을 기업과 정부, 국제사회에 제안한 공동 외교성명이다. 네덜란드 정부는 다른 국가 지도자도 향후 참여할 수 있도록 추가 서명을 받고 있다. (2026.09.22., 네델란드 정부)

앤트로픽은 Claude 5.5 계열의 첫 모델 ‘Claude Opus 5.5’를 출시했다. 회사는 Opus 5.5가 대부분의 업무에서 Claude Fable 5.1과 유사한 수준의 성능을 제공하면서, 이전 모델인 Opus 5보다 비용과 처리 효율을 개선했다고 밝혔다. 현재 Amazon Web Services, Google Cloud, Microsoft Azure를 포함한 모든 지원 플랫폼에서 제공된다.

가격은 기본 기준으로 입력 100만 토큰당 4달러, 출력 20달러로 Opus 5의 5달러와 25달러보다 각각 20% 낮아졌다. 캐시 읽기 가격도 100만 토큰당 0.20달러로 60% 인하됐다. 앤트로픽은 자체 시험에서 기본 설정으로 일반적인 작업을 수행할 경우 실행 비용이 Opus 5보다 약 40% 낮고, 출력 생성 속도는 30% 이상 빨라졌다고 밝혔다. 다만 실제 비용과 처리 속도는 작업 유형과 사용 환경에 따라 달라질 수 있다.

성능 측면에서는 코딩 에이전트와 컴퓨터 활용, 지식 업무를 주요 개선 분야로 제시했다. 다만 앤트로픽은 고성능 모델 간 벤치마크 점수 차이가 실제 업무 성능 차이를 정확하게 보여주는 지표로 보기 어려워지고 있다고 설명했다. 일부 벤치마크에는 외부 기업이 수행하거나 공개한 평가 결과도 포함돼 있어, 이를 모든 업무 환경의 성능 차이로 일반화할 필요는 없다.

안전성 평가도 강화했다. 출시 전 Frontier Design과 METR 등 외부 평가 기관의 검증을 거쳤으며, 앤트로픽의 자동화 행동 감사에서는 지금까지 평가한 자사 모델 가운데 가장 높은 결과를 기록했다고 밝혔다. Opus 5보다 되돌리기 어려운 행동이나 주어진 범위를 벗어난 행동이 줄었고, 프롬프트 인젝션에 대한 대응도 개선됐다고 설명했다. 다만 장시간 작업과 실제 사고를 반영한 시나리오까지 평가 범위를 확대했음에도 현재 평가 체계에는 여전히 한계가 있다고 명시했다. 또한 Opus 5.5는 기존 Opus 모델과 마찬가지로 데이터 무보존(Zero Data Retention)을 지원하며, EU AI Act 준수를 위한 워터마킹 조치도 적용한다. (2026.09.22., Anthropic)

마이크로소프트는 Microsoft Defender에서 ‘통합 보안 운영센터(Integrated Security Operations Center, ISOC)’를 프리뷰(preview)로 제공한다고 발표했다. ISOC는 보안정보 및 이벤트관리(SIEM)와 위협보호 기능을 하나의 기반으로 통합해 사람과 AI 에이전트가 동일한 보안 신호와 맥락 정보, 대응 수단을 활용하도록 설계됐다. 이를 통해 여러 보안 도구에서 정보를 따로 확인하고 연결하던 과정을 줄이고, 위협 탐지부터 조사와 대응까지 하나의 환경에서 수행할 수 있도록 했다.

이러한 통합 환경에서는 사람과 AI 에이전트의 역할도 구분된다. AI 에이전트는 공통된 정보와 대응 수단을 바탕으로 반복적인 탐지와 조사, 대응 업무를 지속적으로 지원하며, 보안 담당자는 우선순위를 정하고 주요 판단과 대응 목표를 설정하는 데 집중한다. 마이크로소프트는 사람의 판단을 유지하면서 AI를 활용해 보안 운영의 처리 속도와 규모를 확대하는 운영 방식을 제시했다.

위협 대응 과정도 탐지와 차단을 개별적으로 수행하기보다 연속적으로 연결하는 방향으로 구성했다. Microsoft Defender의 공격 중단 기능은 공격이 진행되는 동안 원격 측정 정보와 대응 수단을 활용해 위협을 탐지하고 공격자의 다음 움직임을 예측해 진행 중인 공격을 차단한다. 이후 확인된 노출 정보와 위협 정보를 다시 방어에 반영해 향후 공격에 대한 사전 보호를 강화한다.

이와 함께 보안 담당자는 하나의 환경에서 조사와 위협 추적, 자동화, 사고 관리, 위협 정보 확인과 대응을 수행할 수 있다. (2026.09.23., Microsoft)

메타, 자연어 기반 게임 제작 도구

‘Horizon Create·Horizon Studio’ 공개