영국, 공공부문 ‘AI 위험관리 실무 도구’ 공개

영국 과학혁신기술부(Department for Science, Innovation and Technology, DSIT)는 공공부문의 AI 위험 관리를 지원하기 위한 ‘AI 위험관리 실무 도구(AI Risk Management Toolkit)’를 공개했다. 이 실무 도구는 AI를 설계·개발하거나 조달·운영하는 과정에서 발생할 수 있는 위험을 체계적으로 관리하기 위한 지침과 도구를 제공한다. 데이터과학과 엔지니어링을 비롯해 사업관리, 정보기술, 변화관리 등 여러 분야의 담당자가 함께 참여하는 다학제 팀을 주요 대상으로 한다.

핵심은 AI 위험을 일회성으로 점검하는 데 그치지 않고 조직의 기존 위험관리 절차에 포함해 지속적으로 관리하는 것이다. 먼저 재무와 법규 준수, 공정성, 투명성, 보안 등에서 발생할 수 있는 위험을 식별하고, 조직이 어느 수준까지 위험을 감수할 것인지 ‘위험 선호도’를 정한다. 이어 각 위험의 발생 가능성과 영향을 각각 1~5점으로 평가한 뒤 두 값을 곱해 위험 점수를 산출한다. 평가 결과에 따라 위험을 피하거나 줄이고, 다른 주체에게 이전하거나 허용 가능한 수준에서 수용하는 방식으로 대응한다. 이후에도 위험의 변화와 대응 조치의 효과를 지속적으로 점검하고 보고한다.

실제 업무에 활용할 수 있는 보조 자료도 함께 제공한다. 위험을 찾기 위한 질문과 위험 선호도 설정 기준, 예상되는 영향과 대응 방안을 제시하고, 별도 워크북에는 확인된 위험과 평가 결과, 대응 조치, 담당자를 기록할 수 있도록 했다. 기존 위험 등록부에서 필요한 정보를 충분히 관리하고 있다면 이를 그대로 활용할 수도 있다. 모니터링 대시보드는 개별 AI 시스템의 전반적인 위험 현황을 한눈에 파악하는 데 활용된다.

실무 도구는 영국 정부의 위험관리 원칙을 담은 ‘Orange Book’의 위험 식별과 평가, 처리, 모니터링, 보고 절차를 AI에 적용할 수 있도록 구성됐다. 사이버보안 위험은 Cyber Assessment Framework(CAF) 등 기존 평가 도구와 함께 관리할 수 있다. 특히 AI 시스템은 운영 과정에서 데이터와 모델이 바뀌고 사용 환경이나 법·규제 여건도 달라질 수 있어 특정 시점의 검증만으로 위험 관리를 끝낼 수 없다고 강조한다. 이에 따라 활용 사례를 처음 검토하는 단계부터 개발과 도입, 운영을 거쳐 시스템을 폐기할 때까지 위험을 계속 확인하고 필요에 따라 다시 평가하도록 했다.

이번 실무 도구는 공공기관이 기존 위험관리 체계 안에 AI 위험을 포함해 체계적으로 관리할 수 있도록 지원하는 데 초점을 맞췄다. 조직이 감수할 수 있는 위험 수준을 먼저 정하고 실제 위험을 이에 비춰 평가한 뒤, 적절한 대응 방식을 선택해 운영 과정에서 지속적으로 관리하는 방식이다. (2026.09.08., 영국정부)

미국 교원단체·마이크로소프트,

학교 AI 안전·개인정보 보호 표준 발표

미국 교사연맹(American Federation of Teachers, AFT)과 뉴욕시 교원노조인 교사연합(United Federation of Teachers, UFT), 마이크로소프트(Microsoft)는 학교에서 사용하는 AI의 안전과 개인정보 보호 기준을 담은 ‘학교 AI 안전·개인정보 보호 표준(National AI Safety & Privacy Standard)’을 발표했다.

이는 정부가 제정한 법률이나 규정이 아니라, 학교가 해당 보호 조항을 마이크로소프트 고객 계약에 반영하면 계약상 이행을 강제할 수 있도록 마련한 기준이다. 미국에서 공립학교 운영을 담당하는 지역 교육당국(school district)은 해당 보호 조항을 마이크로소프트와의 계약에 포함할 수 있다.

표준은 학생과 교직원 데이터 보호를 핵심 원칙으로 제시했다. 해당 데이터를 AI 모델 훈련에 사용하거나 판매 또는 다른 목적으로 전용하지 못하도록 하고, 학생 추적도 금지한다. 아울러 학교가 데이터의 이용 방식과 보유 기간, 삭제 여부를 직접 관리하도록 해 교육기관이 데이터 통제권을 유지하도록 했다.

AI 활용 과정에서는 인간의 감독과 안전장치도 요구한다. AI가 인간의 감독 없이 단독으로 의사결정을 수행하지 못하도록 하고, 유해하거나 이용자를 조종하는 경험을 방지하며 민감한 정보를 보호하도록 했다. 또한 기업은 AI 도구의 작동 방식과 수집하는 데이터, 적용되는 보호 조치를 교육자와 학부모가 이해하기 쉬운 언어로 설명해야 한다. 제품 변경 사항과 위험, 관리 수단도 명확히 알리고 학교가 AI를 언제 어떤 방식으로 사용할지 결정할 수 있도록 했다.

이러한 보호 기준은 지역 교육당국이 마이크로소프트 고객계약에 직접 반영할 수 있으며, 계약에 포함되면 계약상 집행이 가능하다. 마이크로소프트 발표문에 인용된 UFT 측은 기준을 위반한 공급자와의 계약을 종료하거나 손해배상을 청구할 수 있다고 설명했다. 이를 통해 개인정보 보호와 인간 감독, 투명성 등 학교 AI 안전기준을 실제 계약에 반영하는 구조를 마련했다

이번 표준은 학교가 AI를 도입하는 단계에서 데이터 이용 범위와 안전조치, 정보공개 기준을 계약을 통해 명확히 할 수 있도록 한 점이 특징이다. 제품별 약관에만 의존하기보다 교육기관이 공급자와의 계약 단계에서 학생 보호 기준과 책임 범위를 정할 수 있는 방식을 제시한 사례다. (2026.09.09., Microsoft)

시진핑 중국 국가주석은 9월 13일(현지시간) 인도 뉴델리에서 열린 제18차 BRICS 정상회의 2단계 회의에서 ‘오픈소스·포용 AI 이니셔티브(Open Source and Inclusive AI Initiative)’를 제안했다. 이는 이날 BRICS 협력 강화를 위해 제시한 5개 이니셔티브 가운데 첫 번째다. 중국은 BRICS AI 오픈소스 커뮤니티 구축을 선도하고, 대형언어모델의 개발과 활용을 위한 협력을 지원하겠다고 밝혔다. 이와 함께 AI 전문 세미나와 연수 과정을 운영하고 개방형 AI 생태계를 조성하겠다는 계획도 제시했다.

같은 연설에서는 무역·투자, 디지털 산업, 스마트 제조, 과학기술 인재양성 분야의 협력안도 별도로 제시됐다. 두 번째 이니셔티브는 BRICS 경제특구 파트너십 구축과 지능형 포털 설치, 정책 조정, 서비스무역 포럼 개최를 포함한다. 세 번째는 BRICS 디지털 생태계 클라우드 플랫폼 구축과 디지털 역량 교육, 기술 교류, 산업 연계를, 네 번째는 다른 BRICS 국가의 스마트공장 구축과 관련 표준·규범 개발 지원을 제안했다. 다섯 번째는 BRICS 엔지니어 양성 연합을 설립해 공동 인재양성과 역량 기준 상호인정을 추진하고, 과학기술 혁신 분야의 청년 교류 프로그램을 운영하는 내용이다.

이번 발표는 중국이 BRICS 차원의 AI 오픈소스 협력과 대형언어모델 개발·활용, 전문인력 양성, 개방형 생태계 조성 방향을 제안한 단계다. (2026.09.13., 중국 외교부)

메타는 개인 AI 에이전트 ‘Muse’를 미국에서 순차 출시했다. Muse는 전용 보안 가상 컴퓨터인 ‘Muse Secure VM’에서 자체 브라우저와 사용자가 연결한 앱을 활용해 이메일 전송, 여행 예약, 온라인 양식 작성, 구매 등의 작업을 대신 수행한다. 장기 목표를 구체적인 실행 계획으로 전환하고, 사용자가 앱을 닫은 뒤에도 작업을 계속 진행하다 상황이 바뀌거나 추가 승인이 필요하면 다시 사용자에게 확인을 요청한다. 미국에서 iOS·Android와 muse.ai를 통해 제공되며, WhatsApp에서도 이용할 수 있다.

이메일 전송이나 구매처럼 민감한 작업은 실행 전에 사용자 승인을 받는다. 결제에는 스트라이프(Stripe)의 Link를 활용하며, 실제 카드 정보를 노출하지 않는 일회용 카드와 적격 구매에 대한 구매 보호를 지원한다. Shop Pay 결제와 1Password 연동은 추후 추가할 예정이다.

보안 측면에서는 Muse와 시스템 수준에서 분리된 별도의 보안 에이전트 ‘Sentinel’을 운영한다. Sentinel은 Muse의 외부 인터넷 접근을 별도로 승인·통제하는 역할을 하며, 필요한 경우 사용자에게 추가 허가를 요청한다. 비밀번호와 결제 수단 등 자격 정보는 별도 보안 저장소에 보관해 Muse가 내용을 직접 볼 수 없도록 했다. 사용자는 연결할 앱과 이메일 읽기·전송 등 앱별 권한을 직접 설정하고 언제든 변경하거나 연결을 해제할 수 있다.

사용자는 Muse가 수행한 작업과 앞으로 수행할 작업을 감사 기록을 통해 확인할 수 있다. 메타는 Muse의 대화 내용과 Secure VM에 저장된 데이터를 광고 시스템과 공유하지 않으며, 이용자가 Muse와의 상호작용을 메타 AI 모델 학습에 사용하지 않도록 선택할 수 있다고 밝혔다. 특정 정보를 삭제하도록 Muse에 요청하는 기능도 제공한다. 올해 안에는 VM 전체를 이용자만 보유한 키로 암호화해 메타도 이용자의 데이터와 Muse와의 대화에 접근할 수 없도록 하는 ‘Muse Confidential VM’을 도입할 계획이다. (2026.09.08., Meta)

오픈AI는 이미지 생성·편집 모델 ‘ChatGPT Images 2.5’를 공개하고 ChatGPT, ChatGPT Work, Codex의 모든 요금제에서 데스크톱·모바일·웹을 통해 순차 제공하기 시작했다. 개발자용으로는 GPT-Image-2.5 Flare와 GPT-Image-2.5 Sunburst를 API에서 제공한다. Flare는 일반적인 이미지 생성·편집과 대량 생성에 적합한 기본 모델로, 오픈AI는 기존 GPT-Image-2보다 높은 품질의 이미지를 생성하면서 지연시간은 50% 낮췄다고 밝혔다. Sunburst는 생성 시간이 더 길지만 캠페인·제품 이미지처럼 정밀한 편집과 세밀한 제어가 필요한 고품질 제작 작업에 적합하다.

ChatGPT Images 2.5는 참조 사진 속 인물과 대상의 특징을 더 잘 유지하고, 조명과 질감을 보다 자연스럽게 표현하도록 개선됐다. 특정 요소만 수정하면서 나머지 대상과 구도, 브랜드 표현을 유지하는 정밀 편집 능력도 강화했다. 여러 차례 편집을 반복해도 앞서 적용한 변경 사항을 일관되게 유지하고 이미지 품질이 저하되는 현상을 줄였다. 복잡한 시각적 지시와 투명 배경 처리, 현실의 정보가 포함된 이미지의 내용 정확성도 개선됐다.

ChatGPT에는 이미지 제작과 편집을 돕는 기능도 추가됐다. Sketch는 사용자가 직접 그린 간단한 그림을 참조해 완성된 이미지를 생성할 수 있도록 지원하며, Poster·Merch 등 자주 사용하는 이미지 형식의 템플릿도 제공한다. 이미지의 특정 위치에 코멘트를 남겨 수정할 부분을 직접 지정할 수 있고, 생성에 사용한 프롬프트를 이미지와 함께 공유해 다른 이용자가 자신의 사진이나 정보를 적용할 수도 있다.

오픈AI는 현재 ChatGPT Images와 API의 GPT-Image 모델을 통해 매주 30억 장 이상의 이미지가 생성되고 있다고 밝혔다. 다만 품질 향상과 지연시간 감소 등 성능 수치는 오픈AI가 자사 모델을 비교해 제시한 결과로, 실제 이용 환경에서는 차이가 있을 수 있다. 안전 측면에서는 유해한 이미지 생성을 방지하기 위해 프롬프트와 이미지를 검사하고, AI 생성 이미지 식별을 지원하는 C2PA 메타데이터와 비가시 워터마크를 계속 적용한다. (2026.09.08., OpenAI)

오픈AI, GPT-6 Astra 기업 업무 연동·관리 기능 공개