2026년 8월 3주차 <AI ISSUE SCANNER> |
|
|
인공지능정책센터(NIA)에서 보내드리는 AI 동향 뉴스레터 |
|
|
<NOTICE> 본 콘텐츠는 생성형 AI 기반 생성 이미지와 요약 내용을 활용하여 작성하였습니다. 외부 인용 시에는 정보의 정확성과 신뢰성 확보를 위해 원문 확인을 권고합니다. 본 콘텐츠 내의 내용은 한국지능정보사회진흥원의 공식 입장이 아님을 밝힙니다. AI ISSUE SCANNER를 수신하시려면 성함과 이메일 주소를 알려주세요.
AI ISSUE SCANNER는 매주 화요일에 여러분을 찾아갑니다.
본 콘텐츠가 마음에 드신다면, 주변에 구독을 추천해주세요.
|
|
|
호주 AI 안전연구소(Australian AI Safety Institute, AISI)는 여러 AI 에이전트가 상호작용하는 다중 에이전트 시스템(multi-agent system)의 위험과 통제 방식을 분석한 프레임워크 보고서를 공개했다. 해당 보고서는 개별 AI 에이전트가 각각 안전하고 신뢰할 수 있더라도, 이들이 상호작용하는 전체 시스템까지 안전한 것은 아니라고 지적했다. 특히 에이전트가 단일 조직을 넘어 다른 조직이나 공개 환경의 에이전트와 연결될수록 조직의 통제 범위는 줄어들고, 발생한 문제는 더 빠르고 넓게 확산돼 탐지·차단·복구하기 어려워질 수 있다고 설명했다.
보고서는 이를 분석하기 위해 상호작용하는 에이전트 사이에 공통으로 적용되는 최소 거버넌스 수준을 기준으로 세 가지 유형을 구분했다. 단일 거버넌스(singular governance)는 한 조직이 시스템의 모든 에이전트를 관리하는 환경이고, 연합 거버넌스(federated governance)는 여러 조직이 합의된 규칙과 공동 인프라 아래 에이전트를 운영하는 환경이다. 개방 환경(open environments)은 중앙 관리 주체 없이 공개 인프라에서 에이전트가 상호작용하는 경우를 뜻한다. 적용 가능한 통제 수단과 대응 가능한 주체는 에이전트의 구조·과업·규모보다 상호작용하는 에이전트 사이에 실제로 어느 정도의 거버넌스가 공유되는지에 따라 달라진다.
보고서는 각 유형에서 발생할 수 있는 실패를 에이전트 간 조정 실패, 오류·잘못된 정보·민감정보·악성 지시 등의 전파·확산, 이해관계 차이에 따른 전략·인센티브 실패, 공동 인프라·환경의 실패 등 네 가지로 구분했다. 여러 에이전트가 상호작용하면 오류가 연쇄적으로 확대되거나 잘못된 믿음을 서로 강화할 수 있으며, 명시적인 지시 없이 담합과 같은 행동이 나타날 수도 있다. 따라서 개별 에이전트만 점검하는 방식으로는 이러한 시스템 차원의 위험을 충분히 파악하기 어렵다고 설명했다.
통제 방식도 거버넌스 유형에 따라 달라진다. 단일 거버넌스에서는 에이전트 간 정보 전달을 구조화하고, 서로 다른 모델을 활용하거나 작업을 조정하는 에이전트와 복구 지점을 두는 방식이 제시됐다. 연합 거버넌스에서는 참여 조직 간 공통 규칙과 함께 통신·신원·모니터링 등 공동 인프라를 마련하는 방식이 필요하다. 개방 환경에서는 에이전트가 사용할 수 있는 도구·권한·행동 범위를 제한하거나, 같은 자발적 표준(voluntary standards)을 따르는 에이전트끼리 상호작용하도록 해 실행 시점에 공유 거버넌스를 형성하는 방안이 제시됐다. 보고서는 후자의 방식을 다중심 거버넌스(polycentric governance)라고 설명했다.
또한 보고서는 다중 에이전트 시스템의 위험을 관리하려면 각 위험에 대해 누가 대응할 수 있는지, 통제 범위가 어디까지인지, 현재 어디에 통제 공백이 남아 있는지를 함께 파악해야 한다고 강조했다. (2026.08.10., 호주 산업과학자원부)
|
|
|
영국 기업·혁신·과학·통상부(Department for Business, Innovation, Science and Trade)는 AI 시뮬레이션을 포함한 연결·자동화 모빌리티(Connected and Automated Mobility, CAM)와 무공해 차량 기술을 지원하기 위해 약 1억 3천만 파운드 규모의 투자를 발표했다. 정부가 약 6천5백만 파운드를 지원하고 산업계가 이에 상응하는 자금을 부담하는 구조로, 1,800개 이상의 고부가가치 제조 일자리와 추가적인 공급망 고용을 지원할 것으로 전망된다.
AI와 직접 연관된 부분은 CAM Pathfinder 프로그램이다. 영국 정부는 CAM Pathfinder의 9개 선정과제에 1천7백만 파운드를 투입해 센서, 브레이크 바이 와이어(brake-by-wire), AI 시뮬레이션 등 자동화 모빌리티 기반기술의 개발·시험·확대를 지원한다. 선정과제는 대중교통, 승객 이동, 건설, 공항 운영, 도로 유지관리 등 실제 환경에서의 기술 적용도 포함한다. 정부는 이를 통해 안전하고 상용화 가능한 자동화 모빌리티 서비스와 영국 내 공급망 역량을 강화할 계획이다.
무공해 차량 분야에서는 DRIVE35를 통해 자동차 기업과 주요 연구개발 협력기관에 약 5천만 파운드의 정부 지원이 배정됐다. 선정과제는 무공해 차량 기술의 상용화를 앞당기고 대규모 생산으로 연결하는 데 초점을 두며, 배터리 생산 확대와 자동차 공급망 역량 강화도 지원한다. DRIVE35는 영국 자동차산업의 전동화를 촉진하기 위해 2035년까지 40억 파운드를 투입하는 프로그램이다.
이번 발표는 AI 시뮬레이션을 포함한 자동화 모빌리티 기술의 개발·실증과 무공해 차량 기술의 상용화·양산을 함께 지원하는 자동차산업 투자 발표다. 다만 약 1억 3천만 파운드 전체가 AI 분야에 투입되는 것은 아니며, AI 시뮬레이션은 CAM Pathfinder가 지원하는 여러 기반기술 중 하나다.
(2026.08.10., GOV.UK)
|
|
|
미국 사이버보안·인프라보안국(Cybersecurity and Infrastructure Security Agency, CISA)은 8월 14일 AI로 발견한 소프트웨어 취약점 신고를 처리·조정하는 ‘Gold Eagle’의 운영 개요를 공개했다. Gold Eagle은 정부와 민간이 취약점 정보를 공유·조정하는 이니셔티브이자 정보교환 허브다.
백악관은 앞서 7월에 Gold Eagle 이니셔티브의 출범을 발표하고, 확인된 취약점 정보의 접수·우선순위 지정과 스캔 검증 조정이 이미 시작됐다고 밝혔다. 이어 CISA는 이번 자료에서 재무부와 공동으로 구현한 Gold Eagle의 소프트웨어 기능과 기존 취약점 공개조정 체계의 연계 방식을 제시했다.
Gold Eagle의 소프트웨어 기능은 AI로 발견한 취약점 신고를 대규모로 접수하고 검증·분류하며, 중복 신고를 걸러내는 역할을 한다. 이 가운데 취약점 공개 조정(Coordinated Vulnerability Disclosure, CVD) 요건을 충족한 신고는 CISA의 취약점 정보·조정 환경(Vulnerability Information and Coordination Environment, VINCE)에 CVD 건으로 등록된다.
VINCE는 CISA의 주요 CVD 플랫폼으로 계속 활용된다. Gold Eagle은 취약점 신고의 초기 분류·검증과 중복 제거를 지원하고, CVD 요건을 충족한 신고를 VINCE로 연결해 취약점 발견부터 후속 조치까지의 처리 과정을 간소화한다. 다만 기존 민간기업과 오픈소스 커뮤니티의 취약점 관리·공개 활동을 대체하지 않고 이를 보완하는 역할을 한다. (2026.08.14., CISA)
|
|
|
메타는 개인용 기기에서 장시간 지속되는 에이전트 작업에 최적화한 약 300억 매개변수 모델 Muse Glimmer를 오픈웨이트로 공개했다. Muse Glimmer는 Mac이나 단일 소비자용 GPU를 탑재한 PC에서 실행할 수 있으며, 로컬 AI 에이전트, 함수 호출, 코딩, 다른 AI 모델의 결과를 평가하는 작업(LLM-as-a-judge) 등에 활용하도록 설계됐다. 모델 가중치는 Apache 2.0 라이선스로 공개됐다.
Muse Glimmer는 장시간 이어지는 작업을 수행하기 위해 도구 호출, 다단계 추론, 오류 복구, 멀티모달 이해 등을 지원한다. 전용 인식 인코더(perception encoder)를 통해 텍스트와 이미지를 함께 처리해 스크린샷, 차트, 문서 등을 이해할 수 있으며, 100개가 넘는 언어의 데이터로 학습됐다. 도구 호출에 실패하거나 예상과 다른 결과가 나오면 오류를 확인하고 다시 시도하도록 학습된 것도 특징이다.
메타는 로컬 실행을 위해 언어모델 가중치를 약 4비트 정밀도로 양자화해 20GB 미만으로 줄였다. 이를 통해 KV 캐시(KV cache, 이전 입력 정보를 저장해 반복 연산을 줄이는 작업 메모리), 이미지 처리를 위한 인식 인코더, 생성 속도를 높이는 보조 모델까지 포함해 24GB 또는 32GB급 메모리 환경에서 실행할 수 있도록 했다. 메타는 약 4비트 양자화를 적용해 모델 크기를 줄이면서도 에이전트 작업 성능 저하는 최소화했다고 밝혔다.
생성 속도를 높이기 위해 추측 디코딩(speculative decoding, 경량 모델이 후보 토큰을 먼저 생성하고 본 모델이 이를 확인하는 방식)도 적용했다. 경량 DFlash 보조 모델이 여러 토큰을 먼저 제안하면 Muse Glimmer가 이를 병렬로 검증해 생성 속도를 높이는 방식이다. 메타는 MacBook M4 Max·M5 Max와 NVIDIA RTX 5090에서 양자화 모델의 실행 성능을 측정하고, 로컬 환경에서의 에이전트 작업에 활용할 수 있도록 최적화했다고 설명했다.
성능과 관련해서는 DeepSearch QA, MCP Atlas, SWE-Bench 등 에이전트·코딩 벤치마크를 포함한 평가 결과를 공개했다. 메타는 비슷한 규모의 다른 모델과 비교해 여러 평가에서 경쟁력 있는 성능을 보였다고 설명했다. 다만 해당 성능 비교는 메타가 수행해 공개한 평가 결과라는 점을 구분할 필요가 있다.
이번 Muse Glimmer 공개는 에이전틱 AI의 도구 호출·멀티모달 이해·장시간 작업 기능을 개인용 기기에서도 활용할 수 있도록 모델 크기와 메모리 요구량을 최적화한 오픈웨이트 모델 사례다. (2026.08.10., Meta AI Research)
|
|
|
오픈AI는 프런티어 사이버 모델을 더 많은 보안 현장에 활용하기 위해 Daybreak Cyber Partner Program을 확대한다고 발표했다. Daybreak Cyber Partner Program은 승인된 사이버보안 기업과 서비스 제공업체가 오픈AI의 프런티어 사이버 모델을 기존 보안 제품·관리형 서비스·고객 업무에 적용할 수 있도록 지원하는 파트너 프로그램이다. 승인된 파트너는 취약점 발견·검증, 레드팀, 침투 테스트, 사고 대응, 취약점 개선 등 기존 보안 업무에 모델을 활용할 수 있다.
프로그램에는 액센츄어(Accenture), IBM, 캡제미니(Capgemini), 시스코(Cisco), 클라우드플레어(Cloudflare) 등 보안·서비스·기술기업이 참여한다. 오픈AI는 파트너의 보안 전문성과 기존 고객 환경에 프런티어 모델을 결합해 취약점을 발견하는 데 그치지 않고, 실제 악용 가능성을 확인하고 위험의 우선순위를 정해 개선까지 연결하는 것을 목표로 한다.
승인된 파트너는 Daybreak Access를 통해 업무 성격에 따라 Daybreak Blue 또는 Daybreak Red를 이용할 수 있다. Daybreak Blue는 폭넓은 방어형 보안 업무를 지원하며, Daybreak Red는 레드팀과 침투 테스트처럼 보다 전문적이고 엄격한 관리가 필요한 업무를 위해 설계됐다. 이를 통해 기업은 별도의 전문 사이버 AI 프로그램을 직접 구축하지 않고도 기존 보안 제품이나 관리형 서비스를 통해 프런티어 사이버 모델의 기능을 활용할 수 있다.
모델 접근에는 업무 성격에 맞는 안전장치가 적용된다. 파트너는 통제된 업무 환경에서 모델을 사용하며, 필요에 따라 신원 확인, 테스트 범위 설정, 로그 기록, 모니터링, 사람의 감독 등이 적용될 수 있다. 특히 기반 모델에 대한 접근 권한은 승인된 파트너가 유지하며 고객에게 직접 이전되지 않는다. 파트너는 고객과 업무 범위를 정하고 결과를 검토한 뒤 전문성을 바탕으로 실제 대응 조치를 수행한다.
이번 발표는 프런티어 사이버 모델을 일반 이용자에게 직접 개방한 것이 아니라, 승인된 보안 파트너와 통제된 업무 환경을 통해 활용 범위를 확대하는 조치다. (2026.08.10., OpenAI)
|
|
|
오픈AI, 기업 AI 활용의 ‘지원→업무 실행’ 전환 분석
오픈AI는 기업의 AI 활용이 단순한 질의·업무 지원에서 실제 업무를 위임하고 수행하는 방향으로 확대되는 흐름을 분석한 Enterprise Signals와 작업논문 「How Organizations Use AI: Evidence from ChatGPT」를 공개했다. 두 연구는 오픈AI 기업고객의 이용자료를 바탕으로 기업별 AI 활용 수준과 직무·직급별 확산, 에이전틱 AI 이용 양상을 분석한다.
분석 결과, 기업 간 AI 활용 격차는 확대되고 있었다. 오픈AI는 매월 활성 이용자당 출력 토큰을 기준으로 상위 10%를 AI 활용 상위 기업, 45~55백분위 구간을 AI 활용 수준이 중간인 기업으로 구분했다. 6월 기준 AI 활용 상위 기업의 활성 이용자당 출력 토큰은 중간 수준 기업의 8.3배로, 1월의 2.6배보다 격차가 커졌다. 다만 출력 토큰량은 생산성이나 사업성과 자체가 아니라, 이용자가 AI에 얼마나 많은 업무를 맡기는지를 가늠하는 활용 깊이의 대리지표다.
이러한 활용 확대는 에이전틱 AI를 통한 업무 실행에서도 나타났다. 6월 기준 오픈AI 기업고객의 Codex와 ChatGPT 합산 출력 토큰 가운데 Codex가 64%를 차지했다. 2월 이후 주간 활성 Codex 이용자는 법무에서 108배, 영업과 채용에서 각각 41배, 마케팅에서 26배 증가한 반면 엔지니어링은 5배 증가했다. 이는 Codex 활용이 소프트웨어 개발을 넘어 다양한 지식업무로 확산되는 흐름을 보여준다. 다만 해당 수치는 2월 대비 증가폭으로, 직무별 절대 이용자 수를 의미하지 않는다.
업무 실행 수준이 높아질수록 기업의 정보와 도구를 AI에 연결하는 기능 활용도 두드러졌다. 주간 활성 이용자 가운데 Plugins 사용 비율은 AI 활용 상위 기업이 21%로 중간 수준 기업의 9%보다 높았으며, Skills 이용 비율도 각각 19%와 3%였다. Plugins는 재사용 가능한 지침인 Skills와 기업 데이터·도구·작업을 연결해 에이전트가 특정 업무를 수행하도록 지원한다. 오픈AI는 에이전트가 실제 업무를 수행하려면 접근 가능한 정보와 행동 범위, 사람의 검토가 필요한 시점을 명확히 설정해야 한다고 설명했다.
직급별로는 초기 경력 직원의 AI 활용이 더 활발했다. 기업 도입 6개월 후 초기 경력 직원은 임원보다 주당 평균 13개의 메시지를 더 보냈다. 오픈AI는 기업의 AI 활용을 확대하려면 효과적인 개인 활용 사례를 조직의 반복 가능한 업무절차로 확산하고, 업무 맥락·도구 연결과 함께 명확한 권한, 거버넌스, 사람의 검토 체계를 마련해야 한다고 제안했다. 이번 분석은 오픈AI의 기업 이용자료를 바탕으로 한 관찰 결과이므로, 전체 기업의 생산성 향상이나 AI 도입의 인과효과를 직접 의미하지는 않는다. (2026.08.12., OpenAI)
|
|
|
2026년 8월 3주차 AI 이슈스캐너를 마칩니다.
감사합니다.
문의: ai_issue_scanner@nia.or.kr
|
|
|
|