# AI 거버넌스ㆍ규제

캘리포니아주 상원이 대형 AI 기업에 대한 새로운 투명성 의무를 규정한 SB 53 법안을 최종 통과시켰다. 법안을 발의한 스콧 위너(Scott Wiener) 상원의원은 SB 53이 △AI 연구소의 안전 프로토콜 공개 △직원 내부고발자 보호 △CalCompute라는 공공 클라우드 설립을 통한 컴퓨팅 자원 확대를 주요 내용으로 한다고 밝혔다. 이 법안은 이제 개빈 뉴섬(Gavin Newsom) 주지사의 서명 또는 거부를 기다리고 있다.

이번 SB 53은 기업 규모에 따라 보고 의무를 차등 부여했다. 연 매출 5억 달러 이상 기업은 보다 상세한 안전 보고서를 제출해야 하며, 5억 달러 미만 기업이 개발하는 프론티어 AI 모델은 기본적인 안전 정보만 공개하도록 했다. 또한, 과학기술정책실(OSTP)이 연방 기관들과 협력해 규제 유예 또는 변경 신청을 심사하도록 규정하고, 의회가 정기적으로 그 현황을 보고받도록 했다.

일부 실리콘밸리 기업과 벤처캐피털 업계는 주(州) 차원의 규제가 중복과 불일치를 초래할 수 있다는 우려를 표명했지만, 앤트로픽(Anthropic)은 연방 차원의 기준이 없는 상황에서 SB 53이 실질적 AI 거버넌스 모델을 제시한다고 평가하며 지지 의견을 나타냈다. SB 53은 캘리포니아가 AI 확산 속에서 투명성과 책임성을 제도적으로 강화하려는 본격적 시도로 AI 안전 규제의 새로운 전환점이 될 수 있다는 평가를 받고 있다. (2025.09.13., TechCrunch)

유럽연합(EU) 인공지능 법(AI Act)은 2024년 8월 1일 발효되어 조항별로 단계적 시행이 되고 있으며, 이에 맞춰 아일랜드가 가장 적극적인 준비를 마친 국가 중 하나로 부상했다. 아일랜드 정부는 기업들의 AI 법 준수 여부를 감독할 약 15개 기관을 지정했다고 발표했으며, 이로써 규정을 집행할 준비가 된 소수 회원국 가운데 하나로 자리매김했다.

AI 법은 사회적 위험 수준에 따라 AI 시스템을 차등 관리하는 것이 핵심으로, 회원국들은 2025년 8월 2일까지 유럽위원회(European Commission)에 시장 감시 기관(market surveillance authorities)을 통보해야 한다. 현재까지 키프로스(Cyprus), 아일랜드(Ireland), 라트비아(Latvia), 리투아니아(Lithuania), 룩셈부르크(Luxembourg), 슬로베니아(Slovenia), 스페인(Spain) 등 7개국이 단일 연락 창구를 지정했다.

아일랜드는 중앙은행(Central Bank of Ireland), 미디어위원회(Coimisiún na Meán), 데이터보호위원회(Data Protection Commission), 경쟁·소비자보호위원회(Competition and Consumer Protection Commission), 보건안전청(Health and Safety Authority) 등을 포함해 다수 기관에 감독 권한을 부여했으며, 국가 AI 사무소(National AI Office)가 최종적으로 중앙 조정기관 역할을 맡게 될 예정이다. (2025.09.17., Euronews)

# AI 에이전트 평가ㆍ공개

스탠퍼드 연구진, 임상 환경 내 AI 에이전트 성능 검증 기준 마련

스탠퍼드 연구진이 임상 환경에서 AI 에이전트의 효능을 검증하기 위한 새로운 벤치마크 기준을 마련했다. 연구팀은 AI가 의사를 대체하기보다는 임상의의 업무를 보완하는 도구로 자리 잡을 것이라는 점에 주목하며, 이를 위해 실제 전자 건강 기록(Electronic Health Record, EHR) 시스템을 모사한 가상 환경 ‘MedAgentBench’를 구축했다. 연구는 785,000건의 환자 데이터를 포함한 100개의 프로필을 기반으로, 의사들이 개발한 300개 임상 과제를 활용해 12개의 대규모 언어 모델(LLM)을 시험했다.

실험 결과, Claude 3.5 Sonnet v2가 69.7%의 성공률로 가장 높은 성과를 냈고 GPT-4o, DeepSeek-V3 등이 뒤를 이었다. 그러나 많은 모델이 복잡한 추론, 다단계 워크플로, 상호운용성이 요구되는 시나리오에서 어려움을 보였다. 연구진은 이러한 평가가 모델의 오류 유형을 미리 파악해 안전성을 확보하고 실제 임상에 적용할 수 있는 기초 자료가 될 것이라고 설명했다.

공동 저자들은 이번 벤치마크가 AI를 의료 서비스의 단순 도구에서 ‘팀의 일원’으로 진화시키는 기반이 될 수 있다고 강조했다. 특히 의료 인력 부족이 2030년까지 1천만 명 이상으로 확대될 것으로 전망되는 상황에서, AI 에이전트는 차트 요약, 검사 및 약물 주문 등 반복적이고 소모적인 임상 업무를 보조함으로써 의사의 번아웃을 완화하고 환자 진료에 더 집중할 수 있게 하는 중요한 역할을 할 것으로 기대된다. (2025.09.15., Stanford HAI)

노션, 업무 자동화를 위한 첫 AI 에이전트 공개

노션(Notion)이 ‘Make with Notion’ 행사에서 첫 번째 AI 에이전트를 공개했다. 이번에 선보인 에이전트는 사용자의 모든 노션 페이지와 데이터베이스를 맥락으로 활용해 회의록, 경쟁사 분석 보고서, 랜딩 페이지(Landing Page, 제품·서비스 소개 및 전환 유도를 위한 단일 웹페이지) 등 다양한 문서를 자동으로 작성·분석할 수 있다. 기존 노션 AI(Notion AI)가 검색·요약 기능에 국한됐다면, 새 에이전트는 수백 페이지에 걸친 데이터를 처리하며 최대 20분간 이어지는 복잡한 다단계 작업까지 수행할 수 있다는 점에서 차별화된다.

노션은 또한 에이전트의 출력 스타일, 출처 참조 방식, 결과 저장 위치 등을 사용자가 직접 지정할 수 있는 프로필 페이지 기능을 제공한다. 여기에는 사용자가 반복적으로 지시하는 내용을 기억하도록 설정할 수도 있으며, 해당 기록은 언제든 편집할 수 있다. 데모에서는 에이전트가 랜딩 페이지 피드백 반영, 레스토랑 추적기 제작, 회의 메모 분석, 경쟁 분석 보고서 작성 등을 처리하는 모습이 공개됐다.

현재는 수동으로 실행해야 하지만, 노션은 앞으로 일정이나 조건에 따라 자동으로 작동하는 맞춤형 에이전트 기능과, 다양한 작업에 즉시 적용할 수 있는 템플릿 라이브러리를 제공할 계획이다. 최근 노션은 캘린더 앱, Gmail 클라이언트, 회의록 작성 도구, 엔터프라이즈 검색 기능 등을 연이어 출시하며 자동화 기반을 강화해 왔다. 이번 발표로 노션은 세일즈포스(Salesforce), 파이어플라이즈(Fireflies), 패덤(Fathom), 리드 AI(Read AI) 등과 함께 기업용 지식 관리 및 생산성 자동화 시장에서 본격적인 AI 에이전트 경쟁에 뛰어들게 됐다. (2025.09.18., TechCrunch)

화웨이(Huawei)가 엔비디아(NVIDIA)와의 경쟁에서 우위를 확보하기 위해 새로운 AI 인프라 기술을 공개했다. 화웨이는 선전에서 열린 ‘Huawei Connect’ 컨퍼런스 기조연설에서 최대 15,000개의 Ascend AI 칩을 연결해 컴퓨팅 성능을 크게 향상할 수 있는 ‘SuperPoD Interconnect’ 기술을 발표했다. 이 기술은 칩 간 고속 통신을 가능하게 하며 엔비디아의 NVLink와 직접 경쟁하는 것으로 평가된다. 현재 화웨이의 AI 칩은 엔비디아 대비 성능이 낮지만, 대규모 클러스터링을 통해 대형 AI 모델 훈련과 확장을 위한 연산 성능을 보완할 수 있다. 또한 이번 발표는 중국 정부가 엔비디아 하드웨어의 자국 내 판매를 금지한 지 하루 만에 나와 더욱 시선을 끌었다. 특히 이번 조치에는 중국 시장 전용으로 설계된 엔비디아 RTX PRO 6000D 서버도 포함된 것으로 알려졌다. (2025.09.18., TechCrunch)