# AI 신뢰성과 안전 

아동·청소년 미디어 안전 단체 커먼 센스 미디어(Common Sense Media)가 구글(Google)의 생성형 AI 서비스 Gemini에 대한 위험 평가를 발표했다. 이번 평가는 구글이 제공하는 ‘13세 미만(Under 13)’과 ‘청소년용(Teen Experience)’ 등급을 검토했으며, 별도의 아동·청소년 전용 모델이 아니라 성인용 모델에 일부 안전장치를 덧붙인 형태라고 지적했다.

커먼 센스 미디어는 Gemini가 스스로 “친구가 아니라 컴퓨터”라고 명확히 밝히는 점은 긍정적으로 평가했지만, 여전히 성·약물·음주 관련 정보나 부적절한 정신건강 조언 등 아동·청소년에게 위험할 수 있는 내용을 제공할 가능성이 있다고 경고했다. 특히 발달 단계별로 다른 안내가 필요하지만, 동일한 응답 체계를 적용하는 것은 문제라고 지적했다.

이 단체는 결국 Gemini의 아동·청소년 등급 모두를 ‘고위험(High Risk)’으로 분류했다. 로비 토니(Robbie Torney) AI 프로그램 선임 국장은 “AI는 아동의 발달 단계에 맞춰 설계돼야 한다”라며 “성인용 서비스를 수정한 수준으로는 충분하지 않다”라고 강조했다.

구글은 이에 대해 아동·청소년 이용자를 위한 정책과 안전장치가 이미 마련돼 있으며, 외부 전문가와 협력해 지속적으로 보완하고 있다고 해명했다. 다만 일부 응답이 의도대로 작동하지 않은 사례가 있었음을 인정하고 추가적인 보호 장치를 도입했다고 밝혔다. (2025.09.05., Techcrunch)

영국 정부는 급속히 성장하는 AI 시장에서 신뢰성과 책임성을 확보하기 위해 ‘신뢰할 수 있는 제3자 AI 보증 로드맵’을 발표했다. AI 보증은 인공지능 시스템이 안전하고 의도한 대로 작동하는지를 평가·검증하는 과정으로, 기업과 이용자에게 신뢰 기반의 채택 환경을 조성하는 데 핵심적 역할을 한다.

현재 영국의 AI 보증 시장은 초기 단계지만 빠르게 성장 중이다. 2024년 기준 약 161개 전문 기업이 활동하며 시장 규모는 10억 파운드 이상으로 추산된다. 정부는 이 시장이 2035년까지 1,880억 파운드 규모로 확대될 잠재력이 있다고 보고 있다. 그러나 전문 인력 부족, 품질 기준 부재, 정보 접근의 어려움, 혁신 부족 등이 성장의 걸림돌로 지적된다.

이번 로드맵은 이러한 한계를 극복하기 위해 △AI 보증 전문 직업군 육성 △기술·법률·윤리 역량을 아우르는 역량 프레임워크 개발 △정보 공유 가이드라인 마련 △혁신 연구개발 지원 등을 추진한다. 특히 정부 주도의 컨소시엄을 통해 자율 윤리강령과 교육 체계를 마련하고, 향후 전문 인증 제도로 발전시켜 산업 신뢰도를 높이겠다는 계획이다.

영국 정부는 이번 로드맵을 통해 제3자 보증 시장의 품질과 신뢰성을 높이고, 나아가 글로벌 AI 보증 산업에서 영국이 선도적 위치를 차지하도록 한다는 목표를 밝혔다. 이는 AI의 안전한 활용을 촉진해 기업 혁신과 경제 성장을 동시에 견인하려는 전략으로 평가된다. (2025.09.03., GOV.UK)

# AI 인재ㆍ활용

인도, HealthAI 글로벌 규제 네트워크(GRN) 공식 가입

인도가 책임 있는 의료 AI 활용 강화를 위해 국제 헬스AI 규제 네트워크(HealthAI Global Regulatory Network, GRN) 에 공식 가입했다. 이 협력체는 각국 규제기관과 연구기관이 참여해 환자 안전, 데이터 신뢰성, 공평한 접근을 보장하며 의료 AI의 안전한 도입을 목표로 한다.

이번 협력은 인도 의학연구위원회 디지털보건데이터과학연구소(ICMR-NIRDHDS) 와 IndiaAI가 주도한다. 이들은 글로벌 기관 헬스AI(HealthAI) 와 함께 안전 프로토콜 마련, 임상 환경에서의 성능 모니터링, 신뢰할 수 있는 도입 확산을 추진한다.

뉴델리 서명식에는 상감미트라 파티(Sanghamitra Pati) ICMR 부총괄, 모나 두갈(Mona Duggal) ICMR-NIRDHDS 소장, 카비타 바티아(Kavita Bhatia) IndiaAI 최고운영책임자 등이 참석했다. 바티아는 이번 협력이 인도의 국가 AI 전략과 부합한다고 강조했고, 두갈은 데이터 기반 접근과 학제 간 협력의 중요성을 언급했다.

GRN은 공동 표준 수립, 위험 조기 경보, 등록 AI 의료 도구의 투명한 관리 체계를 마련해 안전성과 신뢰성을 높인다. 인도는 10개 개척국 중 하나로 국제 기준 형성에 참여하게 되며, 글로벌 책임 AI 거버넌스에서 영향력을 확대할 전망이다.

더 나아가 인도는 거버넌스, 물류, 수자원 관리 등 공공 부문에서도 AI 활용을 확장하고 있다. 마니푸르에서는 공무원들을 대상으로 시민 중심 행정을 위한 AI 워크숍을 열어 법적 사례 관리, GIS 기반 행정, 윤리적 혁신을 다루었으며, IIT 마드라스의 SMART 센터는 지속 가능한 물류 혁신을 추진하고 있다. 또한 위성 모니터링과 디지털 도구를 활용한 전국 물 보존 프로그램도 운영 중이다. 이번 합류는 인도가 글로벌 협력과 국내 디지털 전환을 동시에 추진하며 책임성과 포용성을 갖춘 AI 활용 모델을 제시하겠다는 의지를 보여준다. (2025.09.06., Opengov Asia)

싱가포르, 이중언어 AI 인재 양성 집중 계획 발표

싱가포르는 최근 산업 혁신 콘퍼런스에서 인공지능(AI) 도입 성과를 공유하며 “이중 언어 AI 인재(bilingual AI talents)” 양성에 집중하겠다는 계획을 밝혔다. 이는 각자의 전문 분야에 깊은 지식을 갖추면서 동시에 AI를 자유롭게 활용할 수 있는 역량을 갖춘 인재를 의미한다. 조세핀 테오(Josephine Teo) 장관은 게임 산업에서 AI로 테스트 시간을 절반으로 단축한 사례, 위성 설계 최적화에 AI를 적용한 사례를 소개하며 도메인 지식과 AI 기술이 결합될 때 새로운 혁신이 가능하다고 강조했다.

싱가포르 정부는 2019년 국가 AI 전략(National AI Strategy, NAIS)을 발표한 이후 2023년 NAIS 2.0으로 확장하며 지원을 강화해왔다. 특히 2025년 예산에서 1억 5천만 싱가포르 달러 규모의 엔터프라이즈 컴퓨팅 이니셔티브(Enterprise Compute Initiative, ECI)를 도입해 기업이 클라우드 크레딧, 컴퓨팅 파워, AI 도구와 컨설팅을 활용할 수 있도록 지원하고 있다. 또한 “디지털 리더를 위한 GenAI(GenAI for Digital Leaders)” 프로그램을 통해 기업 경영진이 조직 차원에서 AI를 통합하도록 돕고 있으며, 40개 이상의 기업이 AI 우수 센터를 설립해 학제 간 협업을 촉진하고 있다.

대중의 참여도 활발하다. 근로자의 75%가 이미 AI 도구를 정기적으로 사용하고 있으며, 이 가운데 85%가 효율성과 품질 향상을 체감하고 있다. 정부는Tech Skills Accelerator(TeSA) 확대, 대학 협력, 기업 파트너십을 통해 AI 전문 인재 경로를 강화하고 있으며, 대기업들은 수천 명의 직원을 대상으로 대규모 AI 교육을 진행해 실무자 커뮤니티를 형성하고 있다.

조세핀 테오 장관은 이를 과거 싱가포르가 컴퓨터·인터넷·모바일 기술을 학습하며 경쟁력을 키웠던 경험에 비유했다. 그는 정부·산업·개인의 공동 의지를 바탕으로 싱가포르가 미래를 준비할 수 있는 AI 유창성을 확보해 글로벌 경쟁에서 앞서 나가야 한다고 강조했다. (2025.09.05., Opengov Asia)

OpenAI는 제품 테스트 및 실험 플랫폼 스타트업 Statsig를 약 11억 달러 규모의 전액 주식 거래로 인수한다고 발표했다. 이는 ChatGPT 개발사 역사상 최대 규모 인수 중 하나이며, 현재 OpenAI의 기업 가치는 약 3,000억 달러로 평가된다.

이번 인수는 OpenAI 애플리케이션 사업 확장을 총괄하는 피지 시모(Fidji Simo) Applications 부문 CEO의 전략적 행보로, Statsig 창립자이자 CEO인 비자이 라지(Vijaye Raji)가 OpenAI 애플리케이션 부문 CTO로 합류한다. 라지는 시모에게 직접 보고하며 ChatGPT, Codex, 그리고 향후 출시될 애플리케이션의 제품 엔지니어링 전반을 총괄하게 된다. OpenAI는 Statsig의 실험 플랫폼을 흡수해 제품 개발 속도를 한층 높일 계획이라고 밝혔다.

동시에 리더십 개편도 이뤄졌다. 최고제품책임자(CPO)였던 케빈 와일(Kevin Weil)은 신설 조직인 OpenAI for Science 부사장으로 이동해, 전 마이크로소프트 AI 부사장이자 연구원인 세바스찬 부벡(Sebastien Bubeck)과 함께 과학적 발견을 가속하는 AI 기반 연구 플랫폼 개발을 주도한다. 또한 스리니바스 나라야난(Srinivas Narayanan) 엔지니어링 총괄은 B2B 애플리케이션 CTO로 전환되어, 브래드 라이트캡(Brad Lightcap) 최고운영책임자(COO)와 협력하며 기업 대상 애플리케이션 전략을 담당한다.

OpenAI는 인수 완료 후 Statsig 전 직원이 OpenAI에 합류하되, 시애틀 사무소는 독립 운영을 유지하며 기존 고객 서비스를 지속할 예정이라고 밝혔다. 현재 이번 인수는 규제 당국의 승인을 앞두고 있다. (2025.09.02., TechCrunch)

미국 연방정부 공무원 수백만 명이 곧 무료로 마이크로소프트(Microsoft)의 AI 어시스턴트 ‘코파일럿(Copilot)’을 이용할 수 있게 된다. 이는 미 연방조달청(General Services Administration, GSA)과 마이크로소프트가 체결한 협정의 하나로, 첫해에만 31억 달러(약 4조 원) 절감 효과가 예상된다. 이번 협정의 핵심은 고도 보안 등급인 Microsoft 365 G5 라이선스를 사용하는 부처 직원들에게 1년간 코파일럿을 무상 제공하는 것이다. 행정 업무 자동화와 데이터 분석 효율화를 통해 정부 운영 전반의 현대화를 가속하려는 목적이다. 조시 그루엔바움(Josh Gruenbaum) GSA 산하 연방조달서비스(FAS) 국장은 이를 “연방정부 전체의 구매력을 활용해 막대한 비용 절감을 실현한 패러다임 전환”이라고 설명했다. 협정에는 애저(Azure) 클라우드 서비스 비용 인하와 데이터 전송 요금 면제도 포함돼 부처 간 협업을 저해하던 비용 장벽이 완화될 전망이다. 보안 측면에서도 코파일럿은 국방부의 잠정 승인에 이어 곧 FedRAMP High 인증을 받을 예정이며, 이미 마이크로소프트의 주요 클라우드·AI 서비스는 최고 수준의 보안 인증을 통과했다.

스티븐 에히키안(Stephen Ehikian) GSA 부청장은 “트럼프 행정부의 핵심 과제인 연방정부 AI 도입을 위해 파트너십을 강화하고 있다”라며, 각 부처가 이번 기회를 적극 활용해 행정 효율성과 성과를 높일 것을 당부했다. 마이크로소프트는 기술 활용과 확산을 위해 2천만 달러를 추가 투입해 교육과 지원 프로그램을 제공한다. 사티아 나델라(Satya Nadella) 마이크로소프트 회장 겸 CEO는 “이번 협정을 통해 연방정부가 AI를 활용해 국민 서비스를 개선하고 보안을 강화하는 동시에, 첫해에만 30억 달러 이상 절감을 실현할 것”이라고 밝혔다. (2025.09.02., AINEWS)