2026년 11월 1주차 <AI ISSUE SCANNER> |
|
|
인공지능정책센터(NIA)에서 보내드리는 AI 동향 뉴스레터 |
|
|
<NOTICE> 본 콘텐츠는 이미지 생성 및 초안 작성 과정에서 생성형 AI를 보조적으로 활용하였으며,
담당자의 검토와 편집을 거쳐 최종 작성되었습니다. 외부 인용 시에는 정보의 정확성과 신뢰성 확보를 위해 원문 확인을 권고합니다. 본 콘텐츠 내의 내용은 한국지능정보사회진흥원의 공식 입장이 아님을 밝힙니다.
홈페이지에서 구독 신청과 이전 발간물 확인이 가능합니다.
AI ISSUE SCANNER는 매주 화요일에 여러분을 찾아갑니다. |
|
|
영국 연금감독청, 연금 제도의 책임 있는 AI 활용을 위한
7대 원칙 제시
영국 연금감독청(The Pensions Regulator, TPR)은 연금 제도의 책임 있는 AI 활용을 위한 ‘연금제도에서의 AI 활용(Use of artificial intelligence in pension schemes)’ 지침을 발표했다. 이번 지침은 연금 제도의 운영과 가입자 이익을 관리하고 감독하는 수탁자 및 제도 관리자를 대상으로 AI 활용에 따른 책임과 위험 관리 방안을 안내하며, 연금 관련 서비스 제공자도 참고할 수 있다. TPR은 AI가 연금 행정과 가입자 안내, 데이터 분석 등의 업무 효율성을 높일 수 있지만, 부정확한 정보나 개인정보 처리 등으로 새로운 위험이 발생하거나 기존 위험이 커질 수 있다고 설명했다.
지침은 책임 있는 AI 활용을 위한 7대 원칙으로 기술 도입보다 해결할 문제를 우선할 것, AI 활용 과정에서도 인간의 책임을 유지할 것, 위험 관리와 감독을 지속적으로 수행할 것, 시스템 장애 및 중단에 대비할 것을 제시했다. 이와 함께 정확하고 적절한 데이터 사용, 투명성과 의사결정의 설명 가능성 확보, 가입자에게 공정하고 접근 가능한 서비스 제공을 강조했다. 특히 AI가 가입자에게 미치는 영향과 위험 수준에 따라 관리 및 감독의 강도를 달리하고, 기술이나 이용 환경이 변화할 때 관련 조치를 재검토하도록 안내했다.
수탁자의 관리 책임도 구체적으로 설명했다. 수탁자는 AI 전문가가 아니더라도 연금 업무의 어느 부분에 AI가 활용되는지, 어떤 데이터와 의사결정에 영향을 미치는지 파악하고 외부 서비스 제공자의 AI 활용과 위험 관리 수준을 확인해야 한다. 외부 업체에 업무를 위탁하더라도 수탁자의 책임은 유지되며, 필요에 따라 관련 자료와 계약 조건, 데이터 처리 및 장애 대응 방안을 검토하도록 했다. 또한 AI가 의사결정에 상당한 영향을 미치는 경우에는 활용한 정보와 판단 근거, 사람의 검토 과정 및 최종 책임 주체를 설명할 수 있어야 한다고 강조했다.
AI 활용에 따른 위험 관리 수준은 업무의 성격과 가입자에게 미치는 영향에 따라 달라진다. 지침은 이를 설명하기 위한 가상 사례로 내부 문서 초안 작성이나 회의 요약처럼 가입자에게 직접적인 영향이 적은 업무와, 민감한 개인정보를 활용해 가입자를 상담하고 경우에 따라 가입자 정보 변경이나 거래 처리까지 수행할 수 있는 AI 시스템을 비교했다. 후자는 상대적으로 높은 위험을 수반할 수 있으므로, AI 활용 현황과 위험을 지속적으로 점검하고 시스템 오류나 서비스 중단에 대비한 업무 연속성 확보 방안도 마련하도록 권고했다.
가입자 보호와 관련해서는 AI가 생성한 정보의 정확성과 개인정보 처리, 알고리즘 편향에 따른 불공정한 결과를 점검하도록 했다. 특히 디지털 서비스 이용에 어려움이 있는 가입자도 필요한 정보를 얻을 수 있도록 접근성을 고려하고, 상황에 따라 사람의 상담과 지원을 받을 수 있는 방안을 검토하도록 했다. 다만 AI를 사용한다는 이유만으로 모든 활용 사실을 가입자에게 고지해야 하는 것은 아니며, 개별 법령에 따른 고지 의무는 별도로 준수해야 한다고 설명했다.
TPR은 이번 지침이 새로운 규제 의무를 신설한 것이 아니라, 연금 수탁자와 제도 관리자에게 이미 적용되는 법적 의무와 관리 책임을 AI 활용 과정에서도 적절히 이행하도록 돕는 실무 지침이라고 밝혔다. (2026.10.29., 영국 연금감독청)
|
|
|
미국 연방조달청(General Services Administration, GSA)은 앤트로픽(Anthropic)과 체결한 기존 OneGov 협약을 확대해 AI 모델 Claude에 사용량 기반 할인 요금을 적용한다고 발표했다. 이번 협약은 미국 정부에 제공되는 모든 Claude 모델의 토큰 사용료를 40% 할인하고, 최소 주문 요건 없이 실제 사용량에 따라 비용을 지불하도록 하는 것이 핵심이다. 이에 따라 정부 기관은 일정 규모의 이용량을 사전에 구매할 필요 없이 업무 수요에 맞춰 Claude를 이용할 수 있다.
이번 협약에는 민감하지만 기밀로 분류되지 않은 정부 업무를 위한 미국 연방정부 클라우드 보안 인증제도인 FedRAMP(Federal Risk and Authorization Management Program)의 승인 환경도 포함된다. 구매 가능 기관은 연방 행정부, 입법부, 사법부와 주정부와 지방정부, 원주민 부족 정부까지 포함하며, 직접 구매하거나 재판매 업체 및 주요 클라우드 플랫폼을 이용할 수 있도록 구매 경로를 마련했다.
이번 협약은 연방정부의 공동 구매력을 활용해 기술·서비스의 조달 조건을 협상하는 OneGov 전략의 일환이다. GSA는 정부 기관의 첨단 AI 활용을 평가·시험 단계에서 실제 행정 업무로 확대하고, 기관별 사용량에 맞춰 비용을 지불하는 조달 방식을 강화하고 있다고 설명했다.
한편 GSA는 OneGov 전략 출범 이후 연방정부와 납세자를 위한 누적 비용 절감액이 18억 달러를 넘어섰으며, 이 가운데 약 16억 달러는 GSA가 ‘초지능(super intelligence)’으로 분류한 AI 관련 협약에서 발생했다고 밝혔다. 이는 이번 앤트로픽 협약만의 절감액이 아닌 OneGov 전략 전반의 누적 성과다. (2026.10.27., 미국 연방조달청)
|
|
|
영국 경쟁시장청(Competition and Markets Authority, CMA), 금융행위감독청(Financial Conduct Authority, FCA), 정보위원회(Information Commissioner's Office, ICO), 방송통신규제청(Office of Communications, Ofcom) 등 4개 규제 기관은 ‘AI 에이전트 기반 경제에서 개인과 기업 보호(Protecting people and businesses in an agentic economy)’ 공동 성명을 발표했다. 이번 공동 성명은 4개 기관이 디지털 분야의 규제 현안을 공동으로 검토하고 대응 방향을 조율하는 협의체인 디지털규제협력포럼(Digital Regulation Cooperation Forum, DRCF)을 통해 공개됐다. 주요 내용은 이용자를 대신해 상품을 구매하거나 기업과 소통하는 등 실제 작업을 수행하는 개인용 AI 에이전트의 확산에 대비해 기존 법률의 적용과 규제 기관 간 협력 방향을 제시하는 것이다.
4개 규제 기관은 개인용 AI 에이전트가 디지털 서비스 이용의 편의성을 높이고 새로운 서비스 개발을 촉진할 수 있지만, 기존 위험을 확대하거나 새로운 피해를 일으킬 가능성도 있다고 설명했다. 주요 위험으로는 사기와 기만 행위, 이용자의 예상과 다른 개인정보 공유, 부정확하거나 오해를 유발하는 상품 및 서비스 추천과 의사결정 등을 제시했다. 이에 따라 기업이 AI 에이전트를 개발하거나 도입할 때 이용자가 에이전트의 행동 범위와 권한 부여 방식을 이해할 수 있는지, 개인정보가 어떻게 사용되는지 검토하도록 촉구했다. 또한 상품 추천에 영향을 미치는 상업적 이해관계를 이용자에게 어떻게 알릴 것인지, 에이전트의 결정에 누가 책임을 지며 문제가 발생했을 때 이용자가 어떻게 피해 구제를 받을 수 있는지도 주요 고려 사항으로 제시했다.
이번 공동 성명은 경쟁, 소비자 보호, 개인정보 보호, 온라인 안전, 금융 서비스, 결제, 사이버보안 관련 기존 법률과 규제가 개인용 AI 에이전트에도 적용된다는 점을 명확히 했다. DRCF 회원기관의 관할 밖에 있는 제품 안전 등 다른 분야의 법률도 적용될 수 있다. 특히 AI 에이전트를 도입 및 운영하는 조직은 관련 법률을 준수해야 하며, 에이전트의 자율성이 높아지더라도 이러한 책임은 줄어들지 않는다고 강조했다. 규제 기관들은 법률 위반이 합리적으로 의심되고 소비자나 기업에 피해를 줄 위험이 있는 경우 기존 감독 및 집행 권한을 행사하겠다고 밝혔다.
규제 기관 간 공동 대응도 이어간다. 4개 기관은 AI 에이전트 시장의 변화를 모니터링하고 관련 기업과 직접 협의하는 한편, 지침 제공과 정보 및 증거 공유, 규제 샌드박스를 통한 기술 시험 등을 지원하고 있다. 또한 영국 정부와 협력해 규제 준수상의 잠재적 공백과 새로운 규제 과제를 파악하고, 필요한 경우 기관 간 대응 방향을 조율할 계획이다. 기업에는 제품 개발과 도입 초기부터 규제 기관과 협의하고 기술을 시험해 볼 것을 권장했다. (2026.10.30., DRCF)
|
|
|
구글(Google)은 사이버보안과 복잡한 다단계 작업 수행 능력을 강화한 고성능 AI 모델 ‘Gemini 4 Carbon’을 발표했다. 앞서 공개한 Gemini 4 Argon에 이어 선보인 모델로, 소프트웨어 개발과 AI 에이전트의 장기 작업 수행, 사이버보안 및 안전성 관련 기능을 개선했다. 구글에 따르면 Carbon은 AI 모델의 종합 성능을 평가하는 아티피셜 애널리시스(Artificial Analysis)의 Intelligence Index 5.0에서 59점으로 발표 당시 1위를 기록했다.
사이버보안 분야에서는 소프트웨어의 취약점을 발견하고 악용 가능성을 검증하며 보안 취약점을 수정하는 능력을 강화했다. 구글이 공개한 평가 결과에 따르면 취약점 탐지 평가인 SEC-bench Pro에서 88.2%, 취약점 악용 평가인 ExploitGym에서 54.8%, 취약점 수정 평가인 CWE-bench에서 71.0%를 기록했다. 이들 수치는 사이버보안 관련 안전 제한 조치를 적용하지 않은 조건에서 측정됐다. 구글은 자체 평가에서 보안성이 높은 코드를 생성하는 과제의 성공률이 기존 Argon보다 2배 이상 높아졌다고 밝혔다.
소프트웨어 개발 분야에서는 AI 에이전트가 복잡한 작업을 장시간 수행하는 능력을 개선했다. 구글은 내부 개발 과정에서 Carbon이 대규모 소프트웨어의 오류 원인을 분석하고 수정하는 작업을 며칠간 지속한 사례를 소개했다. 웹 개발 성능 평가인 WebDev Arena에서는 1,768점으로 4위를 기록했으며, 과학 연구와 이미지·텍스트를 함께 이해하는 멀티모달 작업에서도 성능이 향상됐다고 설명했다.
안전성 측면에서는 기존 Argon에 적용된 다층적 안전 체계를 바탕으로 이용자의 지시를 정확하게 이행하고 악의적인 지시에 대응하는 능력을 강화했다. 구글의 내부 평가에서는 근거 없는 진술이 Argon 대비 약 절반으로 감소했으며, 별도의 작업 수행 평가에서 요청 범위를 넘어서는 행동과 요청을 충분히 수행하지 못하는 사례도 각각 26%, 29% 줄었다. 또한 내부 코딩 환경에서 심각한 지시 불일치 관련 경고가 약 80% 감소했다. 외부 자료에 숨겨진 악의적인 지시로 AI의 행동을 조작하는 간접 프롬프트 인젝션 공격을 평가하는 Gray Swan 시험에서는 공격 성공률이 Argon의 0.7%에서 Carbon의 0%로 낮아졌다. 다만 이는 특정 평가에서 확인된 결과로, 실제 이용 환경에서 모든 공격을 차단한다는 의미는 아니다.
구글은 이번 모델을 일부 사이버보안 방어 전문가에게 우선 제공하고, Fairwind 프로그램을 통해 신뢰할 수 있는 협력 기관으로 이용 대상을 단계적으로 확대할 계획이라고 밝혔다. 미국 정부의 자발적인 출시 전 모델 평가 절차에도 참여하고 있으며, 안전 조치를 보완한 뒤 개발자, 기업, 일반 이용자에게 제공할 예정이다. 향후 API 출시 시에는 프로모션 가격으로 입력 100만 토큰당 2달러, 출력 100만 토큰당 10달러를 적용한다. 또한 이전에 처리한 입력 내용이 캐시에 저장돼 다시 사용되는 경우 해당 입력 토큰 요금을 95% 할인한다. 프로모션 기간이 종료되면 입력과 출력 요금은 각각 4달러와 20달러로 변경된다. (2026.10.28., Google)
|
|
|
앤트로픽(Anthropic)은 미국 증권거래위원회(Securities and Exchange Commission, SEC)에 기업공개(IPO)를 위한 S-1 등록 신고서를 공개 제출했다고 발표했다. 앤트로픽은 의결권이 있는 클래스 A 보통주를 나스닥 글로벌 셀렉트 마켓에 ‘ANT’라는 종목 코드로 상장할 계획이다. 다만 공모 주식 수와 가격 범위는 아직 확정되지 않았으며, 등록신고서도 효력이 발생하지 않아 주식 판매는 시작되지 않았다.
신고서에 따르면, 앤트로픽의 2026년 상반기 매출은 약 162억 8,600만 달러, 영업손실은 약 6억 9,300만 달러, 순손실은 약 807억 4,800만 달러로 집계됐다. 순손실에는 전환사채 등 금융상품의 공정가치 변동에 따른 회계상 손실이 크게 반영돼 있어, 영업손실이나 같은 금액의 현금 유출과는 구분된다.
앤트로픽은 AI 모델 Claude와 기업용 서비스의 성장을 주요 사업 현황으로 소개하는 한편, 대규모 AI 연산 인프라 확보에 따른 장기 비용 부담과 외부 클라우드 및 반도체 공급업체에 대한 의존, AI 모델의 안전성 및 규제 위험 등을 주요 경영 위험 요인으로 제시했다. 또한 기업공개 과정에서 공동 창업자들이 설립한 법인에 일반 주주총회 의결권의 50.1%를 부여하고, 장기공익신탁(Long-Term Benefit Trust)이 이사회 정원 과반수에 해당하는 이사의 선임·해임 권한을 갖는 지배 구조를 마련할 계획이다. 이번 신고서는 기업공개를 위한 절차로, 실제 상장 여부와 최종 공모 조건은 향후 확정될 예정이다. (2026.10.26., Anthropic·SEC)
|
|
|
구글, 우주 시험위성에서 AI 모델 응답 생성 성공
구글(Google)은 우주 AI 연산 인프라 구축 가능성을 연구하는 ‘프로젝트 선캐처(Project Suncatcher)’의 시험 위성에서 AI 모델의 응답을 생성하고 지상으로 전송하는 데 성공했다고 발표했다. 프로젝트 선캐처는 우주 공간에서 AI 연산 인프라를 운영할 수 있는지 탐색하는 장기 연구 프로젝트다. 구글은 10월 1일 시험 위성을 발사한 이후 탑재 컴퓨터와 AI 연산용 반도체인 TPU를 가동하고 초기 기계 학습 시험을 진행해 왔다.
이번 시험에서는 위성이 지상국과 교신할 수 있는 시간에 탑재된 공개형 AI 모델 Gemma 4에 우주를 주제로 짧은 시(하이쿠)를 작성하도록 요청했다. 이후 위성이 노르웨이 스발바르 인근을 통과하는 동안 생성된 시를 지상에서 수신했다. 구글은 이를 데이터센터급 TPU가 우주 궤도에서 AI 모델의 응답을 생성한 최초의 사례라고 설명했다. 이어 다른 형식의 시를 생성하거나 위성 탑재 장비의 기술 상태를 보고하도록 하는 추가 시험도 진행했다.
구글은 앞으로 우주 궤도의 온도 변화와 방사선 노출이 TPU 작동에 미치는 영향을 시험하고, 우주 환경에서 AI 연산을 안정적으로 수행할 수 있는지 검증할 계획이다. 이를 바탕으로 2027년에는 시험 위성 2대를 서로 연결하는 후속 연구를 추진한다. 다만 현재는 단일 시험 위성에서 AI 모델을 실행하고 응답을 지상으로 전송하는 데 성공한 초기 실증 단계로, 위성 간 연산 자원 연결이나 상용 우주 데이터센터 구축이 완료된 것은 아니다. (2026.10.30., Google)
|
|
|
2026년 11월 1주차 AI ISSUE SCANNER를 마칩니다.
감사합니다.
문의: ai_issue_scanner@nia.or.kr
|
|
|
|