# AI 안전을 위한 조치

미국 캘리포니아주가 1월 1일부터 거대 인공지능 모델의 사회적 위험성을 투명하게 공개하고 내부 고발자를 보호하는 강력한 법적 규제 시행에 들어갔다. 개빈 뉴섬(Gavin Newsom) 주지사가 서명한 이 법안은 구글(Google)이나 오픈AI(OpenAI)와 같은 첨단 AI 기업들이 안전사고 위험을 평가하는 직원을 보호하고 재난적 상황에 대비한 대응 매뉴얼을 웹사이트에 의무적으로 게시하도록 규정하고 있다. 만약 구글이나 오픈AI가 이러한 안전 프레임워크를 위반할 경우, 건당 최대 100만 달러의 과태료가 부과된다. 또한 이들 기업은 중대 안전사고 발생 시 15일 이내에 주 당국에 보고해야 하며 인명 피해가 우려되는 긴급 상황에서는 24시간 이내에 알려야 할 의무를 진다.

스콧 위너(Scott Wiener) 상원의원이 발의한 이 법은 그동안 모호했던 재앙적 위험을 구체적인 수치로 정의하여 규제의 실효성을 높였다. 법안은 AI 통제 상실로 인한 사이버 공격이나 생화학 무기 악용으로 50명 이상의 사망자가 발생하거나 10억 달러 이상의 재산 피해가 나는 경우를 명확한 규제 대상으로 명시했다. 이에 따라 구글과 오픈AI는 모델의 사용 목적, 제한 사항, 위험 평가 절차, 그리고 제3자 검증 여부 등을 상세히 담은 투명성 보고서를 대중에게 공개해야 한다.

스탠퍼드 대학의 리시 보마사니(Rishi Bommasani) 연구원은 이번 조치가 그동안 불투명했던 AI 업계에 필수적인 정보 공개를 유도할 것으로 전망했다. 보마사니 연구원의 분석에 따르면 주요 AI 기업 13곳 중 정기 사고 보고서를 작성하는 곳은 3곳에 불과하며 투명성 지표도 전반적으로 하락세를 보였다. 그는 법의 실효성이 규제 집행 기관의 의지와 자원에 달렸다고 지적했다.  (2025.12.31., Calmatters)

미국 오하이오주 잉글우드시는 소속 공무원들의 생성형 인공지능 활용에 대한 지침을 마련했다. 이번 조치는 생성형 AI가 가진 데이터 분석 및 콘텐츠 생성 능력을 행정에 도입하되 이에 수반되는 보안 위험과 오류 가능성을 엄격히 통제하기 위해 마련되었다.

잉글우드시는 이번 지침에서 보안 및 데이터 보존 목적을 근거로 마이크로소프트 코파일럿(Microsoft Copilot)만을 유일한 업무용 승인 도구로 지정했다. 이에 따라 잉글우드시 공무원들은 문서 초안 작성, 요약, 그리고 데이터 분석 업무 등에 마이크로소프트 코파일럿을 제한적으로 활용할 수 있다. 지침은 공무원들이 기밀 정보나 민감한 개인 식별 정보를 AI 시스템에 입력하는 행위를 엄격히 금지하고 있으며 승인되지 않은 외부 AI 플랫폼을 공무에 사용하는 것 또한 불허했다. 아울러 잉글우드시는 공무원이 AI가 생성한 결과물의 정확성을 직접 검증하지 않고 업무에 적용해서는 안 된다고 명시했다.

공공 데이터 관리 측면에서도 명확한 기준이 제시됐다. 잉글우드시는 오하이오주 공공 기록법에 따라 AI 도구를 사용하여 생성하거나 제출한 모든 콘텐츠가 정보 공개 청구의 대상이 될 수 있음을 강조하고 해당 기록물은 시의 기록 보존 정책에 따라 투명하게 관리되어야 한다고 규정했다. 이는 AI 활용 과정에서 발생할 수 있는 행정의 불투명성을 방지하기 위한 조치다.

이러한 잉글우드시의 행보와 함께 휴버 하이츠시는 전문 AI 컨설턴트를 위촉하여 잠재적 리스크를 평가하고 보안 및 투명성 기준에 부합하는 정책 개발에 착수했다. 반달리아시 또한 관련 규정 마련을 검토하는 등 인근 지자체에서도 AI 안전을 위한 조치가 확산되고 있다. (2025.12.31., Dayton Daily News)

중국 국가인터넷정보판공실(CAC)은 2025년 12월 27일 ‘인공지능 의인화 상호작용 서비스 관리 임시 방법(의견수렴(안))’을 공개하고 2026년 1월 25일까지 대중의 의견을 수렴한다고 밝혔다. 이번 규제안은 AI가 텍스트·이미지·음성·영상 등을 통해 인간과 감정적으로 상호작용하는 과정에서 발생할 수 있는 국가 안보 및 사회적 공익 침해를 방지하고 서비스의 건전한 발전을 유도하기 위해 제정되었다.

국가인터넷정보판공실은 이번 안을 통해 서비스 제공자에게 엄격한 안전 관리 의무를 부과했다. 규정에 따르면 서비스 제공자는 사용자의 생명이나 신체 건강을 해치는 자살·자해 유도 행위나 심리적 조종을 시도해서는 안 되며, 사용자가 2시간 이상 연속으로 서비스를 이용할 경우, 팝업창 등을 활용해 휴식을 권고해야 한다. 특히 당국은 사용자가 자살이나 자해 등 극단적인 상황을 언급할 경우, 즉시 인간 상담원이 대화를 이어받아 개입하고 비상 연락망을 가동하는 등 응급 조치를 취하도록 의무화했다.

미성년자와 노인 등 취약 계층을 위한 보호 조치도 구체적으로 명시되었다. 판공실은 서비스 제공자가 미성년자 모드(Mode)를 의무적으로 구축하고 미성년자에게 교감형 서비스를 제공할 경우, 보호자의 명시적 동의를 받도록 했다. 또한 보호자가 자녀의 이용 시간과 소비를 제한할 수 있는 기능을 제공해야 하며 미성년자의 개인 정보나 대화 데이터를 모델 훈련에 사용하는 것은 원칙적으로 금지된다. 노인 사용자의 경우 서비스 제공자가 노인의 친족이나 특정 관계인을 모방하는 서비스를 제공해서는 안 된다고 규정하여 AI가 노년층의 심리적 취약성을 악용할 가능성을 원천 차단했다.

데이터 관리와 보안 평가에 대한 기준도 강화되었다. 학습 데이터가 사회주의 핵심 가치관에 부합해야 하며 데이터의 출처가 합법적이고 추적 가능해야 한다고 강조했다. 또한 등록 사용자가 100만 명 이상이거나 월간 활성 사용자가 10만 명 이상인 서비스 또는 신기술 도입으로 중대한 기능 변화가 있는 경우 사전에 안전성 평가를 실시하고 당국에 보고서를 제출하도록 의무화했다. 이를 위반할 경우, 관련 부처는 경고, 통보 비판, 서비스 중단 등 법적 조치를 취할 수 있다. (2025.12.27., CAC.GOV.CN)

# HW+AI를 위한 기업들의 노력

오픈AI, AI 인터페이스 확장을 위한 시도

오픈AI(OpenAI)가 음성 기반 인공지능 기술을 대폭 강화하며 하드웨어 시장 진출을 위한 준비에 착수했다. 오픈AI는 최근 두 달간 엔지니어링, 제품, 그리고 연구 등 다수의 팀을 하나로 통합하여 오디오 모델을 전면적으로 재정비했다. 이는 2026년에 오디오 중심의 개인용 기기 개발과 출시를 위한 사전 작업이다.

오픈AI의 이러한 움직임은 시각적 스크린이 배경으로 물러나고 오디오가 핵심 인터페이스로 부상하는 기술 업계의 흐름을 반영한다. 메타(Meta)는 레이밴 스마트 안경에 5개의 마이크 배열을 탑재하여 청취 기능을 강화했고, 구글(Google)은 검색 결과를 대화형 요약으로 변환하는 기능을 실험 중이다. 테슬라(Tesla) 또한 엑스에이아이(xAI)의 챗봇 그록(Grok)을 차량에 통합하여 자연스러운 대화형 제어 시스템을 구축했다.

오픈AI가 2026년 초 선보일 새로운 오디오 모델은 기존 기술의 한계를 넘어설 예정이다. 이 모델은 실제 대화 상대처럼 자연스러운 발화가 가능하고 상대방의 개입을 적절히 처리하며 사용자가 말하는 도중에도 동시에 대화할 수 있는 기능을 지원한다. 오픈AI는 이를 안경이나 스크린 없는 스마트 스피커 등 '동반자' 형태의 기기에 탑재할 계획이다. 하드웨어 개발은 애플(Apple)의 전 디자인 총괄 조니 아이브(Jony Ive)가 주도한다. 오픈AI는 2025년 5월 65억 달러 규모의 인수를 통해 조니 아이브의 기업 아이오(io)를 합류시켰으며, 조니 아이브는 스크린 중독을 해결하기 위한 오디오 우선 설계를 최우선 과제로 추진하고 있다. (2026.01.01., Techcrunch) 

웨이모, 구글 제미나이 탑재한 차량용 AI 비서 테스트

알파벳(Alphabet)의 자율주행 자회사 웨이모(Waymo)가 구글(Google)의 인공지능 모델 제미나이(Gemini)를 로보택시 내 차량용 비서로 통합하는 기능을 테스트하고 있다. 앱 분석 연구원 제인 만춘 웡(Jane Manchun Wong)은 웨이모 앱 코드 분석을 통해 웨이모 승차 지원 메타 프롬프트라는 내부 문서를 발견했다고 밝혔다. 이 문서는 AI 비서가 차량 내에서 승객에게 심리적 안정을 제공하고 유용한 정보를 전달하는 구체적인 행동 수칙을 담고 있다.

웨이모는 제미나이가 자신의 정체성과 자율주행 시스템인 웨이모 드라이버(Waymo Driver)를 명확히 구분하도록 규정했다. 제미나이는 운전 행위나 차량의 인지 능력을 자신의 것으로 표현할 수 없다. 승객이 비서를 호출하면 제미나이는 이름과 탑승 이력 등 맥락 정보를 활용해 개인화된 인사를 건넨다. 기능적으로는 온도·조명·음악 제어 등을 직접 수행할 수 있으나 볼륨 조절·창문 개폐·경로 변경 등은 차량 내 스크린이나 앱을 이용하도록 안내해야 한다. 제미나이는 일반적인 대화나 농담은 가능하지만, 금융 거래, 상품 주문, 그리고 긴급 구조 요청 등의 업무 수행은 금지된다. (2025.12.27., Techcrunch) 

미 육군(U.S. Army)이 인공지능과 머신러닝 분야를 전문으로 하는 새로운 장교 직군인 '49B AI/ML 장교'를 공식 지정하고 전문 인력 양성에 나섰다. 이번 조치는 데이터 중심의 AI 기반 군대로 거듭나기 위한 미 육군의 지속적인 혁신 과정의 일환으로 추진되었다.

미 육군은 새로운 직군 도입을 단계적으로 시행할 계획이다. 첫 선발은 2026년 1월부터 미 육군의 자발적 전과 인센티브 프로그램(VTIP, Voluntary Transfer Incentive Program)을 통해 진행되며 선발된 장교들은 2026 회계연도 말까지 해당 병과로 재분류될 예정이다. 미 육군 대변인 올랜던 하워드(Orlandon Howard) 중령은 이번 결정이 현재와 미래의 작전 요구 사항을 충족하기 위한 의도적이고 필수적인 조치라고 설명하며 전투 기능 전반에 AI와 머신러닝을 통합할 내부 전문가 그룹을 양성하겠다고 밝혔다.

49B 직군은 초기에는 VTIP 자격을 갖춘 모든 장교에게 개방되지만, AI 및 머신러닝 관련 학문적·기술적 배경을 갖춘 지원자가 경쟁력 우위를 점할 것으로 보인다. 또한 미 육군은 향후 준사관까지 이 전문 분야를 확대하는 방안도 검토하고 있다. 선발된 장교들은 엄격한 대학원 수준의 교육을 이수한 뒤 최첨단 AI 시스템을 구축하고 배포하며 유지 관리하는 실무 경험을 쌓게 된다.

이들의 핵심 역할은 전장 의사결정 가속화, 물류 공급망 최적화, 그리고 차세대 로봇 및 자율 시스템 관리 등 다양한 군사 작전 영역에서 첨단 기능을 운영하는 것이다. 하워드 중령은 49B 경력 경로의 신설이 육군의 결정적 우위를 유지하기 위한 핵심 투자이며 궁극적으로 적보다 앞서 생각하고 빠르게 기동할 수 있는 군대를 건설하기 위함이라고 강조했다. (2025.12.30., US.ARMY)