호주 연방법원 등재기관, ‘AI 투명성 성명’ 공개

호주 연방법원 등재기관(Federal Court of Australia Listed Entity)은 기관의 AI 활용 현황과 관리 체계를 담은 ‘AI 투명성 성명(AI Transparency Statement)’을 공개했다.

이 등재기관은 관련 법률에 따라 연방법원과 연방순회·가정법원 제1·2부, 국가원주민토지권심판소에서 재판·심판 업무를 담당하지 않는 직위의 인력으로 구성되며, 이들 기관에 운영 지원 서비스를 제공한다. 이번 성명은 등재기관의 AI 이용을 대상으로 하며, 각 법원과 심판기관의 사법·심판상 의사결정 과정에서의 AI 이용은 적용 범위에서 제외된다.

현재 AI 활용은 업무 생산성과 기관 운영 지원 영역에 한정돼 있다. 생성형 AI는 데이터 보안과 개인정보 보호를 중시하는 내부 기준에 따라 허용된 범위에서 사용하며, 정보기술 부서에서는 코딩과 설계, 테스트 자동화에도 AI 도구를 활용하고 있다. 반면 국민이 AI와 직접 상호작용하거나 AI 이용으로 중대한 영향을 받을 수 있는 업무에는 현재 사용하지 않는다. 의사결정과 데이터 분석·예측, 정책·법률 업무에도 AI를 활용하지 않으며, 향후 활용 가능성을 검토하기 위한 개념 검증과 시범 활동은 별도로 진행하고 있다.

AI 이용은 ‘호주 공공서비스 AI 계획(AI Plan for the Australian Public Service)’과 ‘정부 내 AI 책임사용 정책(Policy for the responsible use of AI in government)’을 비롯해 개인정보보호법(Privacy Act 1988), 정부 보호보안정책체계(Protective Security Policy Framework), 호주 AI 윤리원칙과 기관 내부 정책에 따라 관리한다. 내부 생성형 AI 지침은 사용할 수 있는 도구와 이용 범위를 통제·제한하고, 사용 기록과 모니터링을 포함한 관리 방식을 제시한다. 또한 AI 활용 과정에서 고려해야 할 기술적·윤리적 위험을 검토하고, 허용된 AI 도구도 기관의 다른 내부 정책에 부합하도록 사용하도록 했다.

책임 체계도 마련했다. 기관은 2026년 6월 최고 AI 책임자(Chief AI Officer)를 임명하고, 정부 정책에 따라 2명의 AI 책임 담당자(Accountable Officials)를 지정했다. 이들은 기관 내 정책 이행과 범정부 AI 활동 참여, 관련 제도 변화 대응, 직원 교육과 AI 정책·통제에 대한 내부 인식 제고를 담당한다. 기관은 이들을 중심으로 교육과 소통을 실시하고, AI 도구가 적절하고 효과적으로 사용되는지 지속적으로 점검한다.

이번 성명은 등재기관이 현재 AI를 어디에 활용하고 있으며 이를 어떤 기준과 책임 체계로 관리하는지를 공개한 것이다. (2026.09.15., Federal Court of Australia)

캘리포니아 주지사, 프런티어 AI 독립 감독 강화 행정명령 발령

개빈 뉴섬(Gavin Newsom) 캘리포니아 주지사는 프런티어 AI의 안전과 보안에 대한 독립 감독을 강화하기 위해 행정명령 N-9-26을 발령했다. 이번 명령은 9월 9일 서명한 SB 813과 AB 1405의 이행을 앞당기고, 향후 독립 검증과 비상 대응 체계를 추가로 강화하기 위한 법 개정 방안을 검토하도록 주정부에 지시한 것이다. SB 813은 AI 시스템과 모델의 안전 위험을 독립적으로 평가하는 검증기관 체계를, AB 1405는 AI 감사인 등록부와 감사인의 독립성·투명성·무결성 기준을 마련하는 내용이다.

행정명령에 따라 캘리포니아 정부운영청(Government Operations Agency)은 SB 813에 따른 독립검증기관의 신청 요건과 절차, 심사 기준을 2027년 5월 1일까지 마련해 공개해야 한다. AB 1405에 따른 AI 감사인 등록 체계 관련 조치도 2027년 12월 1일까지 추진하도록 했다.

이와 별도로 정부운영청은 주지사 비상서비스국(Governor’s Office of Emergency Services)과 협의하고 국가 차원의 전문가 의견을 반영해 추가 안전조치를 검토한다. 주요 검토 사항은 대형 프런티어 AI 개발기업의 연구소에 지정 독립검증기관을 배치해 정기적인 감사와 평가를 실시하는 방안과, 기업이 주법에 따라 제출해야 하는 안전 체계와 투명성 보고서, 위험 평가를 독립적으로 검증하는 방안이다. 관련 법 개정의 기술적 타당성과 예상 효과에 대한 권고안은 11월 16일까지 주지사실에 제출해야 한다.

프런티어 모델의 비상 중단 장치인 ‘킬 스위치(kill switch)’도 검토 대상에 포함됐다. 행정명령은 기업에 이를 즉시 설치하도록 의무화한 것이 아니라, 향후 주법을 개정해 비상 중단 장치를 마련하도록 하고 독립검증기관이 그 효과를 지속적으로 확인하는 방안의 타당성과 효과를 검토하도록 했다. AI 기업이 보고해야 하는 중대 안전사고의 범위에 모델이나 AI 에이전트의 통제 상실(loss-of-control) 사고를 포함하는 방안도 함께 검토한다. (2026.09.18., Governor Gavin Newsom)

우르줄라 폰데어라이엔(Ursula von der Leyen) 유럽연합(EU) 집행위원장은 9월 16일 유럽의회에서 열린 2026년 국정연설에서 프런티어 AI의 위험에 대응하기 위한 산업계와 국제 파트너와의 협력 방향을 제시했다. 폰데어라이엔 위원장은 개발 중인 프런티어 모델이 전례 없는 수준의 해킹을 가능하게 할 수 있다고 우려하고, 스스로 개선을 반복하는 자기재귀형(self-recursive) 모델의 위험도 함께 언급했다.

이에 따라 주요 프런티어 AI 연구소를 초청해 업계에서 진행 중인 ‘프런티어 개발 속도 관리(pace the frontier)’ 노력을 유럽이 어떻게 지원할 수 있을지 논의하겠다고 밝혔다. 특히 첨단 AI 기업의 최고경영자들이 자기재귀형 모델의 개발 속도를 늦출 필요성을 제기하고 있다고 언급했다. 아울러 EU AI Act를 이러한 위험에 대응하기 위한 안전장치이자 국제적 논의를 뒷받침하는 기반으로 제시했다.

국제 협력과 관련해서는 캐나다와 영국 등 파트너들과 모델 평가와 검증, 조기 경보, AI 보안 분야에서 협력하겠다고 밝혔다. 다만 이번 연설에서는 프런티어 AI 연구소와의 협의 일정이나 참여 기업, 국가 간 공동 평가 체계의 구체적인 운영 방식 등은 제시하지 않았다.

이번 발표는 프런티어 AI에 대한 새로운 규제나 개발 속도 제한을 확정한 것이 아니라, 기존 AI Act를 바탕으로 산업계와 국제 파트너 간 안전 협력을 확대하겠다는 방향을 제시한 것이다. (2026.09.16., European Commission)

다리오 아모데이(Dario Amodei) 앤트로픽 CEO는 9월 12일 공개한 글 ‘We Must Pace the Frontier’에서 AI의 안전·검증 역량이 모델 성능 향상을 따라갈 수 있도록 프런티어 AI의 역량 향상 속도를 조절해야 한다고 제안했다. 이는 AI 개발을 중단하자는 의미가 아니라, 기업이 안전조치와 정렬 기술을 충분히 적용하고 제3자가 이를 검증할 시간을 확보하자는 취지다. 아모데이는 AI가 차세대 AI 개발에 활용되면서 자기 개선 가능성이 커지고 있는 점 등을 이러한 제안의 배경으로 제시했다.

이를 위한 첫 번째 방안은 프런티어 AI 기업이 독립적인 외부 평가팀에 직원과 유사한 수준의 지속적인 접근 권한을 제공하는 ‘내장형 평가자(embedded evaluators)’ 제도다. 평가팀은 기업의 안전 수칙과 약속 준수 여부, 사고 발생 여부를 확인하고 완성된 모델뿐 아니라 학습 과정과 운영 절차가 안전 목표에 부합하는지도 평가한다. 다만 접근 범위에는 법률과 계약, 고객 정보 보호 등에 따른 제한이 적용될 수 있다. 앤트로픽은 이 방안을 자체적으로 추진하겠다고 밝히고 다른 프런티어 AI 기업에도 유사한 조치를 제안했다.

두 번째는 민주주의 국가의 프런티어 AI 기업들이 공통 안전 기준을 마련하고, 안전 대책이 따라가기 어려울 정도로 AI 역량이 빠르게 향상되는 것을 막기 위해 협력하는 방안이다. 아모데이는 이러한 기업 간 협력이 경쟁법상 제약을 받을 수 있어 정부의 지원이나 중재가 필요할 수 있다고 설명했다.

세 번째는 미국을 비롯한 민주주의 국가가 중국 등 권위주의 국가와도 검증 가능한 범위에서 AI 위험 관리 협력을 추진하는 방안이다. 아모데이는 초기에는 위험한 AI 활용을 제한하는 등 비교적 합의와 검증이 쉬운 분야에서 시작하고, 이후 모델 출시 전 안전 평가와 자기 개선 속도 관리 등으로 협력 범위를 단계적으로 넓히는 방안을 제시했다.

아모데이는 속도 조절을 통해 확보한 시간을 AI 안전 역량 강화에 활용해야 한다고 강조했다. 우선 학습과 배포 과정에서 발생할 수 있는 문제를 줄이기 위해 모니터링과 샌드박싱, 학습 환경과 데이터 관리를 강화하고, 모델 성능 향상에 맞춰 안전하고 유용한 행동을 유지하도록 정렬 기술을 개선할 필요가 있다고 봤다. 또한 모델 내부의 작동 원리를 분석하는 해석 가능성 연구를 확대하고, 고성능 모델이 평가를 회피하거나 문제를 숨길 가능성에 대비해 다양한 안전성 평가와 교차 검증 방식을 발전시켜야 한다고 제안했다.

이번 제안은 프런티어 AI 개발을 일률적으로 멈추자는 방안이 아니라, AI 역량 향상 속도와 안전·검증 역량 사이의 격차를 줄이자는 아모데이의 제안이다. (2026.09.12., Dario Amodei)

오픈AI는 GPT-6 Astra를 법률 업무에 맞게 구성한 ‘Astra for Law’를 공개하고, 선정된 로펌을 대상으로 ChatGPT와 Codex에서 제한 제공(Trusted Access)을 시작했다. Astra for Law는 별도의 새로운 기반 모델이 아니라 GPT-6 Astra에 법률 검색 지수와 전문 분석·작성 지침, 업무 도구와 설정을 결합한 구성이다. ChatGPT에서는 ‘GPT-6 Astra Law’라는 이름으로 제공되며, API용 gpt-6-astra-law는 추후 제공할 예정이다.

핵심은 법률 자료 검색과 근거 확인 기능을 강화한 것이다. 전용 검색 지수는 미국 판례와 법률, 규정, 법원 규칙, 행정 결정 등 2억3천만 개 이상의 URL을 대상으로 하며 자료를 지속적으로 추가한다. 프리 로 프로젝트(Free Law Project)와의 협력을 통해 미국에서 공표된 선례 판례의 99.9% 이상을 포괄하는 CourtListener 판례 자료도 검색에 활용한다. 법률 분석·작성 지침은 검색한 자료를 사건 사실관계에 적용하고, 주장의 약점이나 불확실성까지 검토하도록 지원한다.

오픈AI는 Vals AI Legal Research Bench의 비공개 검증 세트 200문항을 활용해 Astra for Law를 평가했다. 최고 추론 설정에서 전체 정답 판정률은 54.0%로, 같은 조건에서 일반 GPT-6 Astra가 웹검색을 사용했을 때의 38.7%보다 상대적으로 약 40% 높았다. 판례 중심 문항에서는 참조 사례를 24% 더 많이 찾았고, 감사 대상 구간에서는 올바른 판결문에서 관련 문구를 최대 54% 더 많이 회수했다. 다만 이 수치는 오픈AI가 해당 비공개 평가 세트에서 실시한 비교 결과로, 실제 법률 업무 전반의 정확도나 생산성 향상을 의미하지는 않는다.

기밀 정보 보호와 로펌 내부 통제를 위한 기능도 마련했다. 제한 제공 대상 가운데 적격 로펌에는 API의 Zero Data Retention(ZDR)을 제공하고, ChatGPT Enterprise의 사용 내용은 기본적으로 인간 검토 대상에서 제외한다. 오픈AI는 로펌 레이섬앤왓킨스(Latham & Watkins)와 함께 정보 접근 권한과 윤리적 정보 차단벽(ethical walls), 고객 지침, 로펌 차원의 감독 방식을 설계하고 있다.

법률 업무 도구와의 연동도 확대했다. 오픈AI는 Relativity, Clio 등 법률·업무 서비스를 연결하는 26개 파트너 제작 플러그인과 9개 커뮤니티 플러그인, 47개 커스텀 스킬을 공개했다. 이를 통해 문서관리와 사건·거래자료 분석 등 기존 법률 업무를 ChatGPT 기반 업무 흐름에 연결할 수 있도록 했다. (2026.09.17., OpenAI)

의사결정 지원 모델 ‘Jev’,

버셀 AI Gateway 출시 24시간 만에 유료 이용팀 약 13% 사용