2025년 <4월 1주차 AI ISSUE SCANNER> |
|
|
<NOTICE>
본 콘텐츠는 생성형 AI로 요약한 내용을 활용하여 작성하였습니다.
외부 인용 시에는 정보의 정확성과 신뢰성 확보를 위해 원문 확인을 권고합니다.
본 콘텐츠 내의 내용은 한국지능정보사회진흥원의 공식 입장이 아님을 밝힙니다.
AI ISSUE SCANNER를 수신하시려면 성함과 이메일 주소를 알려주세요.
본 콘텐츠가 마음에 드신다면, 주변에 구독을 추천해주세요 |
|
|
|
EU는 2025-2027년 디지털 유럽 프로그램(Digital Europe Programme)의 일환으로 인공지능(AI), 사이버 보안, 디지털 기술 분야에 13억 유로를 투자할 계획을 발표했다. 이 프로그램은 AI의 기업 및 공공 행정 도입, 클라우드 및 데이터 활용, 사이버 복원력 강화, 디지털 기술 향상을 주요 목표로 설정하고 있다. 이번 투자 계획은 "2030 디지털 나침반: 디지털 시대를 위한 유럽의 길"과 "디지털 시대로 가는 길" 정책에서 정의된 EU의 디지털 전환 목표를 실현하기 위한 노력의 일환이다. 2025년 4월부터 첫 번째 공모가 시작되며, |
2025년 4월부터 프로그램에 대한 첫 번째 공모가 시작되며, 연말까지 추가 공모가 이어질 예정이다. 공모는 EU 회원국, EFTA/EEA 국가, 그리고 디지털 유럽 프로그램에 연계된 국가의 기업, 공공 행정기관 및 기타 단체들이 참여할 수 있다. 공모와 관련된 세부 정보는 EU 펀딩 및 입찰 포털을 통해 확인할 수 있다.
|
|
|
|
이탈리아 상원은 2025년 3월 20일 인공지능 법안(Italian AI Bill)을 승인했다.이 법안은 EU AI법과 조화를 이루면서 국가적 특성을 반영한 법적 프레임워크를 구축하며, 최종 승인을 위해 현재 하원으로 이송됐다. 이번 법안에 따르면 이탈리아 정부는 AI 및 관련기술 지원에 10억 유로 규모의 투자 기금을 배정하게 되며 이탈리아 디지털청(AgID)과 사이버보안청(ACN)이 AI 거버넌스 구조를 주도적으로 이끌게 된다. 국가 안보 강화를 위해 공공 부문에서 사용되는 AI 시스템은 반드시 이탈리아 영토 내 서버에서 운영해야 하며, 의료 분야에서는 AI가 의사를 대체할 수 없고 오직 지원 도구로만 활용될 수 있도록 제한된다. 또한 비영리 연구기관은 건강 데이터 처리 시 GDPR 예외를 적용받아 개별 동의 없이도 연구를 진행할 수 있게 됐으며, 기업들은 직장 내 AI 시스템 사용 시 반드시 근로자들에게 이를 알려야 한다. 또한 AI가 창작에 관여한 콘텐츠도 "저자의 지적 노력"이 인정될 경우 저작권 보호가 가능하도록 규정했으며, 공공 행정과 사법 분야에서 AI는 의사결정을 지원하는 보조적 역할만 수행할 수 있도록 제한했다. |
|
|
중국 정부가 민감한 콘텐츠를 자동으로 탐지하고 차단하는 대형 언어 모델(LLM) 기반 검열 시스템을 운영 중인 것으로 밝혀졌다. 테크크런치가 입수한 유출 데이터베이스에 따르면, 이 시스템은 13만 3천 개의 예시를 학습해 검열 기준을 설정했다. 보안 연구자 NetAskari는 바이두 서버에 보안 조치 없이 저장된 Elasticsearch 데이터베이스에서 이 데이터셋을 발견했다. 이 데이터들을 학습해 운영되는 AI 기반 검열시스템은 정치, 사회생활, 군사 관련 민감 주제를 포함하는 콘텐츠를 "최우선" 검열 대상으로 삼고 있으며, 중국 정부의 여론 조작 작업의 일환으로 활용될 가능성이 큰 것으로 분석됐다. 또한 전체 데이터 중 대표적인 10개 사례를 분석한 결과, 사회적 혼란을 조장할 수 있는 콘텐츠가 주요 검열 대상임이 드러났다.
|
|
|
OpenAI가 ChatGPT의 콘텐츠 조정 정책을 완화해 공인 인물, 혐오 상징, 인종적 특징을 묘사한 이미지 생성을 허용하기 시작했다. 이번 주, OpenAI는 사진 편집, 텍스트 렌더링, 공간 표현 기능이 크게 향상된 GPT-4o의 새 이미지 생성기를 출시했다. 새로운 이미지 생성기는 최근 지브리 스튜디오 스타일 이미지 생성으로 주목받기도 하였다. 이러한 변화속에 OpenAI의 모델 행동 책임자 조앤 장은 민감한 영역에서 전면 거부 대신 실제 피해 방지에 초점을 맞춘 더 정확한 접근법으로 전환하고 있다"라고
|
이미지 생성 규제 정책의 변화를 밝혔다. 새 정책에 따라 ChatGPT는 이제도널드 트럼프, 일론 머스크 등 이전에 차단됐던 공인 인물의 이미지를 생성할 수 있다. 대신이미지 생성을 원치 않는 사용자의 경우, 자신의 이미지가 생성되지 않도록 요청할 수 있는기능이 제공된다. |
|
|
일론 머스크의 AI 회사 xAI가 그의 소셜 미디어 플랫폼 X(구 트위터)를 주식 거래 방식으로 인수했다. 머스크는 이번 합병으로 xAI의 가치를 800억 달러로 평가했으며, X는 330억 달러로 책정되었다. X의 부채 120억 달러를 고려한 순가치는 450억 달러로 조정되었다. 머스크는 이번 인수를 통해 데이터, 모델, 컴퓨팅 파워, 배포 채널, 인재를 통합하여 두 회사가 비로소 밀접하게 연결되었다고 설명했다. xAI는 이미 AI 챗봇 Grok과 같은 서비스를 X 플랫폼과 연계해 왔으며, 이번 거래로 두 회사의 통합이 더욱 강화되었다. X와 xAI의 주식은 새로 설립된 지주회사 xAI Holdings Corp의 주식으로 교환될 예정이다.
|
|
|
2025년 4월 1주차 AI 이슈스캐너를 마칩니다.
감사합니다.
문의: ai_issue_scanner@nia.or.kr
|
|
|
|
