# AI 윤리를 위한 노력과 논란들

메타(Meta)는 2026년 초부터 자녀가 인공지능(AI) 챗봇과 상호작용하는 방식을 부모가 직접 관리할 수 있는 ‘부모 통제 기능(Parental Controls)’을 도입한다고 밝혔다. 이 기능에는 청소년 이용자가 AI 캐릭터와 1대1로 대화하는 기능을 완전히 차단하거나, 특정 챗봇만 개별적으로 제한할 수 있는 옵션이 포함된다. 다만 메타의 기본 AI 어시스턴트를 완전히 비활성화하는 것은 불가능하며, 메타는 해당 기능이 “교육적 정보 제공과 연령별 보호 기준을 유지한다”라고 설명했다.

부모는 자녀가 AI 챗봇과 어떤 주제에 관해 대화하고 있는지 요약된 ‘인사이트(insights)’ 정보를 확인할 수 있지만 전체 대화 내용에는 접근할 수 없다. 메타는 이러한 조치가 “AI 상호작용의 투명성을 높이고 부모가 자녀의 온라인 경험을 안전하게 관리할 수 있도록 하기 위한 것”이라고 밝혔다.

이번 결정은 페이스북(Facebook)과 인스타그램(Instagram)에서 청소년의 유해 콘텐츠 노출 및 AI 챗봇 대화 관련 극단적 사례에 대한 소송과 비판이 잇따르는 가운데 이루어졌다. 메타는 이에 앞서 10대 이용자 계정을 영화 등급 체계의 PG-13(만 13세 이상 관람가(Parental Guidance–13)) 수준으로 제한하는 정책을 발표했다. 청소년 이용자는 부모의 동의 없이는 해당 제한을 해제할 수 없으며, 이러한 보호 수준은 AI 챗봇 대화에도 동일하게 적용된다.

그러나 아동·청소년 온라인 보호단체들은 이번 조치의 실효성에 의문을 제기하고 있다. 공익단체 페어플레이(Fairplay)의 조시 골린(Josh Golin) 대표는 “메타의 발표는 청소년 보호보다 규제 입법을 피하고 부모들의 우려를 완화하려는 목적이 크다”라고 비판했다. 업계에서는 이번 정책이 실질적인 안전성 개선보다 여론 대응 성격이 강하다는 평가가 나온다. (2025.10.17., Euronews)

스포티파이(Spotify)는 소니뮤직(Sony Music), 유니버설뮤직(Universal Music Group), 워너뮤직(Warner Music), 멀린(Merlin) 등 주요 음반사들과 함께 인공지능(AI)을 활용하되 저작권 보호와 아티스트의 권리, 공정한 보상을 보장하는 ‘책임 있는 AI(Responsible AI)’ 음악 생태계 조성을 위한 협력을 추진한다고 밝혔다. 이번 협약은 생성형 AI 기술이 음악 산업 전반에 미치는 영향을 관리하고 창작자 중심의 공정하고 투명한 시스템을 구축하기 위한 것이다.

스포티파이는 음반사들과 협력해 AI 기반 음악 도구를 개발하고 아티스트가 AI 활용 여부를 직접 결정할 수 있는 선택권 시스템을 마련할 예정이다. 또한 AI가 특정 곡을 학습하거나 활용할 경우, 원 저작자에게 사용 내역을 통보하고 이에 따른 보상을 받을 수 있는 메커니즘을 도입할 계획이다.

이번 조치는 가상 밴드 음악이 플랫폼에서 확산되며 ‘인간 창작자 배제’ 논란이 불거진 이후, 스포티파이가 신뢰할 수 있는 AI 정책을 강화하는 과정의 연장선에 있다. 회사는 이미 대량 AI 콘텐츠 업로드 및 검색 알고리즘 조작을 방지하기 위한 새 정책을 시행했으며 음악 제작 과정에서 AI가 사용된 경우, 이를 명시하도록 하는 DDEX(디지털 데이터 교환 표준) 기반 라벨링 시스템을 도입했다.

스포티파이는 성명에서 “음악 산업이 AI 변화를 주도하지 않으면 권리와 동의, 보상이 없는 혁신이 다른 곳에서 진행될 것”이라며 “저작권은 필수적이며, 아티스트의 선택권과 공정한 참여를 보장하는 방향으로 AI 기술을 발전시켜 나갈 것”이라고 밝혔다. 스포티파이는 현재 생성형 AI 연구소와 전담 제품 개발팀을 운영 중이며, 아티스트가 신뢰할 수 있는 AI 음악 도구를 단계적으로 선보일 계획이다. (2025.10.16., Techcrunch)

오픈AI(OpenAI)가 성인 인증을 거친 이용자에게 ‘에로티카(Erotica)’ 대화를 허용하겠다고 밝히며, 생성형 인공지능(AI)의 새로운 수익 모델이 윤리적 논란에 휩싸였다. 샘 알트만(Sam Altman) CEO는 “우리는 세계의 도덕 경찰이 아니다”라며 “사회가 R등급 영화처럼 성인에게 적절한 경계를 두는 것과 같이 성인에게 더 많은 자유를 허용할 것”이라고 밝혔다. 그동안 성인용 콘텐츠를 금지해온 오픈AI가 방침을 전환함에 따라, 챗GPT(ChatGPT)는 본격적으로 AI 산업의 거대한 ‘성인 시장’에 진입하려는 첫 사례로 평가된다.

AI를 활용한 성적 콘텐츠는 2022년 이미지·텍스트 생성 기술 확산 이후 주요 수요 분야로 자리 잡았다. 그러나 이 시장을 먼저 개척한 기업들은 법적 소송과 사회적 비판에 직면했다. 옥스퍼드대학교 중국정책연구소의 질란 치안(Zilan Qian) 연구원에 따르면, 전 세계적으로 약 2,900만 명이 연애나 성적 교류를 목적으로 한 AI 챗봇을 사용하고 있으며, 이는 일반 챗봇을 성적 용도로 사용하는 경우를 제외한 수치다. 질란 치안은 이번 변화에 대해 “구독 기반 수익이 제한적인 오픈AI가 성인 콘텐츠를 통해 단기 수익을 확보하려는 의도를 가진 것으로 보인다”라고 분석했다.

하지만 윤리적·사회적 위험은 크다. 캐릭터AI(Character.AI)는 드라마 ‘왕좌의 게임(Game of Thrones)’의 캐릭터를 모방한 챗봇이 미성년자에게 성적 대화를 유도하고 자살로 이어졌다는 소송을 겪고 있으며, 오픈AI 역시 10대 사용자의 사망 사건으로 유사한 소송에 휘말렸다. 전문가들은 “24시간 이용할 수 있는 ‘친밀한 챗봇 관계’는 인간의 정서적 의존을 심화시키고 현실의 인간관계를 약화시킬 수 있다”라고 경고했다.

또한 미국 스타트업 시비타이(Civitai)는 성인용 콘텐츠 허용으로 급성장했으나 아동 성 착취물과 유명인 딥페이크 확산으로 비판을 받으며 결국 실제 인물 기반 이미지 생성을 금지했다. 반면 노미(Nomi) 등 일부 AI 챗봇 기업은 자율적 이용을 허용하고 있다.

이번 오픈AI의 결정은 단순한 기능 확장이 아니라, AI가 인간의 감정과 욕망이라는 가장 사적인 영역을 상업화하는 새로운 전환점으로 평가된다. AI 성인 콘텐츠 시장의 확산은 기술적 자유와 사회적 책임의 경계를 새롭게 시험하고 있다. (2025.10.18., Euronews)

# 英, 의료 부문 AI 적용

英, AI 에어록 2단계 프로그램 참여 기업 선정

영국 의약품 및 건강관리제품규제청(Medicines and Healthcare products Regulatory Agency, MHRA)은 인공지능(AI) 의료기기의 임상 안전성과 규제 경로를 실증하는 ‘AI 에어록(AI Airlock)’ 2단계 프로그램 참여 기업 7곳을 발표했다. 이번 단계는 장내 암 진단 시간 단축, 안과 질환 탐지, 비만 치료 지원, 임상 기록 자동화 등 AI 의료 기술의 실제 적용성과 안전성을 검증하는 것을 목표로 한다. ‘AI 에어록’은 2024년 시범 사업을 거쳐 설계된 세계 최초의 AI 의료기기 규제 샌드박스로서 실제 병원 및 연구 환경에서 신기술을 시험하며 안전성·효과성·위험 요소를 종합적으로 평가한다. 이번 2단계는 세 가지 핵심 규제 과제를 중심으로 진행된다.

첫째, 의도된 사용 범위 확장 및 검증(Intended Use & Validation) 분야에서는 영국의 의료 AI 문서화 플랫폼 토투스(TORTUS)가 참여해 AI가 단순 기록 지원에서 진단·의사결정 보조로 전환될 때의 규제 등급 재분류 문제를 검증한다.

둘째, AI 기반 체외 진단(In-vitro Diagnostic) 분야에서는 파나케이아 테크놀로지스(Panakeia Technologies)의 대장암 진단 AI '팬프로파일러(PANProfiler)'가 포함되어 있다. 해당 기술은 병리 슬라이드를 AI로 분석해 수 주 걸리던 검사 결과를 수 분 내로 단축하며, 실제 영국 내 4,700여 건의 환자 샘플로 유효성을 입증했다.

셋째, 사후 모니터링(Post-Market Surveillance) 및 사전변경관리계획(PCCP) 분야에는 영국 국가의료서비스(National Health Service, NHS)가 개발 중인 안전 요약(Safe Summarisation) 도구가 선정됐다. 이는 입원 환자의 진료기록을 대규모 언어모델(LLM)로 요약해 의료진과 환자 모두에게 이해하기 쉬운 형태로 제공하며, NHS 연합데이터플랫폼(Federated Data Platform, FDP)을 통해 안전성과 성능을 실시간 감시한다.

이와 함께 2단계 프로그램에는 아이투진 리미티드(Eye2Gene Ltd)의 유전성 안질환 진단 AI 아이투진(Eye2Gene), 딥엑스 헬스 영국(DeepX Health UK Ltd)의 피부암 조기 진단 지원 AI 딥엑스AI(DeepX AI), 누먼(Numan)의 혈액검사 결과 설명 및 모니터링 AI 시스템 'Nu & Aegis', 옥토패스(Octopath)의 병리 슬라이드 분석 및 진단 지원 플랫폼이 포함되었다.

AI 에어록 2단계는 2026년 4월까지 진행되며, 각 기술은 최대 6개월간의 테스트를 수행한다. MHRA는 이번 프로젝트를 “세계에서 가장 AI 친화적인 의료 규제 환경을 구축하기 위한 핵심 단계”로 평가하며, 임상 데이터 기반의 규제 개선과 의료 현장의 혁신적 AI 도입을 병행할 계획이다. (2025.10.16., GOV.UK)

미국 세일즈포스(Salesforce)가 차세대 AI 에이전트 플랫폼 ‘Agentforce 360’을 공개하며 엔터프라이즈용 AI 시장 공략을 본격화했다. 이번 발표는 오는 10월 14일 개최되는 연례 고객 행사 ‘드림포스(Dreamforce)’를 앞두고 이루어졌으며, 세일즈포스는 AI 에이전트 구축·운영·통합 전 과정을 하나의 플랫폼에서 수행할 수 있도록 한 Agentforce 360을 내세웠다.

새 플랫폼의 핵심은 ‘Agent Script’라 불리는 AI 프롬프트 작성 도구다. 11월 베타 출시 예정인 이 기능은 사용자가 ‘if/then’ 조건문을 활용해 에이전트의 반응을 세밀하게 조정할 수 있게 한다. 기존의 패턴 기반 응답에서 벗어나 상황에 따라 ‘생각하고(reasoning)’ 답변하는 추론형 모델(reasoning model) 을 지원한다. 또한 세일즈포스는 ‘Agentforce Builder’라는 새로운 에이전트 제작 도구도 함께 발표했다. 사용자는 하나의 인터페이스에서 에이전트를 설계·테스트·배포할 수 있으며, 이 도구에는 최근 발표된 기업용 앱 코딩 도구 ‘Agentforce Vibes’가 포함된다. 두 기능 모두 11월 베타 버전으로 공개될 예정이다.

세일즈포스는 이번 업데이트에서 슬랙(Slack) 과의 통합도 강화했다. 앞으로 세일즈포스의 주요 앱(Sales, IT, HR 등)이 슬랙 내에서 직접 실행될 예정이며, 2026년 초까지 순차적으로 확대된다. 슬랙은 현재 개인 맞춤형 AI 에이전트형 ‘Slackbot’을 시험 운영 중이며, 사용자의 업무 패턴을 학습해 맞춤형 제안과 인사이트를 제공하도록 설계되었다. 향후 슬랙은 기업용 검색 허브로 발전해 지메일(Gmail), 아웃룩(Outlook), 드롭박스(Dropbox) 등 외부 플랫폼과의 연결 기능을 2026년 초 도입할 계획이다.

이번 Agentforce 360의 발표는 기업용 AI 시장의 경쟁이 치열해지는 시점에 이루어졌다. 구글은 최근 ‘Gemini Enterprise’를 출시하며 피그마(Figma), 클라나(Klarna) 등을 초기 고객으로 확보했고, 앤트로픽은 딜로이트(Deloitte) 와 50만 명 직원 대상 ‘Claude Enterprise’ 도입 계약을 체결했다. 세일즈포스는 자사 에이전트 플랫폼 고객이 1만 2천 곳에 달하며, 레나(Lennar), 아데코(Adecco), 피어슨(Pearson) 등이 새 버전의 초기 테스트 고객으로 참여하고 있다고 밝혔다. (2025.10.13., TechCrunch)