정책리뷰 | 서울시여성가족재단

본문 바로가기

정책리뷰

정책리뷰

폰트 사이즈 확대 폰트 사이즈 축소 프린트

SNS공유하기

폰트 사이즈 확대
폰트 사이즈 축소
프린트
sns레이어 열기

SNS공유하기

[정책리뷰] AI 기반 아동 성착취물 예방 및 탐지를 위한 국외의 노력과 시사점: 미국과 영국 사례 검토

작성일: 2026-03-03
조회: 412

서울시 여성가족정책 리뷰 2026.03.(제 3호). 제목: AI 기반 아동 성착취물 예방 및 탐지를 위한 국외의 노력과 시사점: 미국과 영국 사례 검토. 서울시여성가족재단. 본문: 영국의 인터넷 감시재단(Internet Watch Foundation)이 2025년 4월 발표한 자료에 따르면 2024년 아동 성착취 사진이나 영상 등 콘텐츠를 담은 아동 성착취물 관련 신고가 291,273건 보고되었다. 이는 IWF가 온라인에서 아동 성착취물을 적극적으로 찾아내 삭제하기 시작한 2014년 이래로 최대 수치로 첫해 3만 1천 건과 비교하면 830% 가량 증가한 수치이다. 최근 생성형 AI 기술의 비약적 발전과 함께 아동 대상 성착취물(Child Sexual Abuse Material)이 전 세계적으로 증가하고 있으며 그 위험이 가속화하고 있다. 딥페이크(deepfake)와 같은 AI 기반 아동 성착취물(AI-generated Child Sexual Abuse Material)이 기하급수적으로 증가하면서 아동 성착취를 정상화하고 관련 범죄를 조장하는 등 큰 해악을 끼치고 있다(Foster, 2025). 이와 함께 AI 기반 아동성착취물 생성의 예방 및 탐지를 위한 기술적·정책적 노력도 시도되고 있다. 미국과 영국의 사례를 중심으로 살펴본 결과 AI 기반 아동 성착취물 생성을 예방하기 위해 대부분의 생성형 AI 기업들은 프롬프트 입력 단계에서 다양한 기술을 적용하고 있으며, AI 기반 아동 성착취물 생성, 소지 및 유포를 처벌하기 위한 법적 규제가 강화되고 있다. 또한 이미 유포된 건을 신속하게 제거하기 위한 탐지 및 삭제 지원 플랫폼의 고도화도 진행되고 있다. 이를 토대로 본 리뷰에서는 다음과 같이 서울시 정책에 주는 시사점을 도출하였다. 첫째, 현재 운영 중인 서울시의 AI 삭제 지원 시스템에 AI 생성 여부 알고리즘을 추가하는 것을 검토할 수 있다. 둘째, 소규모 사이트나 해외 서버를 통한 유포에 대응하기 위해 국제기관과의 연계를 제안한다. 셋째, AI 기반 아동 성착취물 방지를 위한 법적 근거를 마련할 필요가 있다. 이와 같은 점이 보완된다면 서울시가 이미 추진해 온 정책들이 법적 근거 하에서 피해 영상의 삭제 우선순위를 정하거나 수사 기관 연계 시 증거 자료의 정확성을 높이는 데 기여하는 한편으로 국외 플랫폼에서의 자동 삭제율을 높일 수 있을 것으로 기대된다.

정책연구 전문보기 (PDF 파일 다운로드)

목록

이전글 최대 720만원! 출산가구 주거비 지원
다음글 서울시 양육자 생활실태 및 정책 수요 조사: 2022·2024년 비교 연구

TOP 페이지 상단으로 이동