AI 도입하자 아동·청소년 성착취물 삭제 처리량 9.7배 증가

인공지능(AI)을 활용한 아동·청소년 성착취물 탐지·삭제 지원 시스템 도입으로 관련 업무 처리량이 약 9.7배 늘어난 것으로 나타났다. 시스템이 온라인상 성착취물을 24시간 자동으로 탐지하고 삭제 요청과 이력 관리까지 지원하면서 지난 6개월간 9만6000여 건의 삭제를 지원했다. 정부는 AI 탐지 기능을 고도화하고 중앙디지털성범죄피해자지원센터의 기술을 지역 현장까지 확대할 계획이다.

성평등가족부는 지난 4월부터 본격 운영한 AI 기반 아동·청소년 온라인 성착취 탐지·신고 시스템을 통해 6개월간 성착취물 9만6000여 건의 삭제를 지원했다고 밝혔다.

시스템 도입 전인 2025년 한 해 동안 수작업으로 삭제를 지원한 성착취물은 약 4만5000건이었다. 반면 시스템 도입 이후에는 6개월 만에 그 두 배가 넘는 실적을 기록했다. 종사자 1인당 하루 평균 삭제 요청 처리 건수도 기존 20.8건에서 202건으로 약 9.7배 증가했다.

AI 시스템은 사회관계망서비스(SNS)와 랜덤채팅앱 등 온라인 플랫폼에서 아동·청소년 성착취물과 유인정보를 24시간 자동으로 수집·분석하는 체계다. AI가 탐지한 자료를 담당자가 검토한 뒤 유포 현황을 모니터링하고 삭제를 요청하는 방식으로 운영된다.

업무 효율성뿐 아니라 종사자의 심리적 부담도 줄었다. AI가 유해 영상물을 먼저 탐지하면서 종사자가 성착취물에 직접 노출되는 빈도가 감소해 피해자 지원 업무에 더욱 집중할 수 있는 환경이 마련됐다는 설명이다.

불법촬영물 삭제 지원 과정에도 자동화 기술이 도입됐다. 약 2만 개 사이트의 삭제 요청과 처리 이력을 자동으로 관리할 수 있게 됐으며, 건당 삭제 요청 처리 시간은 1분 이내로 단축됐다. 지난 6개월간 총 5만8309건의 URL에 대해 삭제 요청과 삭제 여부 확인이 자동으로 이뤄졌다.

해외 기관과의 기술 연계도 추진했다. 미국 국립실종학대아동방지센터(NCMEC)와 글로벌 콘텐츠전송네트워크(CDN) 사업자인 클라우드플레어(Cloudflare)의 API를 연계해 우회 접속 URL에 대한 대량 자동 삭제 요청이 가능해졌다.

이를 통해 NCMEC 신고시스템인 사이버팁라인(CyberTipline)을 거쳐 미국 서버 기반의 삭제 불응 사이트 2곳에 게시된 아동·청소년 성착취물 95건을 처리했으며, 클라우드플레어를 통해서는 2만5156건의 삭제를 진행했다. 반복적인 문서 작성 업무도 줄어들었다.

성평등가족부와 한국여성인권진흥원은 이러한 성과를 바탕으로 AI 탐지체계를 고도화하고 중앙디지털성범죄피해자지원센터(중앙디성센터)의 기술을 지역 현장까지 확대할 방침이다.

우선 과학기술정보통신부와 협력해 2027년까지 AI 시스템을 고도화한다. 탐지 대상 플랫폼을 대폭 확대하고 대규모 데이터를 학습한 AI 모델을 활용해 성착취물 탐지·판별 정확도를 높일 계획이다.

또한 2027년에는 중앙디성센터의 핵심 기능을 탑재한 설치형 삭제 지원 소프트웨어(SW)를 지역디지털성범죄피해자지원센터에 보급한다. DNA 기반 동일·유사 영상 자동 탐지 기능을 비롯해 영상물 분석과 정보 추출, 유포 모니터링, 삭제 요청 등을 수행할 수 있도록 개발할 예정이다.

설치형 소프트웨어는 피해자의 민감정보를 외부로 전송하지 않고도 관련 업무를 처리할 수 있도록 설계된다. 촬영물 속 얼굴 식별과 문자 판독 등 AI 기반 기능도 포함된다. 기존 지역디성센터 운영체제에 바로 적용할 수 있어 지역에서도 피해 촬영물 분석부터 사례 관리까지 신속하게 대응할 수 있을 것으로 기대된다.