서울시의 AI 대응 시스템, 디지털 성범죄 해결에 한 걸음 더

서울시, 디지털 성범죄 대응을 위한 'AI 자동 삭제신고 시스템'

국내 최초 도입

 

서울시가 전국 최초로 디지털 성범죄 대응을 위한 ‘AI 자동 삭제신고 시스템’을 개발해 본격적인 실행에 돌입합니다.

이는 아동·청소년을 대상으로 한 성착취 영상이 온라인상에 무분별하게 유포되는 문제에 대해 보다 적극적이고 효율적으로 대응하기 위한 조치입니다.

이번 시스템은 인공지능(AI) 기술을 기반으로 불법 촬영물, 성착취물 등을 스스로 찾아내고 이를 삭제 및 신고까지 자동으로 처리할 수 있는 첨단 솔루션입니다.

기존에는 피해자가 직접 유포된 영상을 찾아 삭제 요청을 해야 했던 방식이었지만,

이제는 AI가 선제적으로 대응함으로써 피해자의 심리적 고통을 줄이고 실질적인 피해 확산을 막는 데

큰 도움이 될 것으로 기대됩니다.

AI가 성착취 영상을 찾아낸다? 어떻게 가능한가요?

 

‘AI 자동 삭제신고 시스템’은 딥러닝 기반의 영상·이미지 분석 기술을 활용합니다.

AI는 영상 속 인물의 얼굴을 인식하고, 나이와 성별을 추정하여 아동·청소년으로 보이는 인물이 포함된 영상인지를 판단합니다.

하지만 단순히 얼굴 인식에만 의존하는 것이 아니라, 교복, 장난감, 학용품 등 주변 사물과 배경,

자막과 대화 등 언어적 단서까지 종합적으로 분석합니다.

 

이러한 기술은 특히 얼굴이 나오지 않거나 위장된 영상에서도 성착취 여부를 판별할 수 있게 해주며, 성인이 등장하더라도

아동·청소년을 연기하거나 특정 대상처럼 보이도록 조작된 영상도 걸러낼 수 있습니다.

 

AI가 특정 패턴을 학습해가면서 지속적으로 탐지 정확도를 높이는 방식으로 설계되어,

시간이 지날수록 더욱 정교한 판별이 가능해집니다.

검출 속도 80배 향상, 정확도 3배 이상 개선

서울시는 2023년 하반기부터 이 시스템의 파일럿 테스트를 진행했으며, 그 결과는 매우 고무적입니다.

기존에는 불법 영상을 탐지하는 데 약 2시간이 걸렸던 작업을 AI가 1분 30초 만에 끝냈고, 판별 정확도도 300% 이상 개선되었다고 합니다. 이는 불법 영상이 빠르게 확산되는 온라인 환경에서 매우 중요한 개선입니다.

 

또한 서울시는 미국, 중국, 러시아, 베트남 등지에서 유포되는 해외 성착취물까지도 삭제할 수 있도록 시스템의 범위를 확장할 계획입니다. 이를 위해 다국어 키워드 탐색과 국제 협력 시스템도 함께 구축하고 있습니다.

피해자 중심의 지원 확대도 병행

 

AI 시스템 도입 외에도 서울시는 디지털 성범죄 피해자에 대한 지원도 강화하고 있습니다.

‘서울 디지털 성범죄 안심지원센터’는 삭제 요청뿐 아니라, 긴급 상담, 법률 지원, 수사 연계, 심리 치료 등 전방위적인 지원을 제공하고 있습니다.

 

특히 아동·청소년 피해자 비중이 증가하고 있다는 점에서, 이들의 심리적 트라우마를 최소화하고 사회 복귀를 돕는 노력이 병행되고 있습니다.

 

서울시에 따르면, 지난 2년간 총 935명의 피해자를 지원했으며, 이 중 아동·청소년은 2022년 50명(19.2%), 2023년에는 104명(22.2%)으로 꾸준히 증가하고 있는 추세입니다.

피해 유형도 온라인 그루밍, 유포·재유포, 유포 불안, 딥페이크 영상 제작 등으로 다양화되고 있어, 이에 대한 다층적인 대응이 필요합니다.

‘디지털 안전도시 서울’을 향한 첫걸음

 

오세훈 서울시장은 “피해자가 스스로 피해 영상을 찾아 삭제 요청해야 했던 구조에서 벗어나,

이제는 AI가 먼저 찾아내고 삭제와 신고까지 처리하는 새로운 시스템을 구축하게 됐다”며 “서울이 ‘디지털 안전도시’로

나아가는 데 있어 매우 중요한 전환점”이라고 밝혔습니다.

 

이 시스템은 오는 2025년까지 고도화를 거쳐, 완전 자동화된 삭제 및 신고 체계를 갖출 예정입니다.

아울러 청소년 대상 딥페이크 방지 교육, 그루밍 감시 앱 개발 및 배포, 피해자 보호 매뉴얼 개선 등도 함께 추진될 예정입니다.

마무리하며

 

디지털 성범죄는 기술의 발전과 함께 점점 더 은밀하고 교묘해지고 있습니다.

서울시가 선도적으로 AI 기술을 도입해 선제적으로 대응하려는 시도는 매우 시의적절하며,

전국적으로도 좋은 본보기가 될 수 있습니다.

 

앞으로도 서울시의 기술 기반 정책이 실질적인 피해 예방과 피해자 보호로 이어지길 기대합니다.

피해자가 더 이상 혼자 고통받지 않아도 되는 사회, 불법 촬영물과 성착취 영상이 유포될 틈조차 없는

사회를 만들기 위한 서울시의 행보를 응원합니다.

 

 피해 상담 및 삭제 요청 안내

• 서울 디지털 성범죄 안심지원센터
• 상담전화: 02-815-0382
• 홈페이지: www.8150382.or.kr