AI 기술로 아동 청소년 대상 디지털 성범죄를 예방하는 공공 사업이 추진된다.
과학기술정보통신부는 여성가족부와 함께 디지털 기반 사회현안 해결 프로젝트 사업을 통해 추진하는 ‘AI 기반 아동청소년 온라인 성착취 선제적 대응 시스템 도입’ 과제의 착수보고회를 23일 개최했다.
디지털 기반 사회현안 해결 프로젝트 사업은 AI, 빅데이터, 클라우드 등 디지털 신기술을 선도적으로 적용해 국민 생활과 밀접한 공공 서비스를 향상하고, 사회 현안을 해결하기 위해 추진하고 있다.
여가부의 AI 기반 아동청소년 온라인 성착취 선제적 대응 시스템 도입 과제는 최근 딥페이크 성범죄 등 디지털 성범죄가 심각한 사회문제로 떠오르면서 성범죄 사회문제 해결을 주제로 추진한 지정 공모를 통해 선정된 주요 과제다.
사진 = 이미지투데이
AI를 기반으로 온라인에서 아동청소년 성착취물 등을 자동 탐지하고 조기 차단해 피해를 예방하고, 안전한 온라인 환경을 조성하기 위해 추진하고 내용의 과제다.
기존에는 아동청소년 대상 성착취물을 식별하기 위해 한국여성인권진흥원 담당자의 키워드 중심의 수작업 검색 등 육안 모니터링 방식 위주로 진행됐다. 성착취물 발견 시에도 수작업으로 플랫폼사에 삭제를 요청했다.
이 사업을 통해 자가학습형 AI 시스템을 구축해 24시간 365일 실시간 감시가 가능해진다. AI 알고리즘을 활용해 온라인 플랫폼에서 성착취 키워드와 이미지 유해성 분석 등을 통해 의심 정보를 탐지하고, 분석 기술 고도화를 통해 위험도에 따른 검토 대기열을 구성하여 체계적인 검토 후 삭제 지원을 연계한다.
신고 삭제 지원 API 등을 활용하여 탐지된 게시물의 삭제를 관련 플랫폼으로 요청하고, 처리 내역을 체계적으로 관리한다.

관련기사
- 민주당, 김홍일 방통위원장 탄핵 추진..."6월내 통과 목표"2024.06.27
- 김홍일 위원장 "2인 체제 방통위, 바람직하지 않지만 위법 아니다”2024.06.21
- LG 구광모 6년...AI·바이오·클린테크 키운다2024.06.28
- 화재 막는 배터리 진단기술 뜬다...민테크, 상장 후 존재감 '쑥쑥'2024.06.28