최근 딥페이크' 기술을 이용한 불법합성물 성범죄가 확산한 가운데 학생과 교사의 딥페이크 피해 건수가 크게 불어나고 있다.
 최근 언론보도 이후 학교 현장에서 신속하게 피해 신고·지원에 대한 안내가 이뤄지자, 열흘 만에 피해 신고가 2배 늘었다.
 
교육부는 17개 시도교육청을 통해 파악한 결과 올해 1월부터 지난 6일까지 학생·교원 딥페이크 피해 건수가 총 434건으로 집계됐다고 9일 밝혔다.
 
앞서 지난달 27일 기준 교육부의 1차 조사에서는 196건이었는데, 열흘 만에 진행된 2차 조사에서 238건이 추가됐다.
 
피해 신고가 접수된 238건 가운데 고등학교에서 가장 많은 164건(68.9%)이 나왔다.
중학교에서 70건(29.4%), 초등학교에서 4건(1.7%)이 추가로 집계됐다.
고등학교의 경우 1차 조사 당시 79건으로, 중학교(109건)보다 피해 건수가 적었다가 2차 조사에서 급격히 불었다.
피해 건수 가운데 350건은 수사 의뢰된 상태다.
수사 의뢰 건수 역시 1차 조사(179건)의 두 배 가까이 증가했다.
 
딥페이크 피해자는 총 617명이다.
학생이 588명, 교사 27명, 직원 등 2명으로 각각 집계됐다.
피해자 수가 피해신고 건수보다 많은 이유는 피해신고 건당 여러 명의 피해자가 발생하는 경우가 포함돼 있기 때문이다.
 
교육부는 2차 조사에서 피해 건수가 증가한 이유로 "최근 학교 현장에서 신속하게 피해 신고·지원에 대한 안내가 이뤄졌고, 피해영상물 삭제 지원을 받기 위해 신고 필요성을 느낀 피해자의 인식 변화가 반영됐다"며 "다음 주부터는 증가세가 많이 꺾일 것"이라고 밝혔다.
교육부는 학생과 교직원을 대상으로 딥페이크 피해를 신고받고 있는 단계로, 신고가 접수된다고 해도 가해자를 특정할 수 없어 학교폭력위원회 등의 후속 조치는 밟지 못하고 있다고 설명했다.
2차 조사에서 새롭게 추가된 지표인 '삭제 지원 연계' 건수는 184건으로 나타났다.
이 건수는 관련 기관에 딥페이크 성 착취물 삭제 지원을 의뢰한 것이다.
실제 삭제가 이뤄진 건수는 확인되지 않았다.
지난달 28일 교육부는 사안의 심각성을 고려해 차관을 단장으로 하는 딥페이크 대응 긴급 태스크포스(TF)를 구성해 분야별 6개팀으로 이뤄진 상황반을 가동한다고 밝힌 바 있다.
딥페이크 성적합성물과 관련 가해 및 피해 정황이 드러난 경우 '즉시 분리' 조치가 이뤄진다.
교육부는 피해 현황을 정기적으로 조사·발표하여 학교 구성원과 국민들에게 객관적이고 정확한 통계 현황을 알려나갈 방침이다.
학교 내에서 딥페이크 피해를 신고하려면 교육부 누리집의 성희롱·성폭력 온라인 신고센터를 이용하거나, 학생의 경우 담임·책임 교사 등에게 신고하면 된다.
 
한편 생성형 AI(인공지능)를 악용한 딥페이크가 사회적 이슈로 떠오르면서 생성형 AI로 만든 창작물에 구분할 수 있는 워터마크를 표시하도록 의무화하는 규제가 주목받고 있다.
국회에서는 텔레그램 같은 빅테크 기업에 불법 콘텐츠 삭제 의무를 부여하는 내용의 법안들이 발의되고 있다.