과학기술정보통신부와 방송통신위원회, 개인정보보호위원회 등 정보기술(IT) 관련 부처들이 6일 발표한 '딥페이크 성범죄 대응 강화 방안'을 통해 범정부 협력에 나선다.
구체적으로 텔레그램 등 국내외 플랫폼 사업자의 의무를 강화, 이들에 대한 본격적인 규제와 제재를 추진한다는 점이 가장 눈에 띈다.
특히 텔레그램은 딥페이크 성착취물 유포의 주요 경로로 활용돼 문제가 됐다.
 
앞으로 정부는 오픈채널 접속 링크와 비밀번호를 불특정 다수에게 배포해 접속을 유도하는 행위에 대해서도 플랫폼 사업자들을 규제할 방침이다.
이를 청소년유해물 제공·매개와 불법촬영물 등 유통에 해당한다고 해석하겠다는 것이다.
가령 딥페이크 성착취물 관련 텔레그램 오픈 채널 등을 청소년유해물 제공·매개자로 해석하는 것이다.
 
이에 이들 해외 사업자들을 중심으로 청소년보호책임자 관련 자료를 요구하고 지정의무를 통보한다.
또 국내 대리인 지정 의무 대상 통보도 단행하며, 시정명령 등 의무사항을 요구한다.
만일 미이행 시 과태료 등 제재를 가한다.
정부는 네이버와 메타 등 다른 플랫폼 사업자에 대해서도 불법촬영물 등 유통방지 의무 불이행 시, 시정명령·과징금을 적극적으로 부과한다는 방침이다.
아울러 플랫폼 사업자들이 투명성보고서를 허위로 제출하거나 부실하게 제출했을 시에도 과태료를 부과하는 것을 추진한다.
현재는 미제출 시에만 부과한다.
 
정부 차원에서 해외 SNS를 중심으로 한 모니터링도 강화한다.
방송통신심의위원회는 모니터링 관련 업무를 하는 인원을 기존 12명에서 26명으로 늘리고 AI 기반 자동 식별·채증 시스템을 구축한다.
또 디지털성범죄피해자지원센터(디성센터) 인력도 기존 18명에서 33명으로 증원한다.
플랫폼 이용자에 대해서도, 성적 허위 영상물 등 디지털 성범죄물 게재자에 대해서는 서비스 이용 중단이나 탈퇴 등의 제재를 추진한다.
정부는 포털·플랫폼 사업자들과의 공조도 동시에 강화한다.
앞서 방심위가 텔레그램과 핫라인 구축과 실무 협의 등으로 딥페이크 성착취물 삭제·차단 요청에 적극 협조하겠다는 약속을 받았는데, 다른 기업들과도 다방면으로 협력하겠다는 것이다.
이를 위해 네이버, 카카오, SK텔레콤, 한국마이크로소프트, 구글코리아, LG AI연구원 등이 참여하는 'AI 윤리·신뢰성 포럼' 등을 운영해 AI 안전성 평가와 AI 생성물 식별 기술 개발 등 기업들의 책임성 있는 AI 활용을 유도한다.
또 해외 플랫폼 사업자도 한국 법원, 수사기관 공문 등에 대해 가입자 정보 제공 등 신속하게 협조하도록 공조 강화를 요청하기로 했다.
 
딥페이크 성착취물에 대해서는 '선 차단, 후 심의' 원칙으로 신속한 삭제를 우선시한다.
사업자가 삭제 요청을 받았을 때 성범죄물 여부 판단이 어려운 경우, 먼저 차단부터 한 후 방심의 심의 요청을 의무화하는 방안을 추진한다.
또 불법촬영물 등 삭제 요청 시 사업자의 24시간 시한을 명시하고, 삭제 결과를 방심위에 제출토록 한다.
이와 함께 AI를 통해 딥페이크 촬영물을 실시간 감지, 사업자에 삭제 요청 발송과 삭제 여부 모니터링 등을 자동화할 것을 추진한다.
딥페이크 성범죄 확산에 대한 기술적 대응에도 팔을 걷어붙인다.
우선 차단·탐지·예방 기술 개발 관련 연구개발(R&D) 지원을 강화하고, 딥페이크 보안 기술을 특허 우선심사 대상에 선정해 3개월 내로 신속 심사토록 한다.
또 AI 기본법을 제정해 AI가 생성한 콘텐츠 게재 시 워터마크 부착을 의무화한다.
11월 중 설치될 AI 안전연구소도 딥페이크 성범죄 방지에 기여한다는 방침이다.
정부는 앞으로 딥페이크 성범죄 대응 범정부 태스크포스(TF)를 지속 운영하고, 후속 조치 추진 상황을 계속해서 점검한다.
또 방심위, 디성센터 등 불법 영상물 모니터링과 삭제 지원, 피해자 상담 지원 등과 관련한 예산 증액과 인력 증원을 추진한다.