서울시·방심위, "딥페이크 실시간 감시해 24시간 내 삭제"

28일 '신속 대응 핫라인 구축' 협약
SOS 전담 상담창구도 개설

28일 오후 오세훈(왼쪽에서 두 번째부터) 서울시장과 류희림 방송통신심의위원회 위원장이 딥페이크 범죄피해 신속대응 업무 협약식에 참석하고 있다. 서울시 제공

서울시와 방송통신심의위원회(방심위)가 핫라인을 구축, 딥페이크를 실시간 감시해 24시간 내 삭제하기로 했다. 최근 딥페이크 영상 피해가 전국 곳곳에서 드러나, 시민 불안이 커진 데 따른 것이다.

양측은 28일 딥페이크 범죄 피해에 신속 대응하기로 하고 업무협약을 체결했다. 먼저 폐쇄형 사회관계망서비스(SNS)에서 공유된 딥페이크 불법영상물이 성인사이트나 일반 SNS 등 공개사이트에 유포되면 24시간 안에 삭제·차단될 수 있도록 실시간으로 감시할 계획이다. 기존에는 시 디지털성범죄안심지원센터가 방심위에 삭제를 요청할 때마다 증빙자료를 제출해야 했지만, 핫라인을 구축해 여러 건을 한 번에 요청할 수 있다.

아동·청소년이 딥페이크 범죄에 쉽고 빠르게 대응할 수 있도록 카카오톡 오픈채팅방에 '딥페이크 SOS 전담 상담창구'를 만들고, 피해지원관(2명)을 배치해 신고 방법과 증거 수집 방법 등을 알려준다. 또 수사기관이나 의료기관에 연계하고, 수사·법률 자문을 제공하는 등 피해자를 종합적으로 지원한다.

피해 영상물 삭제도 적극 지원한다. 피해 상황을 24시간 모니터링하고, 자동으로 삭제·신고하는 시스템을 연말까지 구축하고, 딥페이크 검출기술도 개발한다. 특히 내년에는 인공지능을 기반으로 딥페이크 검출 기술 '서울 안심 아이(Seoul Safe Eye)'를 개발해, 딥페이크와 원본 사진·영상물을 구분하는 현장에 활용할 계획이다.

경찰 조사에서 딥페이크 범죄 혐의 전체 피의자 중 10대가 대다수(75.8%)인 점을 고려, 아동·청소년 대상 교육도 강화한다. 9월부터 초·중·고등학교를 대상으로 딥페이크 위험성, 디지털 윤리를 가르치는 '딥페이크 예방교육'(50개 학급 1,000명)을 실시한다.

권정현 기자 hhhy@hankookilbo.com