평소 알고 지내던 사람이나 사회관계망서비스(SNS) 이용자의 사진을 합성해 만든 ‘딥페이크’영상물로 인한 피해자 3명 중 1명 이상은 10대 이하인 것으로 나타났다. 이러한 디지털 성범죄가 최근 초ㆍ중ㆍ고 학생들 사이에서 빠르게 퍼지면서 교육당국이 강력 대응에 나섰다. 경찰은 28일부터 내년 3월 31일까지 7개월 동안 집중 단속을 실시한다. 이런 가운데 ‘가짜뉴스’(허위조작정보)도 기승을 부리고 있다. 딥페이크와 가짜뉴스가 무엇인지, 여기에 어떻게 대응해야 할 지 등을 들려준다.

△장난 아닌 범죄 ‘딥페이크’확산··· 학교ㆍ학부모 비상

딥페이크(Deepfake)는 인공지능(AI) 심층 학습의 ‘딥 러닝(Deep learning)’과 가짜(fake)가 합쳐진 단어다. 다른 사람의 일상 사진이나 영상물을 성적 불쾌감을 불러 일으킬 수 있는 형태로 합성 및 편집(짜집기)해 아예 새로운 사진 및 영상을 창작하는 뜻으로 쓰인다. 28일 여성가족부 산하 한국여성인권진흥원에 따르면 올해 1월 1일부터 8월 25일까지 디지털성범죄피해자지원센터(디성센터)로부터 딥페이크 피해 지원을 요청한 781명 중 36.9%(288명)는 10대 이하였다. 2022년 64명에서 2024년(8월 25일 기준) 288명으로 2년 만에 4.5배나 늘었다. 
이렇듯 저연령층에서 피해가 높게 나타난 것은 학생들이 SNS 등을 이용한 온라인 소통과 관계 형성에 상대적으로 익숙하기 때문으로 분석된다. 생성형 인공지능이 등장함에 따라 누구나 인터넷 검색만으로 딥페이봇에 접속해 쉽게 불법 영상물을 만들 수 있는 기술이 보급된 것도 그 이유다. 이에 따라 허위 영상물 등 범죄 혐의로 입건된 전체 피의자 중 10대의 비중은 2021년 65.4%, 2022년 61.2%에서 2023년 75.8%로 커졌다. 올해 1~7월은 73.6%이다. 특히 새 학기 들어 딥페이크로 인한 피해가 서울과 경기 등 전국의 학교에서 널리 퍼지고 있다. 급기야 딥페이크 불법 영상물이 만들어진 지역과 초중고 400여 곳의 명단이 SNS를 통해 공유돼어 불안감을 더 키우고 있다.

이에 따라 교육 당국이 강력 대응에 나섰다. 교육부는 다른 사람의 개인정보를 바탕으로 음란물을 합성해 퍼뜨리는 것은 단순한 장난이 아니라‘성범죄’임을 학생들에게 강조하고, 개인정보 노출에 주의해 달라고 당부했다. 서울시교육청은 서울경찰청과 협력해 서울 지역 초중고 1374곳, 학부모 78만여 명을 대상으로 ‘긴급 스쿨벨’을 발령했다. 스쿨벨은 새로운 유형의 청소년 관련 범죄가 일어나면 학생과 학부모, 교사에게 앱이나 문자를 통해 이를 알리고 예방하는 시스템이다. 딥페이크 피해를 입지 않으려면 교복과 나이 등 개인 정보가 담긴 사진이나 게시글을 삭제하는 게 좋다. 만약 피해를 입었다면 경찰청(112)이나 방송통신심의위원회(1377)에 신고한다. 디싱센터도 피해자 신고센터와 상담소를 운영 중이다. 허락없이 몰래쓴 자신의 사진이 성적 수치심을 유발할 수 있는 형태로 합성돼 뿌려졌다면 피해 상담을 접수할 수 있다. 365일 운영하는 전화(02-735-8994)나 온라인게시판(d4u.stop.or.kr)을 통해 신청하면 된다. 

△‘가짜 뉴스’로부터 나를 보호하는 방법  
생성형 AI와 딥페이크를 활용한 ‘진짜 같은’가짜뉴스들이 마구 쏟아져 나오면서 피해도 커지고 있다. 최근 사상자 19명을 낸 부천 호텔 화재사고의 경우 에어매트를 처음부터 뒤집어 설치했다는 가짜뉴스까지 등장했다. 유튜브 등 1인 미디어들이 조회수를 노려 가짜뉴스를 만들고 유포하는 경우도 잦아졌다. 자동으로 가짜 콘텐츠를 만들고 전달하는 봇(bot) 계정도 가짜뉴스 전파 과정에서 역할을 한다. 문제는 자극적인 정보가 더 많이 주목받는 소셜미디어 특성으로 인해 가짜뉴스가 진짜 정보보다 더 빠르게 전파된다는 것. 미국 매사추세츠공대 과학자들이 트윗 12만 6285건을 분석해 2018년 사이언스에 실은 연구 결과에 따르면 가짜뉴스가 트위터 사용자 1500명에게 전달되는 데 걸린 시간은 평균 10시간으로 진짜 뉴스(60시간)의 1/6에 불과했다. 
이 같은 가짜뉴스는 그러나 사회적 위협을 넘어 분열로 이어지며 공동체의 신뢰가 무너지게 한다. 가짜뉴스로부터 자신을 보호하기 위해서는 ‘미디어 리터러시’(미디어 독해력) 교육이 필수다. 신뢰할 만한 뉴스를 판단하고, 어떤 근거를 토대로 논리를 펴는지 스스로 고민하는 게 중요하기 때문이다. 한국언론진흥재단 미디어아카데미(www.meca.or.kr), 미리네(www.miline.or.kr), 디지털윤리(디지털윤리.kr) 등에서는 다양한 미디어 리터러시 자료를 제공하고 있다.