지인의 모습을 음란물에 불법 합성한 딥페이크 영상이 텔레그램에서 조직적으로 퍼져 사회적 논란이 일고 있다. 가해의 방향이 유명인이 아닌 지인을 향했다는 점에서 ‘누구든 피해자가 될 수 있다’는 불안은 더욱 커지고 있다. 특히나 생성형 인공지능(AI) 접근성이 높아지면서 딥페이크 범죄에 대한 피해는 더욱 확산하는 추세다.
딥페이크 범죄에 대한 우려는 초중고 교실까지 덮쳤다. 수능이 얼마 남지 않은 고등학교 3학년 교실도 예외는 아니다. 경기도 수원에 사는 A(18) 양은 “공개된 딥페이크 범죄 가해자 신상 중 중학교 동창이 있어 SNS에 올렸던 (내) 얼굴 사진을 다 내렸다”고 말했다. A 양은 “특히 여학생들이 전반적으로 불안해하고 동요하는 분위기”라며 “안 그래도 수능이 얼마 남지 않아 정신적으로 힘든데 이런 일까지 벌어져 스트레스가 극심하다”고 토로했다.
딥페이크 범죄에서 ‘학교’라는 공간이 주목받는 이유는 피해자와 가해자의 과반이 10대이기 때문이다. 민주당 양부남 의원이 경찰청으로부터 받은 자료에 따르면 2021∼2023년 경찰에 신고된 딥페이크 불법 합성물 사건의 피해자 총 527명 중 59.8%(315명)가 10대였다. 딥페이크 불법 합성물 범죄 혐의로 입건된 전체 피의자 역시 2021년 65.4%, 2022년 61.2%에서 2023년 75.8%로 3년 연속 절반을 넘었다. 10대가 가장 많은 피해자이자 가해자인 구조. 수십, 수백 명의 10대가 모여 생활하고 있는 지금 우리 학교는 딥페이크에 어떻게 대처하고 있을까.
서울 성북구의 한 고등학교에 재학 중인 B(16) 군은 얼마 전 담임선생님으로부터 인스타그램에 올린 본인의 얼굴 사진을 내리라는 지도를 받았다. B 군은 “딥페이크 불법 합성물 피해를 방지하기 위해 소셜네트워크서비스(SNS) 등 온라인에 올린 내 얼굴 사진을 내리라는 뜻”이었다고 말했다.
하지만 SNS에서 사진을 내리는 것만으로 딥페이크 범죄로부터 보호받을 수 있을까. 서울 영등포구 소재의 중학교 교사 C(26) 씨는 “학내에서 얼마든지 스마트폰으로 몰래 사진을 찍을 수 있기에 SNS 사진을 내려도 피해자는 발생할 수 있다”며 “얼마 전 촬영한 졸업 사진 역시 딥페이크 범죄에 악용될 수 있다”고 말했다. 서울 영등포구에 있는 초등학교 교사 D(27) 씨는 “이번 졸업 사진에 선생님들 얼굴은 넣지 않기로 했다”고 말했다. D 씨는 “딥페이크 가해자의 대부분이 10대인 것만큼 (딥페이크 불법 합성에 악용되는 일이) 걱정되는 것은 사실”이라고 말했다.
이처럼 학내에서 학생만 딥페이크 범죄 피해의 대상이 되는 것은 아니다. 전국교직원노동조합(전교조)은 8월 29일 기자회견에서, 같은 달 27~28일 진행한 ‘학교 안 딥페이크 성범죄 실태조사’ 결과 2492건의 신고가 접수됐으며 이 가운데 517건이 직간접 피해를 입은 것으로 확인됐다고 밝혔다. 피해 대상에는 학생(304명), 교직원(9명)뿐만 아니라 교사 204명도 포함됐다.
학생들을 대상으로 한 딥페이크 범죄가 가시화하면서 피해 신고 건수도 늘고 있다. 교육부에 따르면 올 1월부터 9월 6일까지 접수된 딥페이크 피해 건수는 총 434건(피해자 617명)이었다. 교육부는 이 가운데 350건에 대해 수사를 의뢰했다. 8월 27일까지 진행한 조사에서 피해 건수가 196건, 피해자가 196명이었던 점을 고려하면 열흘 만에 피해 건수는 238건, 피해자는 421명이 증가한 것이다.
이에 정부 당국은 대책 마련에 나섰다. 서울경찰청은 서울시교육청과 협력해 8월 27일 서울 내 초중고 1374곳, 학부모 78만 명을 대상으로 긴급 ‘스쿨벨’을 발령했다. 스쿨벨은 새로운 유형의 청소년 관련 범죄가 발생했을 경우 학생·교사·학부모에게 애플리케이션(앱) 또는 문자 등으로 사실을 알리고 예방하는 시스템이다. 8월 27일 발령된 스쿨벨에는 딥페이크 허위 영상물 범죄 검거 사례와 온라인에 사진, 이름 등의 개인정보를 게시하거나 타인의 사진을 유포하지 말라는 내용의 피해 예방 수칙이 담겼다.
이어 가해자 처벌과 피해자 구제 대책도 나왔다. 교육부는 딥페이크 가해자를 학교폭력으로 간주해 처리하기로 했다. 오석환 교육부 차관은 8월 28일 열린 기자회견에서 “교육부 차관을 단장으로 하는 가칭 ‘학교 딥페이크 대응 긴급 전담조직(TF)’을 구성하고 시도교육청과 협력하여 학교 현장을 딥페이크 허위 합성물로부터 보호할 수 있도록 지원해나가겠다”고 밝혔다.
학교 딥페이크 대응 TF는 학생과 교원 피해자의 심리상담 및 치료를 지원하고 학생들의 디지털 기술에 따른 윤리 교육, 학교 현장 맞춤형 예방 교육 강화 등 딥페이크 피해자 구제와 예방을 위한 교육에 힘쓸 예정이다. 또 교육부는 딥페이크 등 신종 학교폭력에 적극 대응할 수 있도록 교육 분야 성희롱, 성폭력 신고센터를 개편하고 학생 및 교직원 피해 현황을 정기적으로 조사할 것을 약속했다.
수사 당국도 딥페이크 범죄 검거에 열을 올리겠다고 약속했다. 경찰청 산하 국가수사본부는 8월 28일부터 내년 3월 31일까지 7개월간 딥페이크 성범죄 특별 집중 단속을 실시한다. 경찰은 시도경찰청 사이버성폭력수사팀을 중심으로 적극적으로 단속하고 딥페이크 제작부터 유포까지 추적, 검거하겠다는 방침이다. 10대 청소년들의 디지털 성범죄를 예방하기 위해 학교전담경찰관(SPO)을 중심으로 범죄 첩보 수집, 경각심 제고를 위한 사례 중심 교육 등의 활동을 병행할 예정이다.
한편 딥페이크 범죄 관련 정부 당국의 대응 방침에 대한 불만도 나오고 있다. 서울 양천구의 한 중학교에 재학 중인 D(15) 양은 “1, 2학년 중에 딥페이크 범죄 피해자가 있다는 이야기를 친구들로부터 전해 들었지만, 학교로부터 받은 지도는 가정통신문 내용이 전부”라고 말했다. 부산 기장초등학교 장병순 교사는 8월 29일 오전 정부서울청사 앞에서 열린 전교조 기자회견에서 “피해자가 발생한 모 학교에서는 여학생만 따로 강당에 모아 ‘각별히 주의하라’고 하고, 남학생들은 운동장에서 축구를 했다고 한다. 범죄의 원인이 피해자에게 있는 게 아닌데, 잠재적 피해자들은 불안에 떨고 있다”고 지적했다.
전문가들은 입을 모아 딥페이크 범죄에는 예방 교육이 중요하다고 말한다. 청소년폭력예방재단인 푸른나무 김미정 상담본부장은 딥페이크 범죄를 두고 “10대 가해자들은 디지털 환경 적응력이 뛰어나다 보니 딥페이크 합성을 일종의 놀이처럼 생각한다”며 “딥페이크 불법 합성물은 심각한 범죄라는 것을 인지하게 하는 디지털 사용 윤리 교육이 필요하다”고 말했다. 교사 출신 나현경 학교폭력 전문 변호사 역시 “처벌보다도 범죄 예방적인 교육이 중요하다”면서 “자신의 영상, 사진이 유포된 피해자는 평생에 걸쳐 정신적·경제적 피해를 입으며, 가해자 본인 또한 학교폭력 처벌뿐만 아니라 형사처벌 대상이 될 수 있다는 사실을 학교 차원에서 인지시킬 필요가 있다”고 말했다.
#딥페이크 #학교폭력 #학교현장 #여성동아
사진 뉴스1 게티이미지
자료제공 서울경찰청
딥페이크 범죄에 대한 우려는 초중고 교실까지 덮쳤다. 수능이 얼마 남지 않은 고등학교 3학년 교실도 예외는 아니다. 경기도 수원에 사는 A(18) 양은 “공개된 딥페이크 범죄 가해자 신상 중 중학교 동창이 있어 SNS에 올렸던 (내) 얼굴 사진을 다 내렸다”고 말했다. A 양은 “특히 여학생들이 전반적으로 불안해하고 동요하는 분위기”라며 “안 그래도 수능이 얼마 남지 않아 정신적으로 힘든데 이런 일까지 벌어져 스트레스가 극심하다”고 토로했다.
피해자도, 피의자도 10대
9월 6일 오후 서울 종로구 보신각 일대에서 열린 텔레그램 딥페이크 성폭력 대응 긴급 집회 ‘불안과 두려움이 아닌 일상을 쟁취하자!’에서 참석자들이 구호를 외치고 있다(왼쪽). 8월 30일 대전 한 고등학교에서 경찰이 학생들을 대상으로 딥페이크 영상 성범죄 관련 예방 교육을 하고 있다.
서울 성북구의 한 고등학교에 재학 중인 B(16) 군은 얼마 전 담임선생님으로부터 인스타그램에 올린 본인의 얼굴 사진을 내리라는 지도를 받았다. B 군은 “딥페이크 불법 합성물 피해를 방지하기 위해 소셜네트워크서비스(SNS) 등 온라인에 올린 내 얼굴 사진을 내리라는 뜻”이었다고 말했다.
하지만 SNS에서 사진을 내리는 것만으로 딥페이크 범죄로부터 보호받을 수 있을까. 서울 영등포구 소재의 중학교 교사 C(26) 씨는 “학내에서 얼마든지 스마트폰으로 몰래 사진을 찍을 수 있기에 SNS 사진을 내려도 피해자는 발생할 수 있다”며 “얼마 전 촬영한 졸업 사진 역시 딥페이크 범죄에 악용될 수 있다”고 말했다. 서울 영등포구에 있는 초등학교 교사 D(27) 씨는 “이번 졸업 사진에 선생님들 얼굴은 넣지 않기로 했다”고 말했다. D 씨는 “딥페이크 가해자의 대부분이 10대인 것만큼 (딥페이크 불법 합성에 악용되는 일이) 걱정되는 것은 사실”이라고 말했다.
이처럼 학내에서 학생만 딥페이크 범죄 피해의 대상이 되는 것은 아니다. 전국교직원노동조합(전교조)은 8월 29일 기자회견에서, 같은 달 27~28일 진행한 ‘학교 안 딥페이크 성범죄 실태조사’ 결과 2492건의 신고가 접수됐으며 이 가운데 517건이 직간접 피해를 입은 것으로 확인됐다고 밝혔다. 피해 대상에는 학생(304명), 교직원(9명)뿐만 아니라 교사 204명도 포함됐다.
학생들을 대상으로 한 딥페이크 범죄가 가시화하면서 피해 신고 건수도 늘고 있다. 교육부에 따르면 올 1월부터 9월 6일까지 접수된 딥페이크 피해 건수는 총 434건(피해자 617명)이었다. 교육부는 이 가운데 350건에 대해 수사를 의뢰했다. 8월 27일까지 진행한 조사에서 피해 건수가 196건, 피해자가 196명이었던 점을 고려하면 열흘 만에 피해 건수는 238건, 피해자는 421명이 증가한 것이다.
“각별히 주의하라”가 전부
8월 27일 발령된, 딥페이크 성범죄에 대한 주의를 요구하고 엄중한 처벌을 경고하는 긴급 스쿨벨.
이어 가해자 처벌과 피해자 구제 대책도 나왔다. 교육부는 딥페이크 가해자를 학교폭력으로 간주해 처리하기로 했다. 오석환 교육부 차관은 8월 28일 열린 기자회견에서 “교육부 차관을 단장으로 하는 가칭 ‘학교 딥페이크 대응 긴급 전담조직(TF)’을 구성하고 시도교육청과 협력하여 학교 현장을 딥페이크 허위 합성물로부터 보호할 수 있도록 지원해나가겠다”고 밝혔다.
학교 딥페이크 대응 TF는 학생과 교원 피해자의 심리상담 및 치료를 지원하고 학생들의 디지털 기술에 따른 윤리 교육, 학교 현장 맞춤형 예방 교육 강화 등 딥페이크 피해자 구제와 예방을 위한 교육에 힘쓸 예정이다. 또 교육부는 딥페이크 등 신종 학교폭력에 적극 대응할 수 있도록 교육 분야 성희롱, 성폭력 신고센터를 개편하고 학생 및 교직원 피해 현황을 정기적으로 조사할 것을 약속했다.
수사 당국도 딥페이크 범죄 검거에 열을 올리겠다고 약속했다. 경찰청 산하 국가수사본부는 8월 28일부터 내년 3월 31일까지 7개월간 딥페이크 성범죄 특별 집중 단속을 실시한다. 경찰은 시도경찰청 사이버성폭력수사팀을 중심으로 적극적으로 단속하고 딥페이크 제작부터 유포까지 추적, 검거하겠다는 방침이다. 10대 청소년들의 디지털 성범죄를 예방하기 위해 학교전담경찰관(SPO)을 중심으로 범죄 첩보 수집, 경각심 제고를 위한 사례 중심 교육 등의 활동을 병행할 예정이다.
한편 딥페이크 범죄 관련 정부 당국의 대응 방침에 대한 불만도 나오고 있다. 서울 양천구의 한 중학교에 재학 중인 D(15) 양은 “1, 2학년 중에 딥페이크 범죄 피해자가 있다는 이야기를 친구들로부터 전해 들었지만, 학교로부터 받은 지도는 가정통신문 내용이 전부”라고 말했다. 부산 기장초등학교 장병순 교사는 8월 29일 오전 정부서울청사 앞에서 열린 전교조 기자회견에서 “피해자가 발생한 모 학교에서는 여학생만 따로 강당에 모아 ‘각별히 주의하라’고 하고, 남학생들은 운동장에서 축구를 했다고 한다. 범죄의 원인이 피해자에게 있는 게 아닌데, 잠재적 피해자들은 불안에 떨고 있다”고 지적했다.
전문가들은 입을 모아 딥페이크 범죄에는 예방 교육이 중요하다고 말한다. 청소년폭력예방재단인 푸른나무 김미정 상담본부장은 딥페이크 범죄를 두고 “10대 가해자들은 디지털 환경 적응력이 뛰어나다 보니 딥페이크 합성을 일종의 놀이처럼 생각한다”며 “딥페이크 불법 합성물은 심각한 범죄라는 것을 인지하게 하는 디지털 사용 윤리 교육이 필요하다”고 말했다. 교사 출신 나현경 학교폭력 전문 변호사 역시 “처벌보다도 범죄 예방적인 교육이 중요하다”면서 “자신의 영상, 사진이 유포된 피해자는 평생에 걸쳐 정신적·경제적 피해를 입으며, 가해자 본인 또한 학교폭력 처벌뿐만 아니라 형사처벌 대상이 될 수 있다는 사실을 학교 차원에서 인지시킬 필요가 있다”고 말했다.
#딥페이크 #학교폭력 #학교현장 #여성동아
사진 뉴스1 게티이미지
자료제공 서울경찰청
-
추천 0
-
댓글 0
- 목차
- 공유