불법촬영물 삭제 요청 연 수십만건… 27만건 못 지웠다

최근 4년 반 동안 디지털성범죄피해자지원센터에 ‘딥페이크 성착취물’을 비롯한 불법촬영물을 지워달라고 요청한 건수가 94만건에 달했지만, 이 가운데 약 29%인 27만건이 삭제되지 못한 것으로 나타났습니다. 더불어민주당 김남희 의원이 여성가족부에서 제출받은 자료에 따르면 미삭제 비율이 높은 이유로는 센터의 열악한 인력 현황이 꼽혔습니다. 불법촬영물이 발견된 플랫폼 기업에 이를 지우도록 강제할 수 없다는 점도 큰 걸림돌입니다. 김남희 의원은 “불법촬영물 10건 중 3건을 삭제하지 못하면서 재유포 문제가 발생하고 있다”며 정부가 대책으로 내놓은 ‘플랫폼 자율규제 강화’에 대한 한계가 뚜렷하게 드러난 만큼 특단의 조치가 필요하다”고 강조했습니다.

2024-09-04

딥페이크, 딥보이스 범죄 ‘문턱 낮아져’

사람 얼굴에 음란물을 합성하는 딥페이크 범죄 사태가 인공지능 범죄의 시작에 불과하다는 지적이 제기되고 있습니다. 불법 동영상을 만들거나 음성을 변조해 범죄에 악용하는 등 AI범죄 유형이 점점 다양해지는 모양새입니다. 이와 함께 범죄 문턱도 낮아지고 있습니다. 경찰청에 따르면 딥페이크 성범죄 피의자 중 10대 비중은 2021년 65.3%에서 올해 7월 기준 73.6%로 늘었습니다. AI로 목소리를 훔쳐 조작하는 딥보이스 범죄 역시 꾸준히 이어지고 있습니다. 이에 따라 콘텐츠 제작은 물론 유통에 대한 처벌을 강화해야 한다는 주장이 제기되고 있습니다.

2024-09-02

3년간 딥페이크 성범죄 피해자 60% ‘미성년자’

지난 3년간 경찰 수사가 진행된 딥페이크 성범죄 사건의 피해자 10명 중 6명이 미성년자였던 것으로 드러났습니다. 최근 텔레그램 사태를 계기로 딥페이크 피해가 공론화되기 이전부터 청소년들이 범죄 위험성에 더 크게 노출됐던 셈입니다. 30일 국회 행정안전위원회 소속 더불어민주당 양부남 의원이 경찰청에서 제출받은 자료에 따르면 2021년부터 2023년까지 경찰에 신고된 허위영상물 사건의 피해자 약 500명 중 59.8%는 10대였습니다. 양 의원은 "대책 마련을 서둘러야 한다"면서 "특히 딥페이크 발생건수에 비해 검거실적이 저조한 만큼 강도 높은 수사와 강력한 처벌을 뒷받침할 법안 마련이 시급하다"고 강조했습니다.

2024-08-30

당정, 딥페이크 성범죄에 징역 7년 추진…"촉법 연령도 낮춰야"

사람 얼굴에 음란물을 합성해 유포하는 '딥페이크' 성범죄의 처벌 수위가 강화될 전망입니다. 딥페이크 음란물의 주요 유통 경로인 메신저 '텔레그램' 운영사 측과 핫라인을 확보하는 방안도 추진됩니다. 국민의힘과 정부는 29일 국회에서 열린 '딥페이크 성범죄 관련 부처 긴급 현안보고'에서 이같은 딥페이크 성범죄 예방 대책을 논의했다고 밝혔습니다. 당정은 입법적인 측면에서 현행 최대 징역 5년인 '허위영상물' 유포 등 형량을 '불법 촬영물'과 마찬가지로 최대 징역 7년으로 강화하는 방안을 추진합니다. 국민의힘 한동훈 대표는 최고위원회의에서 딥페이크 성범죄와 관련해 "하는 사람들, 하고 싶어 하는 사람들 중에 촉법소년 연령인 사람도 많을 수밖에 없다"며 촉법소년 연령 하향 입법을 위한 여야 합의가 필요하다고 강조했습니다.

2024-08-29

‘딥페이크 성착취’ 10대 청소년 사이 확산 우려

최근 온라인에서 불법 합성물, 이른바 ‘딥페이크’를 제작하고 유포하는 범죄가 청소년 사이에서 확산되고 있습니다. 26일 서울경찰청은 "지난 7월 말까지 초·중·고등학교에서 텔레그램을 기반으로 한 성착취 신고가 10건 접수됐고 이와 관련해 14세 이상 청소년 10명을 입건했다"고 밝혔습니다. 경찰에 따르면 이러한 딥페이크 허위 영상물은 동료 학생뿐 아니라 교사까지 대상으로 제작되며 IT기술에 익숙한 학생들 중심으로 퍼지고 있어 우려가 커지고 있습니다.

2024-08-26