인간은 사회적 동물이라 함께 공동으로 생활을 하면서 산업사회가 발전하는 원동력이 되었습니다. 이렇게 많은 사람들이 모여 살다 보면 자연히 남녀간의 성(性) 문화가 발생하게 되고 이로 인한 부작용이 수도 없이 많이 생겨 성범죄 형태도 다양하게 변해 오고 있습니다, 특히 최근에는 AI기술의 확산으로 딥페이크를 이용한 디지털 성폭력·성희롱이 만연하고 있어 이를 방지하기 위한 방법을 여러 가지로 모색하고 있습니다.

딥페이크(deepfake)란 딥 러닝(deep learning)과 가짜(fake)의 혼성어로 인공 지능을 기반으로 한 인간 이미지 합성 기술입니다. 이 기술을 이용해 특히 연예인, 인플루언서, 운동선수 등 유명인의 얼굴을 포르노나 AV 등 성적 촬영물에 합성하여 피해 촬영물을 만들어 내는 사례가 많습니다. 생성적 적대 신경망(GAN)이라는 기계 학습 기술을 사용하여, 기존의 사진이나 영상을 원본이 되는 사진이나 영상에 겹쳐서 만들어 냅니다.

디지털 성폭력은 ‘디지털 기기와 정보통신기술을 매개로 온·오프라인 상에서 발생하는 성인지(젠더) 기반 폭력으로, 동의 없이 상대의 신체를 촬영하거나 유포·유포협박·저장·전시하는 행위와 사이버 공간에서 타인의 성적 자율권과 인격권을 침해하는 행위’로 정의됩니다. 이는 온라인 매체를 통한 언어 및 시청각 성폭력, 불법촬영, 타인의 성적 이미지 제작, 유포, 소지, 요구 협박, 자기 이미지의 원치 않는 유포와 관련 협박, 개인 신상정보 악용 등 여러 형태로 나타납니다.

이 책에서는 이러한 딥페이크와 디지털 성범죄에 대한 여러 가지 자료들을 참고하여 그 예방책과 피해자를 보호하는 제도등을 비롯하여 많은 사례들을 수록함으로 피해를 방지하고 예방하는 목적으로 발간하게 되었습니다. 이러한 자료들은 대법원의 최근 판례, 여성가족부와 한국여성인권진흥원 산하 디지털 성범죄 피해자지원센터, 법제처의 생활법령 및 네이버의 위키백과·나무위키 등을 참고하여 정리하였습니다.

이 책이 딥페이크와 디지털 성범죄로 인한 피해로 고민하고 계시는 분과 이들에게 힘을 복돋아 주시고자 하는 전문가에게 큰 도움이 되리라 믿으며, 열악한 출판시장임에도 불구하고 흔쾌히 출간에 응해 주신 법문북스 김현호 대표에게 감사를 드립니다.

차 례

제1장 딥페이크 알아보기

Part 1. 딥페이크 5

1. 정의 5

2. 역사 6

2-1. AI 기술 등장 이전 6

2-2. AI 기술 등장 이후 6

2-3. AI 기술 등장 이전 8

2-4. 아마추어 개발 시기 8

2-5. 상업적 개발 8

2-6. 부활 9

3. 특징 10

3-1. 합성기술 10

3-2. 음성합성기술 등 10

4. AI기술 12

4-1. 종류 12

4-2. 가짜 뉴스 12

4-3. 사기 및 보이스피싱 13

4-4. 유명인 사칭 광고 사건 13

5. 상세 및 현황 14

5-1. 현황 14

5-2. 우리나라의 경우 14

5-3. 다른 나라의 경우 15

5-4. 온라인에 공개된 딥페이크 16

Part 2. 법에 의해 규제되는 딥페이크 영상 18

1. 딥페이크영상 등의 이용 제한 18

1-1. 선거운동에 이용 제한 18

1-2. 위반 시 제재 18

2. 허위영상물 등 제작 20

2-1. 허위영상물 등 제작의 금지 20

2-2. 위반시 제재 20

3. 허위영상물 등 또는 복제물 유포·재유포 금지 21

4. 불법촬영, 유포 및 유포 협박 22

4-1. 카메라 등 이용 불법촬영의 금지 22

4-2. 위반시 제재 22

5. 최근 대법원 관련판례 23

■ 성폭력범죄의처벌등에관한특례법위반(카메라등 이용 촬영) 23

■ 성폭력범죄의처벌등에관한특례법위반(촬영물 등 이용 협박) 25

■ 아동복지법위반(아동학대)·아동복지법위반(아동에 대한 음행강요·매개·성희롱 등)  26

■ 성폭력범죄의처벌등에관한특례법위반(카메라 등 이용촬영) 27

■ 성폭력범죄의처벌등에관한특례법위반(카메라 등 이용촬영) 28

■ 성폭력범죄의처벌등에관한특례법위반(카메라 등 이용촬영) 30

■ 아동·청소년의성보호에관한법률위반(성착취물제작·배포등) 31

■ 성폭력범죄의처벌등에관한특례법위반(카메라등 이용촬영·반포등) 32

■ 성폭력범죄의처벌등에관한특례법위반(통신매체 이용 음란) 34

■ 아동·청소년의성보호에관한법률위반(음란물소지, 성착취물소지) 35

■ 성폭력범죄의처벌등에관한특례법위반(카메라등 이용촬영·반포등) 36

■ 성폭력범죄의처벌등에관한특례법위반(카메라등 이용촬영) 37

■ 성폭력범죄의처벌등에관한특례법위반(카메라등 이용촬영) 39

■ 성폭력범죄의처벌등에관한특례법위반(촬영물등 이용협박) 41

■ 성폭력범죄의처벌등에관한특례법위반(카메라등 이용촬영) 42

■ 성폭력범죄의처벌등에관한특례법위반(카메라등 이용촬영·반포등) 43

■ 성폭력범죄의처벌등에관한특례법위반(통신매체이용 음란) 45

■ 성폭력범죄의처벌등에관한특례법위반(주거침입강제추행) 46

■ 성폭력범죄의처벌등에관한특례법위반(카메라등 이용촬영·반포등) 47

■ 성폭력범죄의처벌등에관한특례법위반(카메라등 이용촬영) 48

■ 성폭력범죄의처벌등에관한특례법위반(카메라등 이용촬영) 49

■ 성폭력범죄의처벌등에관한특례법위반(카메라등 이용촬영) 50

■ 성폭력범죄의처벌등에관한특례법위반(카메라등 이용촬영) 52

■ 성폭력범죄의처벌등에관한특례법위반(카메라등 이용촬영) 54

■ 성폭력범죄의 처벌 등에 관한 특례법위반(카메라등 이용촬영) 55

■ 성폭력범죄의처벌등에관한특례법위반(카메라등 이용촬영) 57

6. 촬영물 유포·재유포 59

6-1. 「성폭력범죄의 처벌 등에 관한 특례법」상 촬영물 유포·재유포의 금지 59

6-2. 관련판례 59

■ 촬영물 유포행위를 처벌하는 취지 등에 관한 판례 59

6-3. 「정보통신망 이용촉진 및 정보보호 등에 관한 법률」상 불법정보의 유통 금지  60

7. 촬영물 유포 협박·강요 62

7-1. 「성폭력범죄의 처벌 등에 관한 특례법」상 성적 촬영물 이용 협박·강요의 금지 62

7-2. 「형법」상 협박·강요의 금지 62

8. 딥페이크 기술을 이용한 이미지, 영상 등 신고 64

제2장 디지털성범죄 피해자지원센터

Part 1. 상담신청 67

1. 디지털 성범죄 피해가 발생했을 때, 어떻게 해야 할까요? 67

2. 상담신청서를 접수해 주세요. 67

Part 2. 지원내용 69

1. 디지털성범죄피해자지원센터에서 어떤 지원을 받을 수 있나요?  69

2. 디지털 성범죄 피해자 보호ㆍ지원 제도 자세히 알아보기 70

3. 삭제지원 72

3-1. 삭제지원이란? 72

3-2. 제가 지우고 싶은 영상ㆍ사진이 있는데, 이것도 삭제지원 대상이 되는지 
궁금해요. 72

3-3. 삭제지원과 유포현황 모니터링 무슨 차이인가요? 74

3-4. 삭제지원 흐름도 74

3-5. 삭제지원하는 플랫폼에 대해 알고 싶어요. 76

3-6. 디지털 성범죄에 대해 알고 싶어요. 76

Part 3. 디지털 성범죄에 대한 Q&A 78

■ 디지털 성범죄의 유형과 적용 법률은? 78

Part 4. 피해유형별 정보 제공 83

1. 아동·청소년성착취 대응 83

1-1. 자녀소통 83

1-2. 신고안내 84

2. 유포 불안 85

2-1. 마음 챙김 및 대처방법 85

2-2. 신고안내 86

2-3. 피해 지원 86

3. 비동의 유포 87

3-1. 마음 챙김 및 대처방법 87

3-2. 피해 지원 88

4. 몸캠피싱 89

4-1. 합리적 판단 89

4-2. 대처 안내 89

4-3. 신고 안내 90

제3장 디지털 성범죄 알아보기

Part 1.디지털 성범죄의 뜻과 현황 93

1. “디지털 성범죄”란? 93

1-1. 디지털 성범죄의 뜻 93

1-2. “디지털 성범죄물”의 범위 93

1-3. 디지털 성범죄의 유형 94

1-4. 『디지털 성범죄』 용어의 사용 및 범위] 95

2. 디지털 성범죄의 특징 및 현황 96

2-1. 디지털 성범죄의 특징 96

2-2. 디지털 성범죄 피해 현황 96

2-3. 피해 유형별 예시 97

Part 2. 디지털 성범죄의 유형 및 가해자 처벌 98

1. 촬영물 이용 98

1-1. 카메라 등 이용 불법촬영의 금지 98

■ 관련판례 「성폭력범죄의 처벌 등에 관한 특례법」상 촬영의 의미와 실행의 착수 시기 99

1-2. 촬영물 유포·재유포 99

1-2-1. 「성폭력범죄의 처벌 등에 관한 특례법」상 촬영물 유포·재유포의 금지 99

■ 관련판례 촬영물 유포행위를 처벌하는 취지 등에 관한 판례 100

1-2-2. 「정보통신망 이용촉진 및 정보보호 등에 관한 법률」상 불법정보의 유통 금지 101

1-3. 촬영물 유포 협박·강요 102

1-3-1. 「성폭력범죄의 처벌 등에 관한 특례법」상 성적 촬영물 이용 협박·강요의 금지 102

1-3-2. 「형법」상 협박·강요의 금지 103

1-3-3. Ｑ&Ａ 103

■ 헤어진 남자친구와 함께 찍은 성관계 동영상이 저도 모르게 유포되었을 경우에, 촬영 시 동의했으니 저의 잘못인가요? 103

■ 관련판례 104

1-4. 허위영상물 제작 및 유포·재유포 107

1-4-1. 허위영상물 등 제작의 금지 107

1-4-2. 허위영상물 등 또는 복제물 유포·재유포 금지 107

1-4-3. Ｑ&Ａ 108

■ 좋아하는 아이돌 가수의 얼굴을 합성해서 인터넷 게시판에 올렸어요. 이런 것도 처벌을 받나요? 108

1-5. 소지·구입·저장 또는 시청 110

1-5-1. 촬영물 또는 복제물 소지·구입·저장 또는 시청 금지 110

1-5-2. Ｑ&Ａ 110

■ 몰래 찍힌 사진, 몰래 유포한 영상 등을 다운로드하거나 보기만 해도 죄가 되나요?  110

2. 아동·청소년 대상 111

2-1. 성착취물의 제작·배포 등 111

2-1-1. “아동·청소년 성착취물”이란? 111

2-1-2. 아동·청소년 성착취물의 제작 및 배포 등의 금지 111

2-1-3. 아동ㆍ청소년성착취물을 이용한 협박ㆍ강요 금지 「아동·청소년의 성보호에 관한 법률」 제11조의 2) 112

2-1-4. “아동·청소년 성착취물”이라는 용어의 취지 113

2-1-5. 아동·청소년 성착취물의 제작에 관한 판례 및 헌재결정례 등 113

2-2. Q&A 115

■ 제가 직접 그 학생의 신체를 촬영한 것도 아닌데, 범죄가 되나요? 115

2-3. 관련판례 116

3. 성을 사는 행위, 매매행위, 강요행위 등 121

3-1. 아동·청소년의 성을 사는 행위 등 121

3-1-1. “아동·청소년의 성을 사는 행위”란? 121

3-1-2. 아동·청소년의 성을 사는 행위 등의 금지 121

3-1-3. “아동·청소년의 성을 사는 행위”라는 용어의 취지 등에 관한 판례(대법원 2016. 2. 18. 선고 2015도15664 판결) 122

3-2. 아동·청소년 매매행위의 금지 122

3-3. 아동·청소년에 대한 강요행위 등 123

3-3-1. 아동·청소년에 대한 강요행위 등의 금지 123

3-3-2. 아동·청소년 대상 디지털 성범죄에 대한 양벌규정 (「아동·청소년의 성보호에 관한 법률」 제32조) 123

3-4. 관련판례 126

4. 성착취 목적의 대화 등 127

4-1. 아동·청소년에 대한 성착취 목적의 대화, 성적 행위 유인·권유의 금지 127

4-2. Q&A 128

■ “온라인 그루밍”이란 무엇인가요? 128

■ 대학생이 딸에게 “교복을 입고 찍은 다리 사진을 보내달라”고 요구하는 대화내용을 봤습니다. 다행히 사진을 보내지는 않았지만 그 대학생을 처벌할 수 있을까요? 129

5. 성적 학대행위 등의 금지 131

5-1. 「아동복지법」상 금지행위 131

5-2. 관련판례 131

Part 3. 사이버 공간 내 성적 괴롭힘 138

1. 온라인을 통한 성적 괴롭힘 138

■ 사이버 공간 내 성적 괴롭힘의 뜻 138

2. 금지행위의 유형 139

2-1. 통신매체를 이용한 음란행위 139

2-2. 디지털 성범죄 피해자의 신상정보 등을 유포 139

2-3. 「정보통신망 이용촉진 및 정보보호 등에 관한 법률」상 명예 훼손 140

2-4. 「형법」상 명예훼손·모욕 140

2-5. Q&A 141

■ 여성의 나체 사진을 바로 보여준 것이 아니라 인터넷 링크를 적어 전송했을 뿐인데, 이런 경우에도 법적으로 문제가 되나요? 141

Part 4. 가해자에 대한 처벌 143

1.디지털 성범죄 유형 및 처벌 143

2. 신상정보의 등록 146

Part 5. 디지털 성범죄 발생 시 대처방법 및 피해예방 147

1. 대처방법 및 피해예방 147

1-1. 신고, 상담 및 삭제요청 147

1-2. 증거 수집 148

1-3. 피해자 신상정보 및 불법촬영물 등 148

1-3-1. 정보통신망을 통한 피해자 신상정보 등 삭제요청 148

1-3-2. 전기통신사업자의 불법촬영물 등 삭제·접속차단 조치 149

1-3-3. 누군가의 피해 사실을 알게 되었다면 이렇게! 150

1-4. Q&A 151

■ 성폭력상담소로부터 제가 운영하는 홈페이지에 불법촬영물이 게시되었다는 연락을 받은 경우, 당사자가 아닌 사람의 요청에도 따라야 하는 건가요? 151

2. 예방 및 대응 153

2-1. 디지털 성범죄 등 성폭력 예방교육 의무 153

2-2. 불법촬영물 등 유통방지를 위한 전기통신사업자 교육 153

2-3. 공동체에서 디지털 성범죄에 대응하는 방법 154

Part 6. 디지털 성범죄 피해자 보호 및 지원 156

1. 피해자에 대한 보호제도 156

1-1. 전기통신사업자 등의 의무 및 제재 156

1-1-1. 청소년 유해매체물의 표시의무 및 표시방법 156

1-1-2. 표시방법을 지키지 않은 청소년 유해매체물의 삭제의무 157

1-1-3. 청소년 유해매체물 표시를 위한 기술적 조치의무 157

1-2. 불법음란정보의 유통 방지를 위한 기술적 조치의무 157

1-2-1. 정보통신망을 통한 불법음란정보의 유통금지 157

1-2-2. 불법음란정보 유통 방지를 위한 기술적 조치의무 158

1-3. 불법촬영물 등 유통방지 책임자 지정의무 159

1-3-1. 불법촬영물 등 유통방지 책임자의 지정 159

1-3-2. 불법촬영물 등 유통방지 책임자의 업무, 책임자의 수 및 자격요건 162

2. 방송통신위원회의 불법정보 처리 거부, 정지, 제한 명령 164

2-1. 불법정보에 대한 방송통신심의위원회의 심의 및 시정요구 164

2-1-1. 방송통신심의위원회의 심의대상 정보 164

2-1-2. 심의위원회의 시정요구의 종류 165

2-2. 방송통신위원회의 불법정보 처리 거부·정지 또는 제한 명령 165

2-3. Q&A 167

■ 온라인상의 불법촬영물을 삭제하거나 불법 음란 사이트의 접속을 차단할 수 있는 방법이 있나요? 167

3. 아동·청소년 대상 디지털 성범죄의 수사 특례 169

3-1. 신분비공개수사 169

3-1-1. 신분비공개수사의 허용 169

3-1-2. 신분비공개수사 특례의 절차 169

3-1-3. 신분비공개수사의 방법 170

3-2. 신분위장수사 171

3-2-1. 신분위장수사의 허용 171

3-2-2. 신분위장수사 특례의 절차 171

3-2-3. 긴급 신분위장수사 172

3-3. 신분비공개수사 또는 신분위장수사로 수집한 증거 등의 사용 및 보고 173

3-3-1. 신분비공개수사 또는 신분위장수사로 수집한 증거 및 자료 등의 사용제한 173

3-3-2. 국가경찰위원회와 국회의 통제에 따른 국가수사본부장의 보고의무 173

3-4. 공무원 등의 비밀준수의 의무, 상급 경찰관서 수사부서 장의 수사 지원 등  174

3-4-1. 신분비공개수사 또는 신분위장수사에 관한 공무원 등의 비밀 준수의무 174

3-4-2. 신분비공개수사 또는 신분위장수사에 관한 상급 경찰관서 수사부서 장의 지원 등 174

3-5. 사법경찰관리의 준수사항 및 면책 175

3-5-1. 신분비공개수사 또는 신분위장수사에 관한 사법경찰관리 준수사항 175

3-5-2. 신분비공개수사 또는 신분위장수사 중의 위법행위에 대한 면책 175

3-6. Q&A 176

■ 아동ㆍ청소년 대상 디지털 성범죄를 대상으로 한 경찰의 잠입수사가 가능해 졌다는데 어떤 내용인지, 왜 필요한지요? 176

Part 7. 피해자에 대한 지원 178

1. 불법촬영물 피해자 지원 178

1-1. 피해촬영물 삭제, 국가가 지원합니다. 178

1-2. 삭제지원에 소요되는 비용의 처리 등 181

1-3. Q&A 181

■ 국가에서 피해촬영물 삭제를 도와주기도 하나요? 그렇다면 제가 직접 나서서 국가에 삭제를 위한 지원을 요청할 수 있을까요? 181

2. 디지털 성범죄 피해자 지원센터를 통한 지원 184

2-1. “디지털 성범죄 피해자 지원센터”란? 184

2-2. 삭제지원 흐름도 186

2-3. Q&A 187

■ 디지털 성범죄 피해자 지원센터에서 구체적으로 어떤 지원을 받을 수 있는지, 지원은 무료로 받을 수 있는지요? 187

제4장 관련법령

성폭력범죄의 처벌 등에 관한 특례법 191

부칙 214

성폭력방지 및 피해자보호 등에 관한 법률 215

부칙 232

아동ㆍ청소년의 성보호에 관한 법률 233

부칙 268