딥페이크란?
딥페이크(deepfake)는 AI에서 활용되는 학습 방법인 딥러닝(deep learning)과 속임수라는 페이크(fake)의 합성어입니다. 적대관계생성신경망(GAN: Generative Adversarial Network)이라는 기계학습(ML) 기술을 사용하여, 기존 사진이나 영상을 원본에 겹쳐서 만들어 내는 것을 말합니다.
딥페이크의 유래는 2017년 미국 대형 온라인 커뮤니티 ‘레딧’에 올라온 합성 포르노 영상을 딥페이크 시초로 보고 있는데요. 당시 ‘Deepfakes’라는 아이디를 쓰는 이용자가 오픈소스 AI 소프트웨어(SW) 텐서플로(TensorFlow)를 활용해서 유명 연예인과 포르노를 합성한 영상을 올렸습니다. 이후 ‘FakeApp’이라는 무료 SW가 배포되면서 초보자도 쉽게 딥페이크 영상을 만들어 올리기 시작하였고, ChatGPT 등 AI 기술이 고도화되면서 점차 진짜와 구분하기 어려운 수준까지 발전하였다.
한국의 딥페이크
예전에는 딥페이크를 하기 위해 컴퓨팅 시스템과 프로그램에 대한 이해도가 있어야 했으나, 최근 ChatGPT 등 AI의 빠른 발전과 컴퓨터의 발전으로 이제 누구나 접근할 수 있게 되었는데요.
그에 따라 올해초에 발생한 ‘서울대 n번방’ 사건에 이어 인하대의 한 동아리 여학생들이 1200명이 참여한 텔레그램 대화방에서 인하대 여학생들의 얼굴에 음란물을 합성한 ‘딥페이크’ 영상 논란이 있었습니다.
조주빈의 n번방 이후로 텔레그램에서 발생하는 성범죄가 점차 늘어나고 있는데요. 그런데 최근 비슷한 피해가 광범위하게 퍼지고 있습니다. 초등학생, 중학생, 고등학생, 교사, 여군까지 피해를 입었고, 이런 불법합성물을 돌려보는 대화방이 있는 학교가 전국 2백 곳이 넘는다는 이야기까지 나오고 있습니다.
그리고 기사에 따르면 X를 통해서 피해자 학교 명단이 공유되고 있기도 합니다. 피해자 중에는 대학생뿐 아니라 중·고교생 등 미성년자는 물론 교사, 여군 등도 포함된 것으로 알려졌고, SNS 등에 ‘피해 학교 명단’으로 떠돌고 있는 곳만 100곳은 족히 넘어 혹시나 ‘내 사진도 이용된 것은 아닌지’하는 공포심 또한 커지는 분위기인 상황입니다.
실제로 지난 21일 경찰청에서 제출받은 ‘딥페이크 범죄 현황’에 따르면 허위 영상물 관련 범죄는 2021년 156건에서 2022년 160건, 2023년 180건으로 매년 증가하고 있다고 합니다. 그리고 허위 영상물 범죄 피의자를 연령별로 살펴보면 10대에 집중된다는 점이 보입니다. 지난해 기준 허위 영상물 범죄 피의자 120명 중 91명이 10대라는 통계도 공개되었습니다.
특히 10대들이 범죄라고 생각하지 못하고 무분별하게 딥페이크 영상을 제작/유포하는 상황이라고 합니다.
딥페이크 영상 유포 처벌
특히 이번 사건 가해자와 피해자 중에는 10대 청소년까지 있는 것으로 알려진 가운데 올해 서울에서만 텔레그램 기반 딥페이크 음란물 제작·유포 사건으로 10대 청소년 10명이 입건된 것으로 알려졌습니다.
경찰 관계자는 딥페이크를 활용하여 만든 영상을 유포할 경우 “돌고 있는 합성 영상물 대상이 아동일 경우 아동청소년성보호에관한법률 위반이고, 성인이 대상일 경우 성폭력범죄특례법 위반”이라며 “호기심에서라도 해당 영상을 전송받거나, 전송해선 안된다”고 설명하였습니다.
경찰은 현대 사회에서 사진과 동영상으로 일상을 공유하는 SNS 문화가 정착한 상황에서 딥페이크 음란물 제작·유포 범죄의 예방이 어려운 만큼 무관용 원칙으로 엄정하게 대응한다는 방침이라고 밝히기도 했습니다.
딥페이크 음란물을 제작·유포하다가 붙잡히면 성폭력범죄의 처벌 등에 관한 특례법에 따라 5년 이하의 징역 또는 5천만원 이하의 벌금에 처할 수 있고, 특히 범행 대상이 미성년자이면 아동·청소년의 성보호에 관한 법률이 적용되기 때문에 무기 또는 5년 이상의 징역 등으로 처벌 수위가 더 높아진다고 합니다.
혹시라도 호기심에 딥페이크 영상을 찾거나 공유하는 일이 없어야 할 것입니다.