2024년 3월 29일(금)

방송 프로그램 리뷰

[스브스夜] '그알' K-POP스타→일반인, '딥페이크 성착취물' 피해…피해자 신변 보호 '딥페이크 순기능'

김효정 에디터 작성 2021.02.28 02:18 수정 2021.02.28 15:29 조회 1,385
기사 인쇄하기
그알

[SBS연예뉴스 | 김효정 에디터] 딥페이크를 이용한 범죄로 고통받는 이들이 날로 늘어나고 있다.

27일에 방송된 SBS '그것이 알고 싶다'에서는 '보고, 듣고, 의심하라 - 가짜와의 전쟁, 딥페이크'라는 부제로 '딥페이크'를 이용한 범죄에 대해 다뤘다.

제보자들은 어느 날 낯선 이들에게 자신의 성관계 동영상을 전해 받고 충격을 받았다. 이는 자신이 촬영한 영상이 아니었으나 영상 속 얼굴은 자신과 너무나 닮았던 것. 그리고 이를 가지고 낯선 이는 여성들에게 돈을 요구했다. 이른바 이는 바로 딥페이크를 통한 성범죄였다.

'딥페이크(Deepfake)'란, 인공지능의 한 분야인 딥러닝(Deep learning)을 활용해, 사람의 얼굴이나 특정 부위를 합성한 가짜 동영상을 만들어내는 기술이었다.

그런데 이를 악용한 성범죄가 빈번하게 일어나고 있었다. 특히 K-POP 스타들의 딥페이크 영상은 심각한 범죄로 이어질 가능성이 있어 걱정을 자아냈다.

물론 이를 구분하는 기술도 있으나 보안 기술보다 개발 기술이 더 빠르게 발전하며 이를 악용하는 이들을 막는 것이 쉽지 않은 것. 이에 전문가는 "내가 예상하지 못했던 딥페이크 생성 기술에 대해서는 탐지율 0%"라며 걱정했다. 특히 전문가들은 딥페이크 동영상을 이용한 범죄가 벌어질 경우 그 피해가 더욱 커질 수 있다고 지적했다.

이에 방송은 딥페이크를 이용한 범죄를 재연해 실험을 했다. 누구보다 가까운 자식의 얼굴을 부모들은 얼마큼 알아볼 수 있을까. 제작진은 3명의 배우 사진을 다른 영상에 합성해 병원에 입원 중인 딥페이크 영상을 만들었다. 그리고 이를 각자의 부모에게 보내 급히 돈이 필요하니 신용카드 사진을 보내달라고 했다. 이 실험에 2명의 실험자 부모들은 곧바로 카드 사진을 보내와 이러한 범죄가 실제로 일어나면 많은 이들이 피해를 볼 수 있다는 것을 확인했다.

최근 국민 청원 사이트에는 여성 연예인 딥페이크 영상 업로드 사이트와 이용자들을 강력하게 처벌해달라는 청원이 올라왔다. 여성 연예인의 딥페이크 영상은 포르노 영상에 연예인들의 얼굴을 합성한 불법 성착취물.

이를 취재한 기자는 "N번방 적발 전부터 이러한 딥페이크 관련 채팅방 있었다. 성인물보다 수위가 훨씬 높아서 방치하면 사회적 문제가 될 수도 있고 국격에도 타격 있을 수 있다는 생각이 들었다"라고 했다.

딥페이크에 대한 2019년 보고서에 따르면 딥페이크 영상물 중 96%가 프로노 영상이었고 그 영상의 피해자 중 25%가 한국 연예인인 것으로 드러났다. 특히 영국 배우 다음으로 음란물에 등장하는 것이 바로 한국 K-POP 가수들이었던 것.

그리고 이는 지금도 유효한 것으로 드러났다. 전문가는 "K팝 스타들이 세계적으로 유명하고 그 영상을 만든 사람이 그 대상에 흥미를 갖고 있기 때문에 악용되고 있다. 온라인에서 판매하기 좋기 때문에 그들을 대상으로 영상물을 만드는 것이다"라고 설명했다.

한국 연예인의 딥페이크 영상이 업로드된 사이트는 쉽게 찾을 수 있었다. 그리고 이 사이트 중에 한 사이트는 포르노 영상의 순위까지 매기고 있어 경악하게 했다.

딥페이크에 대해 취재한 기자는 "작년 말 데뷔한 아이돌인데 데뷔 2,3개월 만에 딥페이크 합성물이 벌써 나왔다. 오늘 데뷔하면 내일 바로 딥페이크 영상이 나올 수 있는 상황이다"라고 걱정했다.

그렇다면 이러한 영상물은 누가 제작하는 것일까. 이에 디지털 보안 전문가는 "개인이 만들지 않는다. 전문가들의 손을 거친 영상들도 많은데 이건 딥페이크 티가 잘 안 난다"라고 견해를 밝혔다.

유명인들의 딥페이크 영상을 다루는 한 사이트는 해당 영상이 가짜이며 오락과 교육적인 목적으로만 사용하라는 공지를 올려놓기도 해 눈살을 찌푸리게 했다.

한 제보자는 국내에 딥페이크 기술이 처음 공개된 곳이 포르노 사이트라고 했다. 그는 "케이팝 OOO이라는 사이트에 최초로 등장했는데 주로 케이팝 아이돌과 일본 AV 배우들을 합친 것이었다"라고 말했다. 그리고 그의 주장에 따르면 제작자들 중 상당수가 IT 개발자라는 것. 그는 "포르노 합성된 걸 누가 더 정교하게 만드냐 하는 대결 분위기였다"라고 설명했다.

실제로 지난해에는 한중 IT 개발자들이 딥페이크 포르노를 제작해 판매 정황이 포착되며 수사도 진행됐다. 이에 담당 수사관은 "외국 사이트라 관련자들 특정이 안되어서 검거에 실패했다"라고 설명했다.

딥페이크 영상물을 제작하는 이들의 목적은 무엇일까? 이들의 목적은 단순히 돈벌이였다. 이에 전문가는 "공인이나 특정 인기 가수나 배우 영상이라면 삭제 속도보다 퍼지는 속도가 더 빠르다. 돈을 벌기 위해 만들어진 영상으로 영상 속 주인공들은 평생 피해를 받을 수밖에 없다"라고 안타까워했다.

제작진은 연예 기획사들에 딥페이크 영상에 관한 취재를 요청했다. 일부는 딥페이크의 존재에 대해 무지했고 일부는 안다고 해도 언급하는 순간 피해가 더 커질 것으로 여겨 언급을 피했다. 또한 일부는 고소까지 했지만 가해자를 잡는 것이 불가능해 포기했다는 반응이었다.

그리고 딥페이크 범죄의 피해자는 연예인에서 일반인으로 확산되고 있었다. 실제로 딥페이크 피해를 입은 여성들은 경찰에 신고했으나 해외 사이트에 올라온 것이라 범인을 특정할 수 없다며 SNS에 사진을 올리지 말라는 말만 들었다고 했다. 이에 피해자들은 자신의 사진을 SNS에 게재한 스스로를 탓하기도 했다.

한 여성은 지인을 통해 딥페이크 범죄의 피해를 입어 그를 고소했다. 이 여성은 "벌 받을 거라고 생각했다. 그래도 1년은 살고 나오겠지 했다"라며 고소 당시를 떠올렸다. 이 여성이 관련된 사건의 피해자는 무려 14명. 그러나 범인은 초범이고 죄를 반성하고 있다는 이유로 집행유예로 풀려났다.

이에 피해 여성은 "억울했다. 아무렇지도 않게 잘 살고 있다는 게 너무 화가 났다"라고 분통을 터뜨렸다. 제작진은 가해자와의 인터뷰를 요청했다. 그러자 가해자는 "내가 직접 한 것도 아닌데 이런 전화까지 받아야 하나"라며 화부터 냈다. 그리고 그는 "인터넷에서 만난 누군가가 사진을 달라고 해서 줬을 뿐이다. 돈을 준다고 해서 아무 사진이면 된다고 해서 그냥 아무 사진이나 준 건데 그렇게 된 거다"라며 "큰돈도 아니고 몇십만 원을 받았는데 그걸로 나도 너무 힘들었다. 다 소문나고 그래서 제대로 돌아다니지도 못했다. 생활도 제대로 못하고 있다"라고 피해자의 아픔은 전혀 헤아리지 않은 채 억울해했다.

딥페이크 범죄는 누구나 쉽게 접할 수 있는 구조이기 때문에 청소년 범죄로까지 이어질 위험이 있었다. 제작진은 인터넷상에서 딥페이크 판매자를 쉽게 찾았고 그와 통화를 하게 됐다. 자신을 고등학교 1학년 17살이라 밝힌 판매자는 "이 서버를 처음 열었을 때 하루 만에 30명이 올 정도로 몰리고 지금까지 번 돈이 50만 원 정도다. 돈 때문에 시작했다. 난 사진 합성을 하고 영상은 딥페이크를 판매한다는 사람들에게 얼마씩 주고 떼 오는 거다"라고 설명했다.

특히 그는 얼마나 끔찍한 범죄를 저지르고 있는지 아냐는 질문에 "알기는 한다. 하지만 걸리면 내가 책임지겠다고 하고 판매한다"라고 태연하게 말했다. 또한 그는 실제로 책임을 질 수 있겠냐고 묻자 아니라고 답해 보는 이들을 허망하게 만들었다.

그리고 최근에는 SNS에서 3천 개가 넘는 연예인의 딥페이크 사진 팔던 10대 2명이 검거되는 일도 있어 이 범죄가 얼마나 심각한 것인지 다시 한번 실감케 했다.

제작진은 한 여성으로부터 딥페이크 피해를 받았다는 제보를 받았다. 이 여성은 낯선 외국인이 한 사이트에서 봤다며 자신의 얼굴이 합성된 포르노 영상을 보내왔다고 주장했다. 그리고 제작진은 해당 사이트에서 또 다른 한국인 피해자를 발견했다. 특히 또 다른 피해 여성은 본인의 얼굴을 이용한 여러 개의 딥페이크 성착취물이 게재돼있었고, 이를 올린 가해자는 한국인으로 추정됐다.

제작진은 단서들을 토대로 한 SNS 계정을 찾아냈다. 이 계정은 피해 여성의 사진으로 SNS 프로필 사진을 설정해뒀던 것. 그리고 이 계정은 성기를 노출하는 등 음란 행위를 촬영해 파는 성범죄가 행해지는 계정이었다. 이에 제작진은 이 계정에 접근해 프로필 사진 주인공이 누구냐 물었다. 그러자 계정주는 지인의 사진이라며 딥페이크도 있다고 말했다.

제작진은 그의 행태가 심각하다 판단하고 그가 업로드한 영상을 토대로 그가 출몰하는 지역을 찾아냈다. 그리고 지역 확인 후 해당 관할 사이버 수사대에 남자를 신고했다. 또한 제작진은 이 남성이 딥페이크 영상을 유포하고 성범죄 행위 영상을 판매하고 있다고 알렸다.

이에 경찰은 "심각한 범죄다. 정보통신망법상 음란물 유포로 보이고, 2020년 6월 25일 이후 제작 유포를 했다면 허위 영상물 제작 반포로 처벌할 수 있다"라고 설명했다. 그리고 외국 사이트를 이용하고 있는 남성에 대해 "사이버라고 해서 흔적이 안 남을 것 같지만, 모든 범죄는 흔적이 남아있다. 트위터에 올린 내용들로 수사를 하면 특정할 수 있을 것이다"라고 덧붙였다.

경찰에 신고 후 제작진은 주변을 탐문하며 해당 남성을 목격한 다수의 이들을 만났다. 그리고 이 남성은 자신의 SNS에서 음란 행위를 10년 넘게 해왔다고 자랑을 하기도 해 경악하게 했다.

전문가는 "동영상을 이용한 범죄는 널리 유포될 수 있고 피해의 범위가 더 커질 수 있다. 체포가 안 되면 범죄는 계속될 것이다"라고 조속한 체포가 필요하다고 조언했다. 그리고 다행히도 해당 남성은 제작진의 신고 5주일 만에 검거했다는 소식이 전해졌다.

경찰은 "제보받은 다음 날 피의자 특정해서 5일 만에 검거했다. 관련 증거물 다수 확보해서 본인도 범죄 사실을 일부 시인하고 있다"라고 설명했다. 또한 딥페이크에 이용된 피해자는 자신의 피해 사실을 몰랐던 것으로 드러났다. 피해 여성은 가해 남성에 대해 친한 사이는 아니며 몇 해 전 온라인에서 알게 된 사이라고 밝힌 것으로 알려졌다.

그리고 경찰은 "2차 피해를 막기 위해 영상물 삭제, 피해자의 심리적 지원 등 적극적으로 지원할 예정이다"라고 밝혀 눈길을 끌었다. 이러한 지원이 가능한 것은 지난해 6월부터 딥페이크 범죄를 성폭력 특별법으로 처벌할 수 있게 법이 개정되었기 때문이었다.

전문가는 "이전에는 성폭력 범죄자들에 대해 부과하는 전자발찌, 신상 정보, 취업 제한이 적용되지 않았지만 이제는 이런 것이 적용 가능해지고 피해자 보호에 대한 조치도 가능하다"라고 설명했다. 피해자들을 위한 지원 중에는 영상물 삭제 지원 센터가 운영되고 있었다. 관계자는 "24시간 온라인 게시판을 통해 피해 접수받고 있다. 우리에게 삭제 지원을 하고 유포 정황이 발견되면 즉시 3개월 동안 긴급 삭제를 지원한다. 공적 지원을 모두 무료로 제공하고 있으니 피해를 입었다면 용기를 내서 즉시 센터로 많이 와주셨으면 좋겠다"라고 당부했다.

그리고 경찰은 신속한 삭제 지원, 시간이 걸려도 끝까지 범인을 추적해 체포할 것을 약속했다. 또한 "성인지 감수성이나 수사관들의 피해자 보호에 대한 전문성을 높이고자 노력 중이다. 좌절보다 용기를 내서 적극적으로 대처를 하면 경찰도 충분히 지원 가능하다"라고 강조했다. 또한 자체적으로 수사력을 높이고 국제 공조도 적극적으로 해서 피해자 보호에 만전을 기하겠다고 다짐했다.

딥페이크 개발자들은 딥페이크를 이용한 범죄는 나쁜 것이지만 기술 자체가 나쁜 것은 아니라고 강조했다. 개발자는 "이 기술의 부정적인 부분은 일부이다. 범죄자들을 처벌하면 되는 것이다"라고 딥페이크에 대한 잘못된 인식을 우려했다.

또한 굉장히 많은 콘텐츠 분야와 SNS에서 잠재력 갖고 있다며 만개도 하기 전에 대중의 인식이 안 좋게만 세워져 버리면 기술이 성장하고 발전할 기회 조차 날아갈 수도 있다고 안타까워했다. 그러면서 딥페이크를 이용한 가상의 얼굴은 누군가를 보호하고 새로운 삶을 만들어내는 일도 가능하다고 했다. 실제로 방송에서는 피해자들의 신변을 보호하기 위해 딥페이크를 이용하기도 했다.

그리고 유명인의 얼굴을 이용해 교육 콘텐츠를 만들면 교육 효과도 높아진다며 "한류 열풍이나 케이팝 열풍,. 한국어 교육 콘텐츠에 유명인들의 얼굴을 활용하면 좋을 것"이라고 밝혔다.

딥페이크는 세상을 떠난 이들을 다시 만나는 것도 가능하게 한다. 몇 해 전 영화 '스타워즈'에서는 캐리 피셔의 레아 공주를 딥페이크로 복원하며 감동적인 장면을 선사하기도 했다.

전문가는 "딥페이크의 학습 데이터는 인간의 데이터이다. 딥페이크도 인간의 상상력으로 만들어 나가는 것이다"라며 "딥페이크가 만들어내는 것은 환상의 세계인데 그게 좋은 꿈일지 악몽일지는 모두 사람에게 달려있다"라며 딥페이크로 인해 보고 듣고 의심하는 사회가 아닌 보고 듣고 위로받는 사회가 될 수 있게 우리가 해야 할 일을 생각해 봐야 한다고 강조했다.

한편 이날 방송에서는 피해자들의 신변 보호를 위해 딥페이크를 활용하고 방송의 이해를 돕기 위해 만든 진행자 김상중의 딥페이크로 딥페이크의 순기능을 선보여 눈길을 끌었다.

Copyright Ⓒ SBS. All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지

광고 영역
광고영역