우리는 왜 딥페이크 성범죄를 막지 않았나

우리는 뭔가 큰 사고가 터져야만 관련 내용에 대해 관심을 갖는다. 

딥페이크(deepfake)를 이용한 성범죄는 사실 오래전부터 문제가 제기돼 왔다. 이 용어가 처음 세상에 알려진 것은 2017년이다. 레딧(Reddit)이라는 해외 온라인 커뮤니티에서 'deepfakes'라는 닉네임 유저가 시발점이 됐다. 그는 포르노 배우 사진에 유명인 얼굴을 바꿔 즐기고 있었다. 당시 그가 사용한 유명인은 Gal Gadot, Maisie Williams 및 Taylor Swift 등이었다. 

deepfakes는 2017년 12월 'AI-Assisted Fake Porn Is Here and We’re All Fucked'라는 기사를 통해 세상에 알려졌다. 아이러니하게 가짜 포르노는 deepfakes가 유명해진 이후 더 활개쳤다. deepfakes는 이 딥페이크 작업을 위한 커뮤니티 방을 개설했다. 그리고 2달여 만에 1만5000명 이상 구독자가 생겼다. 이 커뮤니티 내에서 개발자 이름을 딴 '딥페이크'라는 단어가 이 행위를 대변하는 명사로 자리 잡았다. 관견 기술 태동 시기와 상관없이 '딥페이크'라는 단어는 처음부터 범죄에 사용된 셈이다.

세상에 딥페이크라는 단어를 알린 계기가 된 '겔 가돗' 합성 영상 이미지

2018년 1월, FakeApp이라는 딥페이크 앱이 출시됐다. 이후 기업들은 컴퓨터 지식이 없어도 쉽게 딥페이크 이미지나 영상을 만들 수 있는 앱을 앞다퉈 출시했다. 덕분에 더 많은 사람이 유명인 포르노를 만들었다. 지금도 생성형 인공지능 사이트 대부분에서 딥페이크 제작을 지원하고 있다. 이렇게 쉽게 만들어진 가짜 포르노 이미지와 영상은 수많은 포르노 사이트를 통해 유통되고 있다. 특히 유명인 누드 영상을 게시하는 Celebjihad 같은 사이트를 통해 급격하게 확산했다. 처음 문제가 불거졌던 커뮤니티 레딧에는 아직도 'r/SFWdeepfakes'같은 딥페이크 모임이 활성화되어 있다. 물론 포르노 같은 성인물을 취급할 수는 없다고 한다. SFW는 'safe for work deepfakes'의 약자다. 그 문장이 그렇게 큰 의미가 있는지는 모르겠지만.

딥페이크 포르노는 이미 인터넷 세상에 만연해 있다. 2023년에는 엠마 왓슨, 스칼렛 요한슨이 나오는 딥페이크 포르노 영상이 화제였다. 테일러 스위프트도 딥페이크 포르노를 피하지 못했다. 전 세게 딥페이크 포르노 타깃에 대한민국 가수와 연예인이 53%나 된다는 것은 슬픈 일이다. 대부분 해외 포르노 사이트를 통해 퍼져나갔다 하니 국내 제작량이 많다기보다는 최근 K-컬처 유행과 함께 그들이 대부분 예쁘고 어린 여성이라는 것도 이유 중 하나일 것으로 여겨진다. 

유명인은 물론 정치인까지 딥페이크 성범죄 대상이 되자 서구권에서는 처벌 수위를 높이고 있다. 하지만, 아직 관련 범죄를 저지른 사람이 처벌을 받았다는 뉴스는 그다지 많지 않다. 그도 그럴 것이, 영국은 겨우 지난 4월에서야 딥페이크 관련 처벌 계획을 밝혔다. 미국 상원 역시 지난 7월에서야 겨우 음란물 피해 보상 법안이 통과됐다. 하원에서는 여전히 계류 중이다. 제작자 처벌이 아니라 피해자 구제 법안이다. 다만 미국 몇몇 주는 2022년부터 딥페이크 제작자에게 징역형이나 벌금형을 부가하는 법을 개정했다. 중국에서 연예인과 일반인을 포함해 1200개 이상 합성영상과 1600개 이미지를 유포한 사람에게 징역 7년 3개월과 약 1100만원 벌금형을 선고했다는 소식이 들려온 건 희소식이라 해야 할까?

이미 10년 전부터 문제가 되어 왔고 2017년 이후에는 공론화되고 문제시되어 왔지만, 그동안 막을 생각도 준비도 하지 않았다. 해외에서도 관련 법이 겨우 2년 사이에 준비하고 시행되다 보니 국내는 더욱 관심이 없었다. 결국 대형 사건이 터지고 나서야, 정부와 언론은 입에 거품을 물고 딥페이크 문제에 대해 떠들어 댄다. 그리고 겨우 한다는 이야기가 해외에 비해 국내 처벌 수위가 낮다는 말이다. 정말 처벌 수위를 높이고 여자아이들에게 '조심해라'고 겁주는 것만이 해결 방안인지 모르겠다.

아무튼 딥페이크 성범죄는 막지 못한 것이 아니라 막을 생각이 없었던 것 같다.