딥페이크 범죄, 그 기원, 다음에 올 쓰나미
추석 전 딥페이크와 텔레그램이 우리나라를 강타하고 있어요. 위 이미지는 최근 가장 간편하면서도 퀄리티 좋은 기술로 만든 딥페이크 예시 이미지인데요. 먼저 딥페이크 기원부터 현재까지, 그리고 앞으로 또 어떤 범죄가 일어날지를 제 스스로 예측해 본 내용을 말씀드릴게요. 온전히 제 개인 의견이므로 참고만 하시길 바래요. 먼저, 세계적으로 현재 딥페이크에서 가장 앞서는 기술을 가진 나라는, 중국입니다. 이들은 생성형 AI 의 원조는 2014년 이안 굿 팰로우가 개발한 GAN모델 Genarative adversariar Networks라는 적대적 생성 신경망이라는 기술이에요. 이 모델 안에는 가짜 이미지를 생성하는 생성자 네트워크, 그리고 이를 판별하는 판별자 네트워크가 동시에 들어가 있는데요. 생성자가 만든 걸 판별자가 진짜/가짜 를 판별해 가짜면 "다시 만들어봐"라고 하며 생성자에게 명령하고 다시 만들고 또 검토하고 이걸 계속적으로 하면서, 진짜와 같은 이미지를 만들어요. 이런 GAN모델이 나온 이후 계속 발전을 거듭해 오는데, 얼굴 검출, 얼굴 인식, 얼굴 변형 기술을 가장 잘 활용하는 나라가 현재 중국입니다. 그래서 지금 텔레그램 안에 유포되는 딥페이크 텔레그램 봇도 중국에서 만든 걸로 예측은 하는데, 아직 명확히 누가 만들었는지는 밝혀지지 않았죠. 혹시 한국에서 만든것은 아니냐? 중국임을 어떻게 확신하냐? 딥페이크 피해자도 한국인이 가장 많다고 하는데 한국이 근원지 아니냐? 라고 물으실 수 있는데, AI개발을 계속 해오던 분이라면 느낌적으로 알 수 있는 부분이 있어요. 제가 중국이 근원지이자 이 모든 문제의 원인이라고 생각하는 이유는요. 첫째, 기존의 생성 AI관련 딥페이크 분야 코드를 적극적으로 개발하고 업그레이드 하는 한국인은 극소수에요. 일부 방송이나 영화 등에 사용할 목적으로 만드는 페이크 영상은 일부 업체에서 만들기는 하지만, 국내에서 텔레그램 봇으로 만들어 배포하게 되면 잡히는 건 시간문제라고 생각하고 수면 위에서 건전하고 방송, 영화 등에만 얼굴 변조 용도로만 사용해도 충분할 거라 생각하는 사람이 많아요. 그리고 딥페이크 변조는 생성형 Ai를 연구원 수준에 몰두해서 새로운 논문을 제시하고 업그레이드 시켜야 하는 수준인데, 한국은 여전히 세계의 기술을 따라가기 바쁜 수준이고 새로운 논문을 만들면서 앞서 나가지는 못하고 있는 실정이에요. 그런데 중국은 오래전부터 얼굴과 관련된 모든 기술개발을 적극적으로 해서 모든 면에서 앞서 나가고 있는 상황이에요. 주민 감시에 이용되는 얼굴 검출과 인식, 여기서 조금 만 더 나가면 얼굴 변조(딥페이크)가 충분히 가능하기 때문이죠. 한국은 그런 기술이 없지만 중국은 그런 기술이 충분해요. 사실 이제는 한국에서도 기술이 앞서 나가지는 않더라도 기존에 풀려있는 기술을 이용해 딥페이크 텔레그램 봇을 만들 순 있지만 검거될 위험성이 있음에도 그렇게 할 사람은 없다고 봐요. 한국인들은 보통 온라인에서의 불법적 수익에는 대부분 관심 없지만 중국은 그렇지 않아요. 그리고 논문 뿐 아니라 딥페이크 예시자료를 가장 많이 만든 곳도 중국이고, 비록 공개하지는 않았지만 딥페이크 열심히 개발중이라고 은연중에 어필한 곳도 중국입니다. 둘째, 한국인의 딥페이크 피해자가 가장 많다. 이것은 통계적으로 사실입니다. 피해자가 가장 많은 나라가, 딥페이크 범죄의 근원지이다는 맞지 않는 말입니다. 피해자가 많을 지언정, 가해자가 한국에 다 있다는 말은 사실이 아니고 논리적으로도 맞지 않아요. 아까 말씀드린 데로 한국인 얼굴을 이용해 예전부터 딥페이크를 만들어 왔던 사람들은 중국인들이에요. 지금 검거되는 국내 가해자들은 텔레그램 딥페이크 봇을 이용해서 국내에서 만든 사람들인데, 이들의 잘못은 처벌을 받아야 마땅하죠. 그렇지만 이들의 범죄를 유발한 딥페이크봇을 만든 출처불명의 사람들에 대해서는 추적이 가능할지 미지수에요. 마약으로 치자면, 마약 제공자는 출처 불명이지만 이를 사용해서 어리숙하게 배포하다가 걸린 사람만 처벌하는 상황이 벌어지고 있어요. 텔레그램 비협조의 수사력 한계가 있겠지만, 명확히 알아야 할 것은 딥페이크 봇을 유포해서 수익을 얻고 다른 추가적인 목적을 달성하는 뭔가가 있다고 봐야 할 것입니다. 텔레그램 배포 이전에 법 규제에서 벗어나 있는, 다크웹에서 벌써 시작된 일이었고, 이때의 주 생산자들은 중국인들이었어요. 중국인들은 세계적으로 K-pop이 유명해 지면서, 한국 가수들의 딥페이크 영상을 만들어 다크웹에서 유통해 수익을 얻는 활동을 계속적으로 해온 걸로 알고 있어요. 중국에는 K-pop처럼 세계적으로 사람들이 알만한 가수나 유명인이 별로 없는 것도 있지만, k-pop 가수 얼굴로 딥페이크 만들었을 때 세계적 유통이 가능하기 때문이에요. 그 외에도 다른 의도가 있을 수도 있고요. 셋째, 목적입니다. 한국인이 딥페이크 봇을 만들어 배포하면서 수익을 얻고자 한다는 건 잘 모르고 하는 소리입니다. 한국이라는 나라의 웹 보안은 상당한 수준으로 관리되고 있어요. 왠만한 불법 사이트는 모두 걸러내서 한국인들은 비교적 안전한 온라인 접속한다고 보시면 되는데요. 이런 환경에서 텔레그램 딥페이크 봇을 만들어 일시적인 수익을 벌어보겠다고 할 업체와 개인은 없다고 봐도 돼요. AI개발하는 사람들이 국내에서 이런 불법 온라인 판매로 인해 수익을 얻는데는 한계가 있기 때문에, 지속 가능한 건전한 수익을 벌려고 생각하는 사람들이에요. 그리고 텔레그램으로 수익을 냈다고 하더라도 이 수익을 가상화폐 비트코인 등으로 출력해야 할텐데, 외국가서 출력하는 등 그런 불편하고 위험한 일은 안합니다. 그래서 딥페이크 봇을 만들고 유포하는 자들의 목적이 정확히 뭔지를 보는게 저는 중요하다고 생각하는데요. 한국은 위와 같은 이유로 하고 싶은 마음이 전혀 들지 않는 사업이에요. 그렇지만 중국은 수익도 벌고, 업로드 하는 한국인 사진 데이터도 공짜로 얻고, 한국의 남녀 갈등에 기여할 수 있기 때문에 충분히 그러할 목적이 있어요. 중국은 오래전부터 국제법상의 정치적 전략관계에서 우리나라 안에서의 갈등을 계속적으로 유발해 왔는데요. 그래서 더 깊이 들어가자면 지금의 남녀 갈등의 근원지라고 저는 보고 있어요. 그런 곳에서 텔레그램을 이용한 딥페이크 봇을 만들지 않을 이유는 없다고 봅니다. 여러가지 익명 보장되는 플랫폼 텔레그램을 이용해서, 딥페이크 피해자가 가장 많은 나라를 한국으로 만들면서, 한국안에 사람들이 딥페이크 근원지, 원인 제공자라는 불명예를 씌우면서 불건전한 나라로 만들고 있어요. 그러면서 남녀갈등의 기폭제를 심어 놓았고요. 이런 목적을 달성하기 아주 좋은 상황이 되어 버린 것입니다. 이 이슈에 대해서는 많은 다른 의견이 있을 거라 생각하지만, 세계 AI기술 시장 안에서 벌어진 일들을 외부에서는 쉽게 잘 보이지 않기 때문에 지금까지 분위기를 주관적인 의견으로 말씀드렸습니다. 마지막으로, 다음에 올 쓰나미를 예측해 보면요. 이번 사건들이 어떻게 마무리 될지는 지켜봐야 겠지만, 앞으로 딥페이크 기술은 더 발전될 겁니다. 이른 시일 내에 딥페이크가 몸캠 피싱에 이용될 가능성이 아주 높아요. 먼저 불특정 다수 사람의 얼굴을 확보한 후, 그 다음 딥페이크 이미지나 영상을 만듭니다. 그 다음 그 대상자에게 접근해서 딥페이크로 만든 정교한 이미지를 보여주고 돈을 주지 않으면 지인들에게 배포한다고 할수도 있고, 아니면 배포하지 않을 목적으로 처음에는 돈 보다는 실제 몸 사진을 요구해서 사진을 받고 나면 다시 돈을 요구하는 악순환을 만드는 사기를 칠 가능성이 많아요. 만약 지인들에게 유포되었을 때 피해자가 지인들에게 딥페이크 사기를 당했다고 주장하더라도, 이를 받은 지인들은 딥페이크 자료인지, 실제 사진인지 분간이 안되고, 분간하는 것을 떠나 이미 피해자에게는 싯을 수 없는 상처와 프레임이 생기게 되죠. 지금 딥페이크 기술도 사람 눈으로 잘 구별하기 힘든데, 앞으로 더 좋은 기술들이 개발될 것이기 때문에, 이런 신종 딥페이크 몸캠 범죄가 발발할 거라 생각해요. 참 어렵네요..