딥페이크 뜻과 위험성에 대해

 

 

딥페이크란? 

 

SF영화를 보면 캐릭터들이 자신의 진짜 정체를 밝히지 않기 위해 다른 사람의 모습으로 홀로그램을 만들어 위장하는 연출이 종종 등장하곤 합니다. 이제, 이런 모습들이 더 이상 먼 미래의 모습이 아닙니다. AI를 이용해 다른 사람의 모습을 합성하여 영상을 만드는 것이 지금 이뤄지고 있기 때문입니다. 

 

딥페이크(DeepFake)는 다른 사람의 모습을 합성해 마치 그 사람인 것처럼 꾸며낼 수 있는 기술을 말합니다. 동영상속 인물의 얼굴, 신체를 다른 사람의 얼굴, 신체와 맞바꾼다고 생각하시면 쉽게 이해할 수 있습니다.

 

'로버트 다우어 주니어 주연의 <아이언맨>을 톰 크루즈가 주연했더라면 어땠을까'라는 생각을 해보신 적 있으신가요? 이런 물음에 '딥페이크' 기술은 대답합니다.

 

'가능합니다'. 

 

 

 

유튜브에 deepfake를 검색해보면 여러 가지 동영상들이 나옵니다. 딥페이크를 이용해 다른 사람의 모습을 동영상속에 합성해 마치 그 사람이 진짜 행동한 것처럼 만들어낼 수 있습니다. 

 

이제는 이런 기술이 멀리 있는 것이 아닙니다. 이제는 우리의 현실 곳곳에 있습니다. 이를 이용해 다양한 기술들이 개발되고 있고, 사용되고 있습니다. 물론, 아직 완벽하게 재현되어 있지 않습니다. 영상을 보다 보면 어딘가 모르게 부자연스러운 점이 발견됩니다. 그래도, 기술이 이렇게 발전했다는 사실이 정말 대단하게 느껴집니다. 

 

 

딥페이크의 시작

 

딥페이크의 시작은 2017년 레딧이라는 커뮤니티에서 시작되었다고 합니다. 외국의 유명 배우, 가수들의 얼굴을 음란영상에 합성한 것을 게시판에 올리면서 유명해지기 시작했습니다. 

 

딥페이크는 서로 다른 인물의 얼굴 사진을 인공지능이 학습을 하여 만들어낸다고 합니다. 수천 장의 사진을 학습하여 유사점을 찾아내어 최대한 그럴듯한 모습으로 만들어내는 것이죠. 일반적인 사용자들의 환경에서는 딥페이크 기술을 구현해내기 어렵습니다. 초고가의 그래픽카드를 갖춘 데스크톱을 통해 생성되기 때문입니다. 

 

그러나, 우리가 직접 이런 환경을 조성하지 않아도 대신해서 만들어주는 곳이 존재합니다. 우리가 일상에서 자주 사용하는 애플리케이션에서도 이런 기술을 구현해 사용자에게 제공하기도 합니다. face swap app이라고 검색을 하면 많은 수의 어플이 등장합니다. 이런 앱들은 나와 상대방의 얼굴을 바꿔주거나, 다른 사람의 모습을 동영상에 입혀주기도 합니다. 

 

 

 

중국의 zao가 사생활 침해의 문제를 낳는다는 우려가 제기되고 있다 - 출처 zao

 

 

문제점

 

많은 수의 딥페이크 영상이 주로 음란물 동영상이라고 합니다. 유명 연예인들의 모습과 음란물 속 등장인물들의 모습을 합성하여, 마치 특정 인물이 그런 영상을 찍은 것처럼 만들어져 사이트에 올라온다고 합니다. 또한, 특정 정치인의 모습을 합성하여 그 사람이 이상한 발언을 한 것처럼 꾸며내기도 합니다. 

 

이것은 외국에서만 일어나고 있는 일이 아닙니다. 우리나라에서도 자신의 지인의 모습을 선정적인 영상에 합성하여 해외사이트에 올린 20대가 구속되는 사건이 발생하기도 하였습니다. 

 

이는 사생활 침해와 함께 다른 사람의 일상까지 파괴할 수 있는 행위입니다. 돈벌이, 개인적인 원한에 의해 이런 일이 발생하곤 하는데 이와 관련해 대책이 필요하지 않나 생각합니다. 

 

딥페이크'로 지인얼굴 선정물과 합성해 해외에 올린 20대 구속

[출처: 중앙일보] '딥페이크'로 지인얼굴 선정물과 합성해 해외에 올린 20대 구속

 

 

 

앞으로 어떻게 될까?

 

기술의 발전이 우리에게 주는 이익이 분명하지만, 이로 인해 문제점도 나타나기 마련입니다. 딥페이크 기술도 좋은 곳에 쓰일 수 있지만, 나쁜 쪽에 악용하는 사례들이 나타나고 있습니다. 

 

이와 관련해 이용자들이 딥페이크 기술 사용으로 인해 나타날 수 있는 문제점에 대해 인지하고, 피해가 가지 않게 사용해야 될 것입니다. 또한, 관련 기술로 인해 피해가 발생할 경우 피해자를 도울 수 있는 사회적 안전망도 필요할 것 같습니다.