지난 6월 개최된 2020년 유로그래픽스 컨퍼런스에서 디즈니연구소는 일명 "딥페이크"기술을 적용시킨 메가 픽셀급 해상도의 영상을 공개했습니다. 해당 영상은 실제 배우가 연기한 것인지 분별하기 어려울 정도로 매우 섬세하고 자연스러워 많은 이들의 감탄을 자아내기도 했는데, 이로써 단순 오픈소스 단계에 불과했던 "딥페이크"기술이 이제는 컴퓨터 그래픽의 신기술로 자리매김하고 있음을 느낄 수 있었습니다.

​

딥페이크(Deepfake) 기술의 영상 편집 사례(출처 : 디즈니연구소)

​

이러한 흐름을 보면서 딥페이크(Deepfake) 영상은 이제 더는 가짜라고 치부하기엔 너무 진짜에 가까워진 것 같습니다. AI 기술의 발전으로 "딥러닝(Deeplearning)"기술이 두각되면서 컴퓨터는 더 똑똑한 연산을 해내기 시작했고, 이제는 단순 연산처리 뿐만이 아닌 특정 상황과 지식을 습득하여 자체적으로 해석하는 능력까지 갖추었다고 봐야겠지요. 해당 영상을 발표한 디즈니 연구소에서는 해당 기술을 다음과 같이 정의합니다.

소셜미디어 이해, 테스트 마이닝, 소비자 분석에서 시각적 컴퓨팅 및 컨텐츠 생성에 이르기까지 확률적 모델링과 딥 러닝의 조합을 사용하여 대규모 데이터 세트에서 숨겨진 구조를 찾기 위한 알고리즘의 연구

Disney Research, Machine Learning

딥페이크 기술의 알고리즘을 기반으로 AI는 각 순간순간 인물의 표정을 해석합니다. 해석된 인물의 표정은 수많은 이미지 데이터로 나열되어 필요에 따라 다른 이미지로 재해석되는데, 과거에는 이러한 연산 과정에서 발생하는 데이터 처리량이 어마어마 하기 때문에 실제로 구현되기가 무척 어려웠습니다. 하지만 데이터 처리에 효율적인 알고리즘의 발견과 AI 기술과 그래픽 하드웨어 발전을 기반으로 딥페이크 기술은 점점 현실화 되어왔고, 현재는 오픈소스를 이용하는 간단한 지식과 든든한 그래픽 HW사양만 있으면 누구든지 짤막한 영상 정도는 집에서도 만들 수 있는 시대가 되었죠. 과거 인물의 사진이나 영상을 조악하게 합성하던 시절에 비하면 정말 대단한 세상이 되었습니다.

​

High-Resolution Neural Face Swapping for Visual Effects(2020, Disney ResearchStudios) 알고리즘 사례.

​

해당 기술을 이용하여 영화, 애니메이션, 게임 등 각 미디어 산업의 비약적인 발전이 이루어질 것이라는 전망도 있는 반면, 딥페이크를 악용한 문제점 또한 양상될 것이라는 우려도 나오고 있는데, 대표적인 사례가 바로 "딥페이크 포르노" 입니다.

​

딥페이크 포르노 대상 나라에 한국이 3위로 랭킹 될 만큼 우리나라에서도 피해사례가 속출하고 있다.(출처 : Deeptrace)

​

네덜란드의 사이버 보안연구 회사인 딥트레이스(Deeptrace)의 발간 보고서에 의하면, 전 세계 딥페이크 영상의 90%이상이 포르노 영상이며, 특이 최근 K-POP의 열풍으로 인한 한국 여성 연예인에 대한 피해가 25%나 된다고 합니다. 대부분의 국가에서는 동영상 속의 몸은 해당 피해자의 것이 아니기 때문에 이를 강력히 제재할 수 있는 방법이 없다고 하나, 다행이도 우리나라에서는 '성폭력범죄의 처벌 등에 관한 특례법'으로 처벌 규정을 두고 있기 때문에, 적어도 우리나라에서는 딥페이크 포르노 제작 및 배포는 엄연한 범죄라고 볼 수 있습니다. 허나 포르노 장르 뿐만 아니라 정치, 경제 등에 걸쳐 무분별한 딥페이크 기술의 발전 가능성 만큼 피해 발생의 종류와 피해 규모 또한 무궁무진하기 때문에 이에 대한 법률적인 대안이 필요할 것으로 전망됩니다.

​

점차 비약적으로 제작되고 있는 딥페이크 영상 통계(출처 : Deeptrace)

​

지금까지 간단하게 딥페이크 기술과 위험성을 알아보았는데요, 부족한 글 끝까지 읽어주셔서 감사합니다.

다음 포스팅에는 더욱 알찬 내용으로 만나뵙겠습니다.

​