AI기술의 악용 사례 女 아이돌/연예인 딥페이크(Deep fake)

불과 5년전만 해도 인공지능 기술이 한참 시작되고있었지요.

어느순간 딥러닝(Deep Learning)이 개발되고

인공지능(Artificial Intelligent)의 기술이 향상되었습니다.

딥페이크(Deep fake)​

들어보셨습니까?

딥페이크는 인공지능을 이용하여

기존에 있었던 인물의 얼굴 또는 특정 부위를 변형시키는

컴퓨터그래픽(CG, Computer Graphic) 기술 중 하나입니다.

​

기존 얼굴 합성과는 큰 차이가 있습니다.

표정까지 인공지능이 잡아내어 세밀한 합성이 가능합니다.

기존 얼굴 합성은 그냥 이미지를 붙여놓는 행위에서 끝나지만,

딥페이크 기술을 이용하면 표정이나 행위의 변화까지도

세세하게 처리할 수 있습니다.

​

잘 이해가 안가시죠?

https://www.youtube.com/watch?v=dV2q3ncXuRM&feature=youtu.be

 

이 영상은 힐러리의 얼굴에 도널드 트럼프 미국 대통령의

얼굴을 딥페이크 한 영상입니다.

고개를 돌렸을땐 약간의 부자연스러운 모습이 있지만,

정면에서보면 눈표정, 입 모양까지도 세밀하게 변화시키는 것을 보실 수 있습니다.

딥페이크 포르노에 사용되다.

그런데 문제는

이 딥페이크 기술을 포르노에 적용시켜서

여자 아이돌 또는 연예인들을 합성하여

새로운 포르노를 만든다는 것입니다.

​

딥페이크로 포르노를 만드는 행위는

본격적으로 2017년부터 시작했습니다.

미국에서 유명한 연예인을 포르노와 합성시켜

성인물을 만들어낸 사건이였습니다.

문제는 대상이 연예인이나 아이돌 뿐만아니라

일반인들의 얼굴도 충분히 딥페이크 기술로 합성이 가능하다는 점입니다.

 

딥페이크 국내 이슈

딥페이크기술 악용사례는 국내에서 최근에 나타나기시작했습니다.

2019년 부터 유명 여자 아이돌 문제와,

그리고 최근에 텔레그램n번방 사건으로 인해 수면위로 들어났는데요.

패턴은 똑같습니다.

유명 여자 아이돌/연예인 등의 인물을

포르노, 성인 비디오(AV)에 합성하여

텔레그램에서 비밀리에 공유하는 이른바 성인 딥페이크물 전용 텔레그램 비밀방이

경찰 수사로 이어졌습니다.

​

마찬가지로 다양한 채팅방이 있었는데,

인원이 가장많은 방은 500여개의 성인 딥페이크물이 올라와있었고,

이 방의 이름에는 Ver.4가 붙어서

그동안 폭파하고, 재결성했던 흔적들이 있었습니다.

조주빈이 검거되는 시점인 16일에

3번째 방에 해당하는 Ver.3 방이 있었는데,

이 방은 약 9개월간 유지되었었다고 합니다.

​

여자 아이돌/연예인 딥페이크 성인물을 막을순 없을까?

크게 두가지 방법이 있습니다.

하나는 지금처럼 계속 IP와 정황을 추적하여 접근하는방법

그러나 이 방법은 많은 인력들을 요구합니다.

​

두번째 방법은 기술을 기술로 막는 방법입니다.

바로 딥페이크 방지 블록체인입니다.

​

대부분이 블록체인을 생각하면 암호화폐나 비트코인을 생각하시는데,

사실 블록체인의 본질 기술을 잘 활용하면

이미지나 문서 그리고 그걸 넘어서 가짜뉴스까지

보호할 수 있는 강력한 보안 시스템을 탄생시킬 수 있습니다.

블록체인 금융분야 예시

해외 시장조사기관 가트너(Gatner)에 의하면

미국 DARPA는 50만건 이상의 기사와 사진, 동영성, 음성 파일에

숨겨진 가짜뉴스를 가려내기위한 블록체인이 탑재된 소프트웨어 개발을

수행하였고, 10월에는 페이스북이 딥페이크 비디오 탐지 툴 개발을 위한

산업 단체를 구성하였다고합니다.

​

이 연구가 성공한다면

딥페이크 음란물 뿐만아니라, 이미지나 동영상, 문서 저작권까지도

모두 다 블록체인으로 해결 할 수 있습니다.

​

#딥페이크 #DEEPFAKE #텔레그램 #텔레그램n번방사건 #블록체인 #여자아이돌 #여자연예인 #텔레그램딥페이크 #n번방 #텔레그램범죄