AI가 만든 진짜 같은 가짜 영상 : 딥페이크

 

딥 페이크(deepfake)에 정의는 다음과 같습니다.

 

딥페이크(deepfake, 딥 러닝(deep lerning)과 가짜(fake)의 혼성어)는 인공 지능을 기반으로 한 인간 이미지 합성 기술이다. 생성적 적대 신경망(GAN)라는 기계 학습 기술을 사용하여, 기존의 사진이나 영상을 원본이 되는 사진이나 영상에 겹쳐서 만들어낸다. 이런 기능 때문에, 유명인의 가짜 뉴스나 악의적 사기를 만드는데도 사용될 수 있다

 

출처 : https://ko.wikipedia.org/wiki/%EB%94%A5%ED%8E%98%EC%9D%B4%ED%81%AC

딥페이크 - 위키백과, 우리 모두의 백과사전

 

최근 딥페이크를 악용한 사례는 다음과 같습니다. 

 

이 두 영상은 미국의 부패 감시 시민단체 ‘리프레젠트어스(Represent US)’가 대선 투표 독려 광로로 제작했습니다. ‘리프레젠트어스’는 지난 9월29일(현지시간) 영상을 게재했습니다. 

 

이 영상은 14일 오후 1시 현재 37만7000여 명이 시청했고, 1만6000여 명이 추천을 눌렀습니다. 간접투표이기는 하지만 미국 대선 투표에 적극 참여하라는 것입니다. 

 

Deepfake Dictators 캠페인의 배후 조직은 이것이 가짜 비디오라는 사실을 숨기지 않았습니다.

---

 

딥페이크의 문제

대부분의 사람들은 당신이 보는 모든 것을 믿을 수 없다는 것을 알고 있습니다. 지난 수십 년 동안 정통한 뉴스 소비자들은 사진 편집 소프트웨어로 조작된 이미지를 보는 데 익숙해졌습니다. 하지만 비디오는 또 다른 이야기입니다. 할리우드 감독은 현실적인 장면을 만들기 위해 특수 효과에 수백만 달러를 지출할 수 있습니다. 그러나 딥 페이크를 사용하면 수천 달러의 컴퓨터 장비를 보유한 아마추어와 몇 주를 소비하면 거의 삶에 가까운 것을 만들 수 있습니다.

 

Deepfakes는 정치 지도자가 한 번도 말하지 않은 내용을 말하는 비디오를 만드는 데 사용할 수도 있습니다. 벨기에 사회 당은 트럼프 대통령이 벨기에를 모욕하는 저품질 비디 페이크 영상을 공개했는데, 이는 고품질 딥 페이크의 잠재적 위험을 보여줄 만큼 충분한 반응을 얻었습니다.

 

이러한 위험을 감안할 때 딥 페이크를 감지하고 명확하게 레이블을 지정할 수 있는 것은 매우 중요합니다. 이렇게 하면 가짜 동영상이 대중을 속이지 않고 실제 동영상이 진품으로 수신될 수 있습니다.

 

누가 딥 페이크 탐지기를 사용해야 합니까?

이상적으로는 모든 사람이 딥 페이크 검증 도구를 사용할 수 있어야 합니다. 그러나 이 기술은 개발 초기 단계에 있습니다. 연구원은 도구를 광범위하게 공개하기 전에 도구를 개선하고 해커로부터 보호해야 합니다.

 

하지만 동시에 대중을 속이려는 모든 사람이 딥 페이크를 만드는 도구를 사용할 수 있습니다. 옆에 앉는 것은 선택 사항이 아닙니다. 우리 팀에게 올바른 균형은 언론인과 협력하는 것이었습니다. 언론인은 잘못된 정보의 확산에 대한 첫 번째 방어선이기 때문입니다.

 

기사를 게시하기 전에 언론인은 정보를 확인해야 합니다. 그들은 이미 출처를 확인하고 한 명 이상의 사람이 주요 사실을 확인하도록 하는 것과 같은 검증된 방법을 가지고 있습니다. 따라서 도구를 그들의 손에 맡김으로써 우리는 그들에게 더 많은 정보를 제공하고 그들이 실수를 할 수 있다는 점을 감안할 때 기술에만 의존하지 않을 것임을 압니다.