딥페이크 어플과 위험성

딥페이크 어플과 위험성

딥페이크 기술은 신기술이자 위험성이 노출되고 있다.

그리고 우리 사회에 보편화되고 파급력도 점차 커지고 있지만 순기능과 역기능도 나타나고 있어 앞으로 다가올 인공지능(AI)시대의 명과 암을 보여주고 있다.

인공지능시대가 사회를 빠른 속도로 바꿔놓을 것이라 예상되고 있어 오늘은 딥페이크에 대해서 한번 알아보도록 하겠다.

1.딥페이크(Deepfakes)란 무엇인가?

 ‘딥페이크’란 딥러닝(DEEP LEARNING:심층 기계학습)의 “딥(Deep)”과 가짜라는 의미의 '페이크(Fake)'가 합쳐진 용어로 인공지능(AI)기술을 활용해 기존에 있던 인물의 얼굴이나 특정한 부위를 합성해 만든 영상편집물을 의미한다.

 

2.딥페이크 역기능의 사례

 합성 수준이 워낙 뛰어나서 진짜인지 가짜인지 구분하기가 힘들 정도의 기술로 사람의 얼굴을 다른 사람으로 바꿔 가짜 뉴스를 생성하거나 정치적 혹은 선정적인 목적으로 악용하여 피해를 입은 연예들의 사례들이 매스콤을 통해 나오고 있다.

그래서 최근에는 '여성 연예인들을 고통받게 하는 불법 영상 딥페이크 처벌 해주세요'라는 제목의 청와대 국민청원 게시판에 올라오기도 하였다.

 

3.딥페이크 어플 및 웹사이트 소개

프로그래밍 지식이 없더라도 소프트웨어나 애플리케이션(앱), 웹사이트를 통해 영상을 조작할 수 있다. 틱톡에서 제공하는 `페이스스왑` 기능도 일종의 딥페이크로 볼 수 있다. 틱톡 사용자는 이 기능을 통해 다양한 각도에서 찍은 얼굴 사진을 다른 사람 몸에 추가해 공유할 수 있다. 사람들은 `딥페이스랩`이나 "페이크앱"처럼 딥페이크를 지원하는 무료 기반 소프트웨어를 인터넷에서 어렵지 않게 다운받을 수 있다.

"자오(Zao)" 같은 딥페이크 영상을 만들 수 있는 모바일 앱도 계속 늘어나는 추세다. "딥페이크웹"처럼 딥페이크 기능을 지원하는 웹사이트도 있어 누구나 쉽게 딥페이크 기능을 사용할 수 있다.

3-1. Reface (어플)

 

Reface: 움짤 및 비디오에 있는 얼굴을 내 얼굴로 바꾸기 - Google Play 앱

 Reface 어플은 갤러리에서 사진을 업로드하거나 스마트폰으로 셀카를 찍기만하면 앱이 얼굴을 감지해 선택한 GIF파일을 딥페이크해주는 어플이다.

 

3-2. FakeApp (웹사이트)

 FakeApp은 Reddit 사용자가 개발 한 인공 지능을 통해 동영상의 얼굴을 바꿀 수있는 마스크를 만들 수있는 프로그램이다.

 

FakeApp 2.2.0 - Download for PC Free

4.딥페이크의 역기능 막기 위한 처벌 규정은?
딥페이크의 역기능을 막기 위한 취지의 법안도 도입되어 '성폭력범죄의 처벌 등에 관한 특례법' 개정안에 딥페이크 관련 범죄에 대해 처벌하는 규정을 만들었다..
해당 법안에 따르면, 딥페이크를 이용해 얼굴·신체 등을 합성한 음란물을 제작·유포할 경우 5년 이하 징역 또는 5,000만원 이하 벌금형에 처해질 수 있으며, 특히 영리를 목적으로 딥페이크 음란물을 제작·유포한 범죄자는 7년 이하 징역으로 가중 처벌할 수 있도록 처벌 규정을 강화하였다.

인공지능(AI)과 같은 기술의 발달은 우리 생활에 편리함을 주기도 하지만, 딥페이크와 같이 기술을 악용하는 역기능 사례도 나타나고 있어 가짜 뉴스,가짜 영상 등에 대해 경각심을 가지는 자세가 무엇보다도 필요하다고 생각되어진다.