주메뉴바로가기 본문바로가기
메뉴열기

시사저널

AI, 이젠 포르노 감독까지 넘보다

AI가 만든 ‘원더우먼 포르노’ 美서 공개… “리벤지 포르노 늘어날 것”

공성윤 기자 ㅣ niceball@sisajournal.com | 승인 2017.12.13(Wed) 17:30:01

0
페이스북 트위터 카카오스토리 밴드 link


최근 미국 인터넷 커뮤니티 레딧에 한 포르노 영상이 올라왔다. 출연 배우의 얼굴은 영화 ‘원더우먼’의 히어로 갤 가돗과 완전히 똑같았다. 정말 그가 포르노에 출연한 것일까.

 

그렇지 않다. 해당 영상은 가짜다. AI(인공지능)가 기존의 포르노에 갤 가돗 얼굴을 합성한 것이다. 영상 속 갤 가돗의 얼굴은 몸과 자연스럽게 이어지지 않는다. 표정도 어색하다. 

 

그럼에도 미국 IT매체 마더보드는 12월12일(현지시각) “소름 돋는다(Terrifying)”고 묘사했다. 이 매체는 “자세히 보면 속지 않겠지만, 슬쩍 보면 그럴 듯하게 느껴진다”고 했다. 영상을 만들어 올린 사람은 ‘딥페이크(deepfakes)’란 아이디의 레딧 이용자다.

 

%uC601%uD654%20%27%uC6D0%uB354%uC6B0%uBA3C%27%uC758%20%uC8FC%uC5F0%uBC30%uC6B0%20%uAC24%20%uAC00%uB3D7%28%uC67C%uCABD%29%uACFC%2C%20%uBBF8%uAD6D%20%uC778%uD130%uB137%20%uCEE4%uBBA4%uB2C8%uD2F0%20%uB808%uB527%uC5D0%20%uC62C%uB77C%uC628%20%uAC00%uC9DC%20%uD3EC%uB974%uB178%uC758%20%uD55C%20%uC7A5%uBA74%28%uC624%uB978%uCABD%29.%20%A9%20motherboard.vice

 

‘원더우먼’ 나온 가짜 포르노… “소름 돋는다”

 

딥페이크는 마더보드에 “나는 전문 연구가가 아니라 그저 기계 학습에 관심 있는 프로그래머에 불과하다”고 말했다. 그는 영상을 만들기 위해 먼저 인터넷에서 갤 가돗이 나온 사진과 비디오를 모았다고 했다. 이렇게 모은 자료를 구글의 머신 러닝 소프트웨어인 ‘텐서플로(TensorFlow)’에 입력시켰다.

 

텐서플로는 스스로 데이터를 분석하고 그 속의 패턴을 예측할 수 있다고 한다. 구글이 누구나 쓸 수 있도록 공개한 상태다. 텐서플로는 갤 가돗 얼굴의 일정한 패턴을 찾아냈고, 이를 포르노 영상에 적용했다. 가짜 포르노는 그렇게 탄생했다.

 

마더보드는 “아마추어 프로그래머가 자신이 싫어하는 사람의 성관계 영상을 만드는 걸 어렵지 않게 생각해볼 수 있다”고 했다. 자료는 충분하다. 구글 포토서비스엔 지난 한 해 동안 약 240억 장의 셀카 사진이 올라왔다. 영상과 움직이는 이미지 등은 16억 개에 달한다. 실제 딥페이크는 갤 가돗 외에도 스칼렛 요한슨, 테일러 스위프트 등 할리우드 배우들의 사진으로 포르노를 만들었다고 했다. 

 

%A9%20%uC0AC%uC9C4%3DPixabay


 

사진 있으면 누구나 제작 가능… “리벤지 포르노 늘어날 것”

 

이미 걱정하는 목소리가 나온다. 런던대학교 컴퓨터공학과 케이트 데블린 부교수는 12월12일 미국 IT매체 더 버지에 “가짜 뉴스와 리벤지 포르노(보복을 목적으로 유포한 음란물)가 늘어날 것”이라고 내다봤다.

 

법적 논란도 예상할 수 있다. 공학박사 출신의 최규호 변호사는 “국내에선 배우의 얼굴을 포르노에 합성했다면 초상권 침해에 해당된다”면서 “배우의 사진은 저작권이 있는 경우가 많아 무단으로 사용하면 형사처벌도 가능하다”고 말했다. 또 “명예훼손이 성립될 소지도 있다”고 덧붙였다.

 

 

음성까지 따라하는 AI… “기술 막는 건 불가능”

 

이번에 만들어진 갤 가돗의 가짜 포르노는 그녀의 음성까지는 따라하지 못했다. 하지만 AI는 이마저도 가능하게 할 것으로 예상된다. 10월16일 국내 게임제작사 데브시스터즈의 김태훈 개발자는 머신 러닝 기술을 통해 만든 음성 합성 엔진을 공개한 바 있다. 당시 엔진은 문재인 대통령과 손석희 앵커 등 사람의 목소리를 거의 비슷하게 흉내 냈다. 

 

만약 음성 합성 엔진으로 갤 가돗의 목소리를 복사해 포르노에 적용했다면? 진짜 같은 가짜가 나올 수 있을 거란 짐작을 쉽게 할 수 있다. 김태훈 개발자는 “기술의 발전에는 자연스럽게 부작용이 따른다”면서 “이는 사회 모두가 함께 풀어나가야 할 문제”라고 했다. 가짜 포르노의 제작자 딥페이크는 “모든 기술은 나쁜 동기로 쓰일 수 있고, 이를 막는 건 불가능하다”고 주장했다. 고민해야 할 지점이다.​ 

 

전체댓글0

0 /150
  • 최신글
  • 공감 순
  • 비공감 순
더보기

TOP STORIES

국제 2018.09.19 Wed
중국 ‘현대판 실크로드’ 성패의 갈림길 서다
한반도 2018.09.19 Wed
‘비핵화’ 지겹도록 말해도 강조해야 하는 이유
사회 2018.09.18 Tue
황교익
Health > LIFE 2018.09.18 Tue
경기도의료원, 최초로 수술실 CCTV 운용
사회 2018.09.18 Tue
[단독] 학교 해외여행, 최근 3년간 수백만원대 高비용만 300건 넘어
한반도 2018.09.18 Tue
[포토뉴스] 남북정상 첫 무개차 카퍼레이드
Culture > LIFE > 지역 > 영남 2018.09.18 Tue
[단독] 내년 부산국제영화제선 북한 배우·감독 볼 수 있을 듯
경제 2018.09.18 Tue
신장섭 “재벌이 萬惡이라는 경제민주화, 잘못됐다”
한반도 > 갤러리 > 포토뉴스 2018.09.18 Tue
[포토뉴스] 평양에 발 내딛은 문재인 대통령과 김정숙 여사
OPINION 2018.09.18 화
[시론] 가을 - 비엔날레의 계절
연재 > 이원혁의 ‘역사의 데자뷰’ 2018.09.18 화
일제 강점기에 근대화 이뤄졌다고? 박람회 역사가 그 답을 알고 있다
한반도 2018.09.18 화
평양 찾은 文 대통령…울음 터뜨린 北 주민과 악수
한반도 > LIFE 2018.09.18 화
외신 “남북 정상회담은 북·미 회담용 리트머스”
LIFE > Culture 2018.09.18 화
[동영상] 바다, ‘2018 쉘위워크’서 ‘역대급’ 공연 예고!
사회 2018.09.18 화
[2018 누가 한국을 움직이는가⑤] JTBC 독주 누가 막을까
사회 2018.09.18 화
[2018 누가 한국을 움직이는가⑥] 손석희, 14년째 언론인 1위
사회 2018.09.18 화
[2018 누가 한국을 움직이는가⑦] 손석희 “미투운동 선도, 가장 기억에 남아”
경제 > 한반도 2018.09.17 월
‘親중소기업’ 표방 文정부, 방북단은 ‘대기업’ 위주
정치 2018.09.17 월
‘미래도 미래지만…’ 靑 경제고민 현실 드러낸 방북단
연재 > 노혜경의 시시한 페미니즘 2018.09.17 월
[노혜경의 시시한 페미니즘] 사랑하니까 반대합니다
LIFE > Health 2018.09.17 월
바람만 스쳐도 고통스런 통풍···‘치맥’을 버려라
리스트 더보기