[IT 키워드] 딥페이크란?

딥페이크란?

1️⃣ 개념 

인공지능 기술을 사용하여 생성된 가짜 비디오, 사진 또는 음성

딥페이크를 생성하는 대표적인 딥 러닝 알고리즘은 GAN

GAN은 정답값이 주어지는 지도학습이 아닌, 입력값으로부터 데이터의 특징을 찾아내도록 하는

비지도 학습 모델이다.

엔비디아에서 사람 얼굴 이미지 생성에서 높은 품질을 보이는 StyleGAN을 공개하였고

이후 이 StyleGAN을 통해 기존 GAN 모델들보다 더욱 안정적이고 향상된 품질의 얼굴 이미지를 생성할 수 있게 되었다.

2️⃣ 장점

1) 창의적인 예술 및 엔터테인먼트

 딥페이크는 영화나 TV 쇼에서 배우의 얼굴을 교체하거나 과거의 명배우와 신배우를 합성하는 등의 예술적인 목적으로 활용될 수 있습니다. 이를 통해 엔터테인먼트 산업에 새로운 창조적 요소를 제공할 수 있다.

2) 연구 및 교육

딥페이크 기술은 기계 학습 및 딥러닝 연구에 활용될 수 있습니다. 이를 통해 학자들은 새로운 알고리즘과 모델을 개발하고, 이를 기반으로 보다 진보된 인공지능 기술을 구축할 수 있습니다. 또한, 딥페이크는 보안 및 사이버 보안 교육에 활용될 수 있어 실제 사례와 공격 기법을 이해하는 데 도움을 줄 수 있다.

(개인 프로젝트 경험 - 코로나로 인해 얼굴인식이 어려울때 마스크로 가려진 얼굴 복원)

 

3️⃣ 단점

1) 정치적 악용 사례

딥 페이크 콘텐츠가 종종 선거나 가짜 뉴스 유포 등에 사용되는 정치적 악용 사례

2) 딥 페이크 성착취물 

실례로 국내 약 100여명의 연예인 얼굴을 음란물과 합성하여 제작한 딥 페이크 성착취물이 딥 페이크 성착취물

해외에 서버를 둔 웹 사이트에서 유포되는 사건

3)개인 정보 보호 문제

‘n번방’사건과 같이 점점 일반인 피해자도 늘어나고 있는 실정

특히, 전 세계 사회 관계망 서비스에 공개된 수많은 사진 및 영상들이 범죄에 악용될 소지가 높기 때문

4) 신뢰 문제

딥페이크 기술은 영상 및 음성의 신뢰성을 훼손할 수 있습니다. 딥페이크로 생성된 영상이나

 

4️⃣ 해결방안

1) 딥 페이크 탐지를 위해 인공지능 기술을 적용하는 연구

이미지 데이터 학습에 강력한 성능을 보이는 CNN이용하여

진짜와 가짜 영상 속의 얼굴 특징을 추출하고, 이를 학습함으로써 딥 페이크를 탐지

2) 딥 페이크 범죄율을 감소시키기 위해서는 정책적인 대책 마련

국회는 딥 페이크 음란물 유포 범죄에 대해 최고 징역 7년에 처할 수 있도록 법을 개정함

그동안 딥 페이크 성범죄는 현행법상 성폭력으로 인정되지 않았기 때문에

정보통신망법상 명예훼손 및 음란물 제작 등의 혐의만 적용되었었다.

 

5️⃣ 활용 사례

1) 의류 소매업체

고객들이 옷을 가상으로 입어볼 수 있도록 하도록 딥페이크 기술을 활용

2) 의료영상데이터 증강

딥페이크 의료영상을 개발하였습니다. 원본 영상과 유사한 의료영상을 통해 인공지능이 질병을 학습하고 정확히 진단할 수 있도록 학습시킨 후 이를 통해 CT, MRI, X선이미지를 분석해 암의 징후와 이상신호를 탐지하는 데 도움을 주고 있습니다. 

3) 범죄 피해자의 재현

신원보호가 필요한 피해자들의 모습을 딥페이크로 재현함으로써 익명성을 보장하면서도 시청자들에게 그들의 감정을 생생하게 전달할 수 있었습니다

6️⃣ 관련 뉴스

[초거대 AI 혁명-②] "가짜뉴스·딥페이크 막아라"… 윤리문제 '도마 위'

(https://biz.newdaily.co.kr/site/data/html/2023/05/25/2023052500075.html)