최근 눈에 띄게 발전한 딥페이크 기술이 다양한 산업에 활용되는 반면,

범죄에 악용되는 사례도 빈번히 발생하고 있는데요.

딥페이크 기술의 양면성과 이로 인해 야기되는 AI 보안 위협, 함께 알아볼까요?
‍

1/ 딥페이크 기술, 생산성 증가를 위한 선한 활용은 순기능

‍

딥페이크(Deepfake)란 딥러닝(Deep learning)과 페이크(fake)의 합성어로, 인공지능(AI) 기술을 활용해 특정 인물의 얼굴, 신체 등을 원하는 영상에 합성한 편집물을 의미합니다.

_{*딥러닝: 컴퓨터가 스스로 외부 데이터를 조합, 분석하여 학습하는 기술}

‍

‍

인공지능 기술의 발전으로 실제 딥페이크 기술을 통해 제작한 결과물 또한 매우 정교한 것이 특징인데요, 딥페이크를 소재로 만든 한국영화 <마인드 유니버스>에서는 이 기술로 주연 캐릭터를 구현하기도 했습니다. 피아노를 연주하는 씬을 제외하고 98%를 딥페이크로 구현해 화제가 되었죠. 이처럼 CG에 비해 상대적으로 경제적 부담이 적고 기술적으로 간단해, 영화 뿐만 아니라 다양한 산업에서 활용되고 있습니다.

​

👇 AI 딥페이크 기술 주요 활용처

✅ 영상 제작

- 새로운 인물을 창조하거나, 특수효과로 배우의 과거를 재현할 수 있어요.

└ 넷플릭스 영화 <아이리시맨을 말하다>에서는 딥페이크 기술로 주연 배우의 과거 모습을 재현했어요.

​

✅ 의료 분야

- CT, MRI, X선 등 영상 의학 자료를 분석하여 암을 진단할 수 있어요.

└ 2019년 독일 뤼벡대 의료정보학연구소는 ‘암을 진단하는 인공지능 관련 논문’에서 X선에 딥페이크 기술을 활용했다고 밝혔어요.

​

✅ 교육 분야

- 역사적 인물을 복원하는 등 시청각 교육 자료를 만들어낼 수 있어요.

└ 국내 스타트업인 라이언로켓은 안중근 의사의 서거 111주년을 기념하여, 유언을 낭독하는 영상을 딥페이크 기술로 구현했어요

‍

2/ 딥페이크 기술의 역기능, AI 보안 위협 5가지

‍

최근 오픈 소스 형태의 제작 프로그램이 배포되고 누구나 딥페이크 기술을 활용할 수 있게 되면서, 이 기술을 악용한 AI 보안 위협도 다수 발생했는데요. 어떤 보안 위협이 발생했는지 함께 살펴볼까요?

​

✅ BEC(Business Email Compromise) 공격

- 비즈니스 이메일, 업무 전화, 화상회의 등으로 특정 대상을 사칭해 금전을 탈취하는 것이 특징이에요.

- 사람의 심리를 이용하는 사회공학적 공격이기 때문에 보안 교육 외에는 명확한 방어책이 없어요.

‍

✅ 온라인 취업 사기

- 온라인 면접에서 신분을 위장한 해커가 채용 담당자를 속일 수 있어요.

- 해커가 취업에 성공하게 되면, 기업의 주요 정보에 접근할 수 있는 권한을 얻게 돼요.

‍

✅ 생체 인증 우회

- 개인의 고유한 외모나 목소리를 모방해 금융, 보험 사기에 악용할 수도 있어요.

- PAD(Presentation Attack Detection) 기술이 적용된 인증 시스템을 활용하면 어느 정도 방어가 가능해요.

_{* PAD는 머신러닝을 이용하여 영상 속의 사람이 실제 사람인지, 또는 딥페이크 소프트웨어를 사용하고 있는지 탐지합니다.}

‍

✅ 금융 범죄

- 기업의 CEO나 재정 관련 결정권자를 모방해 거짓 지시를 내릴 수 있어요.

- 딥페이크 기술을 활용한 첫 번째 금융 범죄는 2019년 처음 발생했는데요, 피해 기업은 22만 유로의 손해를 잃을 뻔했으나, 다행히 보험사를 통해 보장을 받았다고 합니다.

‍

‍

✅ 성적 허위 영상물 생성 및 유포

- 유명인이나 개인의 얼굴을 무단 도용해 만든 성적 허위 영상물이 배포될 수 있어요.

- 불법 성적 허위 영상물에 대한 시정 요구는 2020년 6월부터 2023년 8월까지 총 9천6건으로 집계됐지만, 삭제된 케이스는 5%에도 미치지 못하는 실정입니다.

‍

3/ 딥페이크 기술, 악용되는 사례를 대비해 보안 대책은?

여러 산업에 유용하게 쓰이는 기술이지만, 금융 범죄나 사회공학적 공격 등에 활용되어 곳곳에서 사회적 문제를 야기하고 있는데요. 딥페이크 기술의 위험성을 인지하고, 경각심을 가져야 합니다. 또한, 딥페이크 기술은 누구나 사용할 수 있게 오픈 소스로 공개되었기 때문에, 이에 대한 심각성을 인지하고 보안 대책을 마련할 필요가 있습니다.

​

그럼, 기업 차원에서 마련해야 할 보안 대책은 무엇이 있을까요?

​

✅ 내부 임직원 및 외부 고객 대상 교육 실시

- 딥페이크 기술이 악용될 수 있는 사례들을 소개하여 경각심을 높이고, 디지털 매체를 통해 유입된 영상물에 대한 ‘의심의 문화’를 만들어야 합니다. 이를 위해 정기적인 인식 제고 교육을 실시하는 것이 좋습니다.

​

✅ 인증 절차 강화

- 딥페이크 보안 위협의 피해자가 외부로 정보를 유출하거나, 돈을 송금하는 등의 행동을 예방할 수 있도록 인증 절차를 강화하면 좋습니다.

​

✅ 보안 인프라 구축

- AI 서비스를 활용한다면 탄탄한 보안 인프라를 구축하고 운영해야 합니다. 기업 보안 솔루션을 통해 주기적으로 취약점을 점검하고 제거하는 등 각별한 주의가 필요합니다.

​

딥페이크 기술과 AI 보안 위협에 대한 자세한 내용은 지난 EQST insight에서 확인해 보세요! 👀

​

👉 딥페이크 기술 EQST insight에서 자세히 보기! (클릭)

​

[콘텐츠 내용 출처]

- EQST insight 22년 7월호

- KCA 한국방송통신전파진흥원 2019 트렌드리포트, 딥페이크 기술의 빛과 그림자

- 네이버 지식백과 시사상식사전, 딥페이크

- 알지 미디어, ‘마인드 유니버스’ 리뷰… 한국 최초 딥페이크로 주연 캐릭터 만든 영화

- 차세대융합기술연구원, 인공지능을 활용한 딥페이크 기술의 뜻과 활용 분야

- 보안뉴스, 딥페이크 기술 사용한 첫 사기 사건 발생했다

- 보안뉴스, 금융 산업을 딥페이크로부터 보호하기 위한 전략

- 연합뉴스, “딥페이크 성적 허위 영상 심의 9천 건 넘는데…삭제는 5%도 안 돼”

- 경향신문, 실제같은 가짜 '딥페이크'의 세계 완전해부...AI 세상의 새로운 게임체인저?

‍

‍

지금까지 딥페이크 기술의 양면성에 대해서 알아보았는데요.

기술 발전에 따라 고도화되는 보안 위협에 주의하고 대응하시길 바라겠습니다. 😊

​

‍