딥페이크 사기 - 눈에 보이는 것을 믿지 마라

홍콩에서 딥페이크를 이용한 화상회의를 통해 마치 실제 인물들이 회의를 하는 것처럼 속이고 수백 억 원을 사기한 범죄가 발생하여 사람들을 놀라게 하였습니다. 얼마 전에는 팝스타 테일러스위프트의 딥페이크 음란물이 유통되기도 하였습니다. 케이팝 스타를 상대로 한 딥 페이크 음란영상이 문제 된 것도 벌써 수년 전입니다. 

 

AI기술이 발달하면서 예상과 우려가 되었던 것이 하나씩 현실이 되고 있는 것입니다. 

 

https://www.aitimes.com/news/articleView.html?idxno=157027

홍콩서 '딥페이크 화상회의' 340억 사기 발생..."참가자 외모·목소리 실제와 똑같아" - AI타임스

 

이번 사기사건에 있어 사기꾼들은 한 다국적 금융기업의 홍콩지사 직원에게 본사 CFO명의로 거액을 비밀리에 이체하도록 지시하는 이메일을 보냈다고 합니다. 처음에는 피싱메일로 의심한 이 직원은 관련회의가 화상으로 열리자 여기에 참여하였는데 이 회의에서도 같은 지시를 받았습니다. 화상회의 참석자들이 모두 자신이 아는 동료와 상사 등이었고 목소리 마저 똑같아 인공지능으로 만든 가짜 페이크 회의인 줄  꿈에도 의심하지 않았던 그는 지시에 따라 5개의 홍콩 은행계좌로 2억 홍콩달러를 15번에 걸쳐 이체하였고 그동안 메신저와 화상통화 등을 통해 소통하였던 그는 일주일 뒤 본사에 확인한 뒤에서야 가짜 화상회의로 사기를 당했다는 사실을 알게 되었다고 합니다. 

 

딥페이크를 악용하는 사기행각은 이번 뿐만 아닙니다. 사진과 영상, 목소리까지 실물과 동일하게 만들어내는 딥페이크( Deep fake  :  딥러닝(Deep learning)과 가짜(Fake)의 합성어) 범죄가 늘고 있고 정치나 국가간 분쟁에도 악용되는 사례가 발생하고 있어 딥페이크를 막아내는 일이 보안업계의 발등의 불이 떨어졌습니다.  

 

국내에서도 이미 이러한 딥페이크와 생성형 AI를 악용하는 정보범죄에 대응하기 위한 연구와 노력이 IT보안업체를 중심으로 활발히 진행되고 있습니다. 삼성 SDS의 사내 벤처인 팀나인은 주파수기반으로 딥페이크로 만들어진 가짜 이미지와 영상을 판별하는 기술을 개발하고 있다고 합니다. 

 

 

딥페이크 범죄 예방 대책

1. 기술적인 대응:
   • 디지털 서명 및 인증 기술 강화: 딥페이크를 탐지하고 원본을 인증하는 기술을 개발하고 적용해야 합니다. 딥페이크 생성에 사용되는 모델의 디지털 서명을 생성하여 인증하는 방법을 통해 딥페이크의 원본을 식별할 수 있습니다.
   • AI 기술 개발: 딥페이크를 생성하는 기술보다 더 강력한 딥페이크 탐지 기술을 개발해야 합니다. 예를 들어, 딥러닝 및 기계 학습 기술을 사용하여 딥페이크를 탐지하고 분류하는 시스템을 구축할 수 있습니다.
   • 데이터 출처 확인: 미디어의 출처를 확인하고 신뢰할 수 있는 출처에서 가져온 데이터를 사용하여 딥페이크를 생성하는 방법을 방지할 수 있습니다.
2. 사회적 대응:
   • 디지털 리터러시 강화: 개인 및 기업은 딥페이크와 같은 디지털 조작에 대해 보다 경각심을 가지고 디지털 리터러시를 강화해야 합니다. 사람들이 딥페이크를 인식하고 거짓 정보를 식별하는 능력을 키우는 교육이 필요합니다.
   • 의식 개선: 인터넷 및 소셜 미디어 사용자들은 딥페이크의 존재와 위험성에 대해 보다 인식하고, 의심스러운 콘텐츠를 확인하기 위해 더욱 주의를 기울여야 합니다.
   • 신뢰할 수 있는 정보원 활용: 신뢰할 수 있는 뉴스 소스 및 정보 제공자를 사용하여 소셜 미디어에서 정보를 확인하는 것이 중요합니다. 미디어 그램파에서 정보를 받아들이기 전에 충분한 검증을 거쳐야 합니다.

딥페이크 범죄 피해를 막기 위한 개인 주의사항 

• 의심스러운 콘텐츠 확인: 인터넷에서 이상한 콘텐츠를 발견하면 출처를 확인하고 신뢰할 만한 소스인지 확인해야 합니다.
• 비디오 및 사진 공유 시 주의: 자신의 얼굴이나 목소리를 사용하는 콘텐츠를 공유할 때 주의하세요. 사진이나 비디오를 올리기 전에 가능한한 출처를 확인하세요.
• 디지털 프라이버시 유지: 딥페이크를 통해 개인적인 정보가 유출되는 것을 방지하기 위해 디지털 프라이버시에 대해 주의하세요. 개인 정보를 온라인에 공유할 때 각별한 주의를 기울여야 합니다. 

 

가짜와 진짜를 분간하기 힘든 세상입니다. 특히 이미지와 영상, 온라인을 통해 전달되는 정보들은 그것이 사실인지 아니면 거짓으로 만들어진 것인지 눈을 부릅떠도 분간하기가 힘듭니다. 기술의 발달이 진짜보다 더 진짜 같은 가짜를 만들어내는 세상이니 의심스러우면 확인하고 또 확인하여야 뜻하지 않은 피해를 입지 않게 됩니다. 

 

하루 빨리 딥페이크와 사이버 범죄를 예방할 수 있는 유용한 기술이 개발되었으면 하는 바람입니다.