인공지능 딥페이크 340억 사기 이제 회사도 속는다

딥페이크

딥페이크 설명

딥페이크(Deepfake)는 '딥러닝(Deep Learning)'과 '페이크(Fake)'의 합성어로, 인공지능 기술을 활용하여 사람의 얼굴, 목소리, 행동 등을 매우 정교하게 조작하는 기술을 말합니다. 기계학습 알고리즘을 사용하여 실제와 구분하기 어려운 가짜 이미지, 오디오, 비디오를 생성하는데 조악하게 합성하던 과거와 달리 디지털 기술과 인공지능의 발전으로 아주 정교해지고 있습니다. 

딥페이크는 본래 영상의 제작이나 편집을 유용하게 하기 위해 생겨난 기술입니다. 다양한 특수 효과나 역사적 인물의 재현, 자료의 복원과 법의학적 조사에서의 활용 등을 기대하였으나 딥페이크 기술을 활용한 어두운 측면이 강조되어 도용, 사기와 같은 부정적인 이미지가 생겨났습니다.

 

다양한 사기 행각

 

딥페이크를 악용한 사기 수법으로 작게는 일반인을 사칭하여 지인이나 가족에게 전화(영상통화)를 통한 보이스피싱, 연예인 이미지를 활용한 부적절한 영상 배포 등이 있으나 최근에는 사기의 규모가 커지고 다양해지고 있습니다.

 

국내에선 23년 12월 말부터 연예인 '조인성', '송혜교' 딥페이크 영상을 활용한 투자 사기 수법으로 온라인이 뜨거웠습니다.

인지도 높은 유명 연예인 영상을 인공지능으로 조작해 특정 재단의 홍보영상으로 활용하여 투자를 유도한 것입니다.

투자 권유에 긴가민가 하던 사람들도 연예인의 영상에 깜빡 속아 넘어갔습니다. SNS를 통해 번지며 모바일로 영상을 확인하다보니 약간의 어색한 부분을 알아채기 어려웠다고 합니다. 연예인의 경우 다양한 사진과 영상을 촬영하는 직업 특성상 도용이 일어나기 쉽습니다.

 

실제 사건과는 연관없는 가상의 이미지 입니다

 

심지어 최근 해외의 한 금융회사 직원이 딥페이크로 조작된 가짜 CFO(최고재무책임자)와의 영상회의에 속아 거액의 사기를 당한 사건이 발생했습니다. 사기꾼 일당은 CFO는 물론 화상회의에 참석한 다른 직원들의 얼굴도 딥페이크로 재현하여 피해직원을 감쪽같이 속였다고 합니다. 총 피해 금액은 2억 홍콩달러로 한화 약 340억 규모입니다. 

처음 CFO를 사칭하는 이메일로 연락이 왔고, 해당 직원도 당연히 피싱이라 의심했으나 여러 동료들과 CFO가 참여한 화상회의에서도 이메일과 같은 내용을 지시받았기에 의심을 거두었다고 합니다. 직원은 회의에서의 지시에 따라 2억 홍콩달러를 15번 나눠 이체하였고 일주일 뒤 회사 본사에 확인하다 사기임을 알아챘다고 합니다. 결국 사기꾼 일당 6명이 체포되었으나 역대급 사기 규모와 허를 찌른 수법에 논란이 되었습니다.

 

해결방안은?

딥페이크의 발전 속도가 눈부신만큼 부정적인 영향 또한 급증하고 있습니다. 마음씨 나쁜 사람들 중에서도 머리 좋고 응용력 있는 사람은 존재하니까요. 이런 사기행각들을 예방하거나 해결하는 방안은 아래와 같습니다. (주관적)

 

1. 기술 발달 : 딥페이크 콘텐츠를 탐지하고 구분할 수 있는 고급 AI 기술이 발달되어야 합니다. 이미지와 비디오의 출처와 진위를 확인할 수 있는 선진적 기술이 필요합니다.
2. 법적 규제 : 딥페이크 콘텐츠의 제작, 배포에 대한 명확한 법적 기준이 마련되어야 합니다. 또 이런 사기에 대한 법적 처벌이 강화되어야 합니다.
3. 플랫폼의 책임 : 이미지와 영상을 다루는 플랫폼, 혹은 각종 소셜미디어에서는 이러한 딥페이크 콘텐츠를 신속하게 식별하고 제거해야 합니다. 
4. 사회적 인식 : 딥페이크의 위험성과 영향에 대한 경각심을 높여야 합니다. 아직도 딥페이크 기술의 존재를 모르거나 알더라도 조작된 영상으로 사기를 당할 수 있다는 사실을 모르는 분들이 많습니다. 조심해도 당할 수 있는 사기를 아예 모른다면 의심할 기회조차 없이 당하게 됩니다. 다양한 매체에서 이런 사건을 더 많이 다루고 알려야 한다고 생각합니다.

 

사담

추가로 개인적인 내용을 더 적자면, 전 딥페이크에 대해서 몇 년 전부터 알고 있었습니다만 이 정도의 사기로 발전할 거라 감히 상상하지 못했었습니다. 인공지능은 영화 속에서나 나오는 아주 먼 미래의 상상화 같은 일이었으며 내가 인공지능으로 인해 보상을 얻거나 피해를 입을 것이라곤 전혀 생각지 못했습니다.

하지만 요즘 미드저니를 공부하고, ChatGPT를 사용하고 또 다양한 인공지능 뉴스를 접하면서 미래가 기대됨과 동시에 두려움도 느낍니다. 제가 네이버 블로그에 농담으로 '모르고 당할 수는 없어서 공부한다'라고 적었지만 정말 모르고 살다가는 당하는 세상이 될 것 같습니다. 혹시나 이 글을 보시는 방문자분들도 그저 흥밋거리로만 여기지 마시고 인공지능을 활용할 준비, 또 당하지 않을 준비 하시길 바랍니다. 

 

이상 뭐라도 해보는 엄마 뭐맘이었습니다.