[디지털비즈온 이호선 기자] 4차산업이 발달함에 인공지능(AI)은 우리의 일상 생활에 편리함을 제공하지만, 오히려 악용되는 기술들이 나타나고 있다.

유럽의 법 집행 기관인 ‘Europol’은 범죄 조직이 딥페이크 기술을 사용하는 것에 대해 경고했다.

인공 지능의 도움으로 만든 비디오와 이미지는 범죄자들이 다양한 목적으로 사용할 수 있으며 경찰과 사법부의 업무를 방해할 수 있다고 유로폴이 지난달 28일 외신을 통해 발표했다.

Deepfakes는 갈취 및 사기, 문서 위조, 금융 시장 조작 및 영향을 미치는 회사에 사용될 수 있다고 경고 한것이다. 허위 정보 캠페인과 여론에 영향을 미치는 딥페이크를 통해 정치적, 사회적 불안을 선동할 수 있으며 또한, 정통한 갱단은 범죄 목적으로 다른 사람에게 복잡한 딥페이크 기술을 서비스로 제공할 수 있다고 내다봤다. 조작된 동영상이나 이미지로 구성된 증거 혐의로 공공기관이나 사법부를 속일 수 있다.

딥페이크는 인공 지능(AI)의 도움으로 생성된 비디오, 이미지 또는 오디오 문서로, 실제처럼 보이도록 의도되었지만, AI기술을 적용하면 음성이 실제처럼 들리고 음성 언어와 표정이 일치했다.

이 기술을 사용하면 낯선 사람이 전화로 잘 알려진 회사 상사처럼 들리고 직원이 이동하도록 할 수 있다. 코로나 위기 이후 재택근무는 딥페이크의 사기 사용을 위한 출발점이 되었으며. 여권 사진조차도 다른 사람의 얼굴이 여권 소지자의 사진에 작업되었다는 사실이 드러나지 않도록 조작될 수 있다.

◇기업도 AI가 적용된 딥페이크 기술에 사기 당했다.

일례로 범죄자들은 ​​딥페이크 기술을 사용하여 회사 최고 경영자의 목소리를 흉내내어 직원에게 3,500만 달러(3,300만 유로)를 송금하도록 명령했다고 Europol은 전했다.

"따라서 이 조작을 인지하고 현상에 대처할 준비를 하여 이 기술의 선의의 사용과 악의적인 사용을 구별하는 것이 중요합니다."라고 경고했다.

인간이 얼굴 주변의 흐릿한 가장자리, 깜박임 부족 및 기타 불일치를 감지하여 수동으로 딥페이크 이미지를 감지하는 것은 여전히 ​​가능했지만 기술은 점점 더 좋아지고 감지는 더 어려워졌다.

"이러한 시스템은 절대 완벽하지 않을 가능성이 높지만 딥페이크 기술이 향상됨에 따라 이러한 시스템의 높은 수준의 확실성은 수동 검사보다 더 가치가 있을 수 있다."고 Europol은 말했다.

관계자에 의하면 Facebook과 Instagram을 소유한 Meta와 TikTok, Reddit 및 YouTube와 같은 다른 소셜 미디어 거물을 포함하여 많은 인터넷 회사가 이미 딥페이크를 불법화하는 시스템을 마련했다고 언급했다.

딥페이크 기술의 증가하는 개발과 사용은 가짜를 탐지하기 위한 예방 및 자동화 프로그램을 통해 경찰 당국이 대응해야 한다고 Europol은 조언했다.