美 백악관, 테일러 스위프트 딥페이크에 대한 경각심 표명

[디지털비즈온 송민경 기자]  일론 머스크의 소셜 미디어 플랫폼 X에 있는 미국 싱어송라이터 테일러스위프트의 이름은 팝스타가 웹사이트에 유포된 딥페이크 성적 사진의 희생양이 된 지 며칠이 지났지만 큰 결과를 얻지 못했다.

성명서에서 X는 이미지를 "적극적으로 제거"하고 해당 이미지를 퍼뜨리는 데 관련된 계정에 대해 "적절한 조치"를 취하고 있다고 언급했다. "추가 위반 사항이 즉시 해결되고 콘텐츠가 삭제될 수 있도록 상황을 면밀히 모니터링하고 있다"고 덧붙였다.

많은 이미지들이 출판 당시 삭제된 것으로 보이지만, 스위프트의 사진 한 장은 삭제되기 전에 4,700만 번 조회된 것으로 알려졌다.

"Taylor Swift"라는 이름은 더 이상 X에서 "Taylor Swift AI" 및 "Taylor AI"와 같은 용어와 함께 검색할 수 없습니다.

딥페이크는 인공 지능(AI)을 사용하여 누군가의 얼굴이나 몸을 조작하여 동영상을 만듭니다. 2023년 연구에 따르면 AI의 출현에 힘입어 2019년 이후 조작된 이미지 생성이 550% 증가했다.

조 바이든(Joe Biden)의 언론 비서인 카린 장-피에르(Karine Jean-Pierre)는 소셜미디어 회사들이 "자체 규칙을 시행하는 데 중요한 역할을 해야 한다"며 의회가 이 문제를 입법화할 것을 촉구했다.

마이크로소프트 CEO 사티아 나델라(Satya Nadella)는 스카이 뉴스(Sky News)의 미국 파트너 네트워크인 NBC와의 인터뷰에서 소셜 미디어에 떠도는 이미지와 싸우기 위해 회사가 "빠르게 움직여야 한다"고 인정했다.

딥페이크를 탐지하는 단체 리얼리티 디펜더(Reality Defender)는 스위프트의 다른 사진들을 발견했다고 밝혔는데, 그중 하나는 피로 뒤덮인 그녀의 사진들이고 다른 사진들은 미식축구와 관련이 있다.

연구원들은 수십 개의 서로 다른 AI 생성 이미지를 발견했고, 가장 널리 공유된 것은 축구와 관련된 것으로, 페인트칠을 하거나 피투성이가 된 스위프트를 보여주며 그녀를 대상화하고 어떤 경우에는 딥페이크 버전에 추가 가공을 했습니다.

장-피에르 대변인은 "우리는 이 문제를 다루기 위해 우리가 할 수 있는 일을 할 것이다."라고 언급하며, "따라서 소셜 미디어 회사는 콘텐츠 관리에 대해 자체적으로 독립적인 결정을 내리지만, 잘못된 정보와 실제 인물에 대한 동의하지 않은 은밀한 이미지의 확산을 방지하기 위해 자체 규칙을 시행하는 데 중요한 역할을 한다고 생각합니다." 대변인은 또한 허위 이미지에 대한 느슨한 단속이 여성에게 불균형적으로 영향을 미치는 경우가 너무 많다고 덧붙였다.

"테일러 스위프트에게 일어난 일은 새로운 것이 아니다." 민주당 하원의원 이베트 D 클라크(Yvette D Clarke)가 X에 올린 글이다. 그녀는 여성들이 "수년 동안" 이 기술의 표적이 되어 왔다고 언급하면서 "AI의 발전으로 딥페이크를 만드는 것이 더 쉽고 저렴해졌다"고 언급했다.

공화당 하원의원 톰 킨 주니어(Tom Kean Jr)도 이에 동의하며 "AI 기술이 필요한 가드레일보다 더 빠르게 발전하고 있는 것이 분명하다"고 말했다.

그는 "피해자가 테일러 스위프트이든 우리나라 전역의 젊은이이든 우리는 이 놀라운 추세에 맞서기 위한 안전장치를 마련해야 한다"고 덧붙였다.

현재 딥페이크 이미지의 공유 또는 생성을 금지하는 연방법은 없지만 주 차원에서 이 문제를 해결하기 위한 움직임이 생기고 있다. 영국에서는 2023년 온라인안전법(Online Safety Act)의 일환으로 딥페이크 포르노 공유가 불법이 됐다.

스위프트는 그 이미지들에 대해 공개적으로 말하지 않았지만, 데일리 메일은 그녀의 팀이 AI가 생성한 이미지를 게시한 사이트에 대해 "법적 조치를 고려하고 있다"고 보도했다.

가짜 이미지 문제에 대해 더 일반적으로 무엇을 할 수 있느냐는 질문에 MS CEO 사티아 나델라(Satya Nadella)는 "나는 우리의 책임이라고 생각하는 것으로 돌아가 더 안전한 콘텐츠가 생산될 수 있도록 기술 주변에 배치해야 하는 모든 가드레일입니다."라며,"그리고 해야 할 일도 많고 해야 할 일도 많습니다."라고 언급했다.

사티아 나델라는 법 집행 기관과 기술 플랫폼이 함께 모여 더 많은 일을 할 수 있다고 덧붙였다.

연구원들은 최근 몇 년 동안 노골적인 딥페이크의 수가 증가했으며, 이러한 이미지를 생성하는 데 사용되는 기술이 더 접근하기 쉽고 사용이 쉽다고 말했다.

2019년 AI 회사인 딥트레이스 랩스(DeepTrace Labs)가 발표한 보고서에 따르면 노골적인 이미지가 압도적으로 많아졌으며, 피해자 대부분은 할리우드 배우와 한국의 K팝 가수들이었다고 보고서는 전했다.

X는 지난 26일 사이트에 올린 게시물에서 "식별된 모든 이미지를 적극적으로 삭제하고 해당 이미지를 게시한 계정에 대해 적절한 조치를 취하고 있다.

한편 메타는 성명을 통해 "여러 인터넷 서비스에 나타난 콘텐츠"를 강력히 규탄하며 이를 제거하기 위해 노력해왔다고 밝히며, "우리는 이러한 위반 콘텐츠에 대해 플랫폼을 계속 모니터링하고 필요에 따라 적절한 조치를 취할 것입니다." 라고 덧붙였다.