가짜 AI아이콘으로 ‘트위터 6만명 팔로워’

[디지털비즈온 최유진 기자] 6만명 이상의 팔로워를 가진 한 '여성 인플루언서'가 아이콘은 'AI 생성'된 것으로, 존재 하지 않는 가짜인물이라고 일본 매체 BuzzFeed News의 취재로 밝혀졌다.

계정이 발신한 투고의 상위 트윗 60%는 오정보 등의 '의심되는 언설'을 포함한 것 이었다. 트윗 시간에도 일정한 규칙성이 있는 등‘예약 전송’으로 보이는 트윗의 방법 등 계정에는 개인의 행동으로는 부자연스러운 점이 많았다고 지적했다.

BuzzFeed News는 트윗에서 가짜 내용 '나구모 카오리(Kaori Nagumo)'의 트윗을 게시했다.

"백신에는 베네핏은 일절 없고, 유해성밖에 없었습니다"

“미디어가 부추기면 대다수의 사람들이 다시 백신을 칠 것입니다. 음모를 알기 전에 대부분의 사람들이 죽을 것”

"신형 코로나는 인공적으로 만들어진 것이 확정. 파우치, 빌 게이츠, 다작, 모데나사에 책임이 있는 것이 확인되었다"

BuzzFeed News는 신형 코로나 바이러스의 백신 접종에 반대하는 입장에서 이러한 발신을 계속하고있는 Twitter 계정은 "나구모 카오리" 라고 하면서 팔로워는 6만2000 명이며, 1만 개 이상의 좋아요 를 모으는 것도 적지 않은 '중독'이라 지적했다.

계정 개설일은 '2015년 3월'로 표시되지만 팔로워와의 상호작용이 시작되는 것은 2022년 2월 19일이라면서 지금의 ID로, 그 이전 타인으로부터의 리플라이는 확인할 수 없고, 7년의 공백이 있다고 체크했다.

또한 개설 당초부터 팔로우하고 있는 17개의 어카운트는, 모두 2021년 12월에 개설된, 팔로워 0, 투고도 거의 되지 않은 해외 어카운트였다고 했다.

투고의 대부분이 ‘○시○분 00초’가 되어 있는 것도 특징적이라고 지적했다. 상세하게 분석한 유저 로부터는, ‘예약 투고’가 아닌가 하는 지적도 있다.

더욱 의심해야 할 것은 아이콘을 지적했다. 여성의 얼굴 사진을 사용하고 있지만, 이것은 실재하지 않는 인물을 AI가 그린 사진인 것이 BuzzFeed News의 조사로 확인할 수 있었다.

이미지의 출처는 AI제너레이터(GENERATED PHOTOS) 생산적 적대 신경망 (Generative adversarial networks)기술을 이용해 얼굴사진을 생성하는 서비스다.

이 GENERATED PHOTOS의 기능 가운데 업로드한 얼굴 사진과 비슷한 생성 이미지를 검색하는 서비스를 이용한 결과, '나구모 카오리' 아이콘과 정확히 일치하는 이미지가 판매되고 있는 것으로 나타났다.

AI 생성의 얼굴 사진은 복수의 얼굴 사진을 합성해 나가는 것으로, 머리카락이나 귀, 액세서리에 부자연스러운 부분을 찾아볼수 있었다고 했다.

◇저스틴 비버“코로나19 백신 접종으로 인해” 안면 마비 가짜뉴스

캐나다의 싱어송 라이터이자 멀티 악기연주자인 저스틴 비버가 코로나19 백신 접종으로 인해 안면 마비가 왔다는 취지의 발언했다는 내용을 보도한 언론 기사라는 주장과 함께 소셜미디어상에서 반복적으로 공유됐다.

하지만 이 내용을 실은 기사는 풍자를 목적으로 작성된 것으로, 비버가 실제로 해당 발언을 했다는 근거는 찾을 수 없었다.

문제의 스크린샷은 2022년 6월 21일 "백신이 내인생을 망쳤다. 제약회사 고소하겠다.는 내용과 함께 부인도 백신부작용이 있으며, 소속사가 싸이강남스타일 미국진출도움"이라는 글귀와 함께 페이스북에 공유됐다.

동일한 스크린샷이 페이스북 여기와 여기 그리고 네이버 블로그에도 공유됐다. 해당 스크린샷은 비버가 자신의 인스타그램을 통해 람세이헌트 증후군(Ramsay Hunt syndrome)이라는 희소병으로 인해 생긴 안면 마비 때문에 월드투어를 중단한다고 발표한 이후부터 온라인상에 공유되기 시작했다.

밴쿠버 타임스 기사는 이 내용에 대한 근거로 영국 일간지 데일리 메일(Daily Mail)의 2022년 6월 10일 자 기사를 인용했는데, 해당 기사에는 비버가 인스타그램을 통해 발표한 내용에 대한 보도가 실렸다.

하지만 데일리 메일 웹사이트에 게시된 이 기사나 해당 기사를 저장한 기록에서도 비버가 자신의 증세를 코로나19 백신의 탓으로 돌리는 발언을 실은 내용은 찾을 수 없었다.

◇트위터, 가짜 뉴스에 '허위 정보" 라벨링 기능 부여

트위터가 이른바 '가짜 뉴스' 확산을 막기 위해 트윗 게시물에 '최신 정보'와 '관심', '거짓 정보' 등 3단계의 라벨을 붙인다. 이는 트위터가 인공지능(AI) 등을 통해 자체적으로 게시물의 사실 여부를 검증한 것으로 이용자들이 사실 여부를 구분하는데 도움을 준다.

홍콩 출신 앱 연구원 제인 만춘 웡(Jane Manchun Wong)은 31일(현지시간) 자신의 트위터 계정을 통해 이 같은 내용을 알렸다. 제인 만춘 웡은 "트위터가 거짓 정보를 판별할 3단계의 라벨링 기능을 개발하고 있다"는 내용의 게시물을 트위터에 올렸다.

제인 만춘 웡은 이 기능이 △최신 정보(Get the latest) △관심(Stay informed) △거짓 정보(misleading) 등 3종류가 될 것이라고 전했다.

앞으로 트위터 게시물의 사실 여부는 이 기능을 통해 확인할 수 있을 것으로 보인다. 트위터 게시물은 큐레이션 페이지 등으로 연결된 후 사실 여부를 판별받는다.

제인 만춘 웡은 이 기능을 소개하기 위해 트위터에 게시물을 올렸다. 제인 만춘 웡은 "12시간 안에 어둠이 걷힐 것. 채널 고정하십시오"라는 내용의 게시물을 올렸다. 이는 시간에 대한 개념을 담은 것으로 트위터는 "관심"이라는 내용의 라벨을 붙였다.