[디지털비즈온 송민경기자] 스페인 남서부의 학생 15명이 AI가 생성한 여학생들의 나체 이미지를 유포한 혐의로 법원에서 집행유예를 선고받아 야후 등 외신이 보도했다.

법원은 성명서에서 "판결문에 따르면 미성년자들이 인공 지능 애플리케이션을 사용하여 소셜 미디어 프로필에서 소녀들의 원래 얼굴을 가져와 그 이미지를 벌거벗은 여성의 몸에 겹쳐서 조작된 이미지를 얻었다는 것이 입증됐다"고 밝혔으며, "조작된 사진은 두 개의 왓츠앱 그룹에 공유되었다"고 덧붙였다.

이 사건은 알멘드랄레호의 부모가 왓츠앱(WhatsApp)에서 딸의 가짜 나체 사진이 유포되고 있다고 신고하면서 알려졌으며,  각 십대는 기술의 남용에 대한 논쟁을 불러일으킨 사건에서 1년의 보호 관찰을 받았다.

피해자들은 이 사진들 때문에 불안과 공포에 시달렸다고 부모들은 주장했다.

바다호스의 청소년 법원(The youth court in Badajoz)은 미성년자들이 아동 학대 이미지를 만들고 피해자의 도덕적 고결함을 침해한 혐의로 유죄 판결을 내렸다. 피고인들은 또한 양성 평등과 책임 있는 기술 사용에 관한 수업에 참석하라는 명령을 받았다.

피해 가족들을 대변해 활동한 말발루나 협회(The Malvaluna Association)는 아이들이 성차별과 폭력을 조장하는 포르노를 통해 성에 대해 배우는 것을 막기 위해 적절한 성교육이 필요하다고 강조했다.

"이 특별한 재판을 넘어서, 이러한 사실들은 우리가 남성과 여성의 평등에 대해 사람들을 교육할 필요성을 숙고하게 해야 한다"고 온라인 신문 ElDiario.es는 협회의 말을 인용했다.

적어도 20명의 소녀들이 이 조작된 사진들의 희생자였을 것으로 보고되었으며, 로이터 통신은 "많은 소녀들이 완전히 겁에 질렸고 침묵 속에서 이 일을 겪었기 때문에 엄청난 불안 발작을 일으켰다"고 언급했다.

지난 10월, 새로운 보고서는 딥페이크 사진을 생성하는 AI 도구에 대한 통제가 가해지지 않을 경우 인터넷에서 아동 성적 학대 이미지의 놀라운 확산이 크게 악화될 수 있다고 경고했다.

영국에 본부를 둔 인터넷 감시 재단(Internet Watch Foundation)은 정부와 기술 제공업체가 AI가 생성한 아동 성적 학대 이미지의 급증을 막기 위해 신속하게 행동할 것을 촉구했다.

지난 6월에는 호주의 한 사립학교 여학생 50명의 가짜 나체 사진이 소셜미디어에 유포돼 10대 청소년이 체포된 사건이 존재했다

. 빅토리아에 있는 바추스 마쉬 그래머 스쿨(Bachhus Marsh Grammar School)의 학생들의 이미지들은 "외설적"이고 "믿을 수 없을 정도로 노골적인" 콘텐츠를 만들기 위해 인공 지능을 사용하여 조작되었다.

딥페이크 기술이 보편화되면서 성인뿐 만 아니라 전 연령의 딥페이크 사진, 영상 생성으로 인한 범죄가 증가하고 있다. 해당 범죄를 줄이기 위해 사전적인 예방 조치와 사후적인 처벌을 통해 적절한 규제가 필요할 것으로 판단된다.