[디지털비즈온 송민경 기자] 구글의 AI 챗봇 제미니(Gemini)는 이미지 생성기가 여성 교황, 흑인 바이킹, 여성 NHL 선수, 미국 건국의 아버지들의 "다양한" 버전 등 사실적이거나 역사적으로 부정확한 사진을 뱉어낸 후 "AI가 깨어났다"는 비난을 받았다.

제미니의 21일 "교황의 이미지를 만들어달라"고 요청한 것을 포함하여 간단한 프롬프트에서 역사상 266명의 교황 중 한 명의 사진을 제공하는 대신, 성스러운 제의를 입은 동남아시아 여성과 흑인 남성의 사진을 제공하는 문제를 일으켰다.

원래의 프롬프트에서 벗어난 이유를 물었을 때 제미니는 그 시대의 "역사적 맥락에 대한 보다 정확하고 포괄적인 표현을 제공하는 것을 목표로 했다"고 대답했다.

제미니와 같은 생성형 AI 도구는 특정 매개변수 내에서 콘텐츠를 생성하도록 설계되었기 때문에 많은 비평가들은 구글의 이러한 설정을 비난하고 있다.

구글은 이러한 비판을 인지하고 수정 작업을 적극적으로 진행하고 있다고 밝혔다.

구글의 제미니 익스피리언스(Gemini Experiences) 제품 관리 수석 이사인 잭 크라우치크(Jack Krawczyk)는 "우리는 이런 종류의 묘사를 즉시 개선하기 위해 노력하고 있다"고 언급했다. 또한 "제미니의 AI 이미지 생성은 다양한 사람들을 생성합니다. 그리고 그것은 전 세계 사람들이 그것을 사용하기 때문에 일반적으로 좋은 일이지만 이번 사례에서는 초점을 놓치고 있다"고 말했다.

구글의 CEO 순다르 피차이(Sundar Pichai)는 27일의 제미니(Gemini) 논란에 대해 언급하면서 인종에 대한 AI 앱의 문제 대응을 용납할 수 없다고 말하고 문제를 해결하기 위해 구조적 변화를 만들겠다고 밝혔다.

제미니 이미지 생성 도구가 어떤 경우에는 백인을 묘사하는 것을 거부하거나 바이킹, 나치, 교황의 이미지를 만들라는 메시지가 표시될 때 여성이나 유색인종의 사진을 삽입하는 사건 이후 종료된 상태이다.

제미니가 일론 머스크가 사회에 미치는 영향력을 아돌프 히틀러의 영향력과 동일시하는 등 의심스러운 문자 응답을 작성한 것으로 밝혀지면서 논란이 불거졌다. 이러한 발언은 특히 구글이 반백인 편향적이라고 비난하는 보수주의자들로부터 날카로운 비판을 받았다.

구글 CEO 순다르 피차이는 "일부 답변이 사용자들을 불쾌하게 하고 편견을 드러냈다는 것을 알고 있다"라고 언급하며 "분명히 말하자면, 이는 완전히 용납할 수 없는 일이며 우리가 잘못 판단한 것"이라고 말했다.