AI는 일부 Sora 사용자만 사람의 동영상을 만들 수 있도록 허용

[디지털비즈온 김맹근 기자] OpenAI는 월요일에 비디오 생성 도구인 소라를 출시했다. 그러나 회사는 추가 테스트가 진행될 때까지 대부분의 사용자를 위한 주요 기능을 출시하지 않기로 결정했다.

TechCrunch의 카일 위거스에 따르면, 해당 기능은 업로드된 실제 인물의 사진 또는 영상을 참조로 사용하여 동영상을 생성한다. OpenAI는 소라 사용자의 'subset'에게 접근 권한을 부여하겠지만, "안전에 대한 approach"을 미세 조정할 기회가 있을 때까지는 이 기능을 광범위하게 배포하지 않을 것이라고 밝혔다.

"업로드된 실제 사람의 사진이나 동영상을 '씨앗'으로 사용하여 동영상을 생성하는 기능은 초기 사용 패턴에서 학습하기 위해 특히 점진적으로 접근하는 잠재적 오용의 벡터이다."라고 Open은 말한다.AI는 블로그 게시물에 글을 올렸다. "아티스트들의 초기 피드백에 따르면 이 도구는 그들이 소중히 여기는 강력한 창작 도구이지만, 남용 가능성을 고려할 때 처음에는 모든 사용자가 사용할 수 있도록 제공하지 않는다."

또한 OpenAI는 사용자가 실제 사람의 클립이나 이미지가 포함된 생성된 동영상을 소라의 홈페이지 검색 피드에 공유할 수 없도록 한다.

"우리는 분명히 오픈이라는 큰 목표를 가지고 있다. 소라의 제품 책임자인 로한 사하이는 오늘 오전 라이브스트림 프레젠테이션에서 "AI는 소라와의 불법 활동을 방지하고 싶지만, 창의적인 표현과도 균형을 맞추고 싶다."라고 말했다. "우리는 [이것이] 지속적인 도전이 될 것이라는 것을 알고 있으며, 첫날에 완벽하지 않을 수도 있다. 우리는 약간 보수적으로 시작하고 있으므로 중재가 제대로 이루어지지 않으면 피드백을 주세요."

생성 비디오는 강력한 도구이자 논란의 여지가 있는 도구이며, 딥페이크와 잘못된 정보가 중요한 관심사이다. ID 인증 서비스인 Sumsub의 데이터에 따르면, 2022년부터 2023년까지 전 세계 딥페이크 사기가 10배 이상 증가했다.

다른 단계 중 열기AI는 오용을 방지하기 위해 노력하고 있으며, 소라는 생성된 동영상이 18세 미만의 사람을 묘사하는지 감지하는 필터를 갖추고 있다고 말한다. OpenAI는 성적, 폭력적 또는 자해 콘텐츠와 관련된 중재에 대해 'stricter 임계값'을 적용한다고 주장한다.

소라에서 생성된 모든 동영상에는 그 출처를 보여주는 메타데이터, 특히 C2PA 기술 표준을 준수하는 메타데이터가 포함되어 있다. 메타데이터는 삭제할 수 있다. 하지만 열기AI는 C2PA를 지원하는 플랫폼이 동영상이 소라에서 시작되었는지 여부를 신속하게 감지할 수 있는 방법으로 이를 제안하고 있다.

OpenAI는 저작권 불만을 막기 위해 소라가 살아있는 크리에이터 스타일의 동영상을 생성하지 못하도록 'prompt 재작성'을 사용하고 있다고 밝혔다.

"사용자가 살아있는 아티스트 스타일의 동영상을 생성하려고 할 때 트리거하도록 설계된 신속한 재작성 기능을 추가했다."라고 회사는 썼다. "크리에이티브 커뮤니티에서 소라가 어떻게 사용되는지에 대해 더 많이 알게 되면서 이 버전의 소라에 대해 보수적인 접근 방식을 취하기로 결정했다.... 창의성에는 다른 아티스트의 스타일을 활용하는 매우 오랜 전통이 있지만 일부 크리에이터가 우려를 가질 수 있다는 점에 감사드린다."

Open을 비롯한 여러 아티스트가 AI 회사를 고소했다.AI, 자신만의 스타일로 콘텐츠를 리저버팅하는 AI 도구를 만들기 위해 허가 없이 작업을 훈련한 혐의를 받고 있다. 두 회사는 공정한 사용 원칙이 저작권 침해 주장으로부터 자신을 보호하며, 실제로 AI 모델이 반발하지 않는다고 주장해 왔다.

교육 중, 열기AI는 소라가 공개적으로 사용 가능한 데이터, 데이터 공급업체와의 파트너십을 통해 액세스되는 독점 데이터, 자체 개발한 맞춤형 세트 등 '다양한 데이터 세트'를 혼합하여 개발되었다고 말할 뿐이다. 올해 초, 이전 오픈미라 무라티 AI 최고기술책임자는 소라가 구글 소유 스트리밍 플랫폼의 사용 정책을 위반한 것처럼 보이며 유튜브 클립에 대한 교육을 받았다는 사실을 전면 부인하지 않았다.

소라를 미리 본 비디오 블로거 Marques Brownlee에 따르면, 이 시스템은 텍스트 프롬프트나 이미지에서 다양한 버전의 비디오 클립을 생성하고 리믹스 도구를 통해 기존 동영상을 편집할 수 있다. 스토리보드 인터페이스를 통해 사용자는 동영상 시퀀스를 만들 수 있고, 블렌드 도구는 두 개의 동영상을 가져다가 두 가지 요소를 모두 보존하는 새로운 동영상을 만들 수 있으며, 루프 및 다시 자르기 옵션을 통해 크리에이터는 동영상과 장면을 추가로 조정하고 편집할 수 있다.

오픈 구독자AI의 ChatGPT Pro 및 Plus 요금제, Sora, Open 이용 가능오늘날 AI의 비디오 생성기는 특정 국가에 거주하는 경우에만 가능하다.