[디지털비즈온 김맹근 기자] AI가 기술의 새로운 지평을 열어가고 있지만, 무제한적으로 실험할 수 있는 기회는 줄어들고 있다. 전 세계의 규제 당국은 업계가 성숙한 태도와 함께 책임감 있는 문화를 수용해야 한다고 강조하고 있다. 지적 재산권, 이미지, 데이터 소유권 등을 둘러싼 중요 AI 관련 소송이 많아지면서 법원도 이러한 대열에 동참하고 있다.

규제 활동은 지난 10년간 강화되어 왔고 많은 성과를 거두었지만, 생성형 AI의 놀라울 정도로 빠르고 광범위한 도입은 그 시급성을 고조시키고 있다. 미국만 보더라도 2024년에 50개 주 전체에서 발의된 법안은 거의 500개에 달해 2023년의 130개보다 크게 늘어났다. 의회도 2023년에 비해 두 배 더 많은 법안을 발의하여 AI에 대한 규제를 확대하고 있다.

특히 미국 연방통상위원회(FTC)는 빠르게 움직이고 있다. 이미 많은 케이스에서 데이터 오용 및 알고리즘 편향에 대해 단호한 조치를 내렸으며, 안면 인식 기술과 관련된 2012년 명령을 위반한 Meta에 대해 취한 조치는 그 대표적인 예이다.

규제 활동의 급격한 증가는 전 세계에서 공통적으로 나타나고 있으며, EU의 대표적인 AI Act가 이를 주도한다. 2024년 8월에 발효된 이 포괄적인 법률은 AI 애플리케이션에 대해 위험 기반 접근 방식을 사용한다. 이 법은 정부 평가와 같은 일부 애플리케이션을 전면적으로 금지하고 채용 심사 및 의료에 사용되는 것과 같은 고위험 시스템에 엄격한 요건을 적용한다.

또한, 이 법은 저작권 및 콘텐츠 소유권과 관련된 첨예한 이슈 중 일부를 다뤄 생성형 AI 모델이 트레이닝 데이터를 공개하고 저작권법을 준수할 것을 의무화한다. 저작권과 관련해서는 미국과 EU 둘 다 100% AI 생성 결과물은 저작권 보호 대상에 해당하지 않으며 보호받으려면 사람이 개입해야 한다는 점을 재확인했다. 그러나 어느 정도로 개입해야 하는지는 아직 명확하게 정해지지 않았다.

이 모든 규제로 인해 전 세계 기업들은 상당한 불확실성에 직면해 있다. 비즈니스 리더들이 규제를 원하지 않는 것은 아닙니다. 경영진들을 대상으로 한 Deloitte의 설문조사 결과는 이와 반대로 78%가 더 많은 AI 규제를 원하는 것으로 나타났다. 그러나 안심하고 계속 진행하기 위해서는 그러한 규제가 무엇인지 미리 알아야 한다. 사실상 기업들이 생성형 AI 이니셔티브가 지연되는 주된 이유로 꼽은 것은 '규제 불확실성'이었다.

입법부 뿐만 아니라 사법부도 규제 강화 열기에 동참하고 있다. Getty Images가 저작권 침해를 주장하며 Stability AI를 상대로 한 소송을 포함해 최근 주목받은 소송은 AI의 발전과 관련된 법적 위험이 증가하고 있음을 잘 보여줍니다. 결론은 생성형 AI를 활용하는 기업은 트레이닝 데이터의 출처 및 사용 권리와 관련하여 더욱 엄격해진 조사에 대비해야 한다는 것이다.

2025년에 기업들은 규제에 대비하기 위한 노력을 본격적으로 시작할 것이다. 앞으로 해야 할 일들이 많다. 현재 생성형 AI 거버넌스 프레임워크를 갖춘 기업은 절반 정도에 불과한다. 법률 모니터링을 수행하는 조직은 절반 미만이다. 또한, 생성형 AI 구축 목록을 보관하는 기업은 1/3에 불과한다. 전 세계 정부와 사법 시스템이 AI를 보다 엄격하게 규제하기 위해 노력하고 있기 때문에 이러한 현재의 관행만으로는 충분하지 않을 것이다.