[디지털비즈온 송민경 기자] 캘리포니아 주 의회는 인공지능(AI) 산업 규제, 딥페이크 방지 및 신속히 발전하는 기술로 인한 노동자 착취를 방지하기 위한 다수의 법안을 승인했다고 밝혔다.

민주당이 다수인 캘리포니아 주 의회는 이번 주 마지막 회기에 수백 개의 법안을 주지사 개빈 뉴섬(Gavin Newsom)에게 전달하기 위해 투표를 진행 중이다. 이들의 마감일은 토요일이며, 민주당 주지사인 개빈 뉴섬은 9월 30일까지 제안된 법안을 서명하거나 거부하거나 서명 없이 법이 되도록 할 수 있다.

뉴섬 주지사는 7월에 선거 딥페이크를 엄격히 규제하는 법안에 서명할 것이라고 언급했으나, 다른 입법안에 대해서는 아직 입장을 밝히지 않았다. 그는 여름 초, 과도한 규제가 자국 내 산업에 해를 끼칠 수 있다고 경고했었다.

AI 도구가 유권자를 속이고 미성년자의 딥페이크 포르노를 생성하는 데 사용되는 것에 대한 우려를 표명하며, 캘리포니아 주 의회는 이러한 관행을 단속하기 위한 여러 법안을 승인했다. 

의회는 선거와 관련된 딥페이크를 금지하고, 주요 소셜 미디어 플랫폼이 선거일 120일 전과 60일 이후에 이르기까지 이러한 허위 자료를 삭제하도록 요구하는 법안을 승인했다. 캠페인은 또한 AI로 변조된 자료를 사용한 광고를 공개적으로 고지해야 한다.

또한, 두 가지 법안은 AI 도구를 사용해 아동 성학대 이미지를 생성하는 것을 불법으로 만들 예정이다. 현행법은 실제 인물을 묘사한 자료임을 증명할 수 없는 경우, AI로 생성된 아동 성학대 이미지를 소지하거나 배포하는 사람을 검찰이 기소하지 못하도록 하고 있다.

기술 기업과 소셜 미디어 플랫폼은 다른 법안에 따라 사용자에게 AI 탐지 도구를 제공해야 한다.

캘리포니아 주는 대형 AI 모델에 대한 포괄적인 안전 조치를 설정하는 미국 내 첫 번째 주가 될 수 있다.

의회에서 주지사에게 전달된 법안은 개발자들이 자신의 모델을 학습시키기 위해 사용하는 데이터를 공개하도록 요구한다. 이 노력은 AI 모델이 작동하는 방식을 명확히 하고, 미래의 대규모 재난을 방지하기 위한 것이다.

또 다른 법안은 AI 모델이 결정에 사용되기 전에 위험 예방과 알고리즘 차별 방지 안전 규약을 설정하도록 요구할 예정이다.

23년 수개월에 걸친 할리우드 배우 파업에서 영감을 받아, 의회는 성우와 오디오북 연기자를 포함한 노동자들이 AI로 생성된 복제본에 의해 대체되는 것을 방지하기 위한 법안을 승인했다. 이 법안은 SAG-AFTRA가 지난해 12월 스튜디오와 체결한 계약의 언어를 반영한 것이다.

주 및 지방 기관은 한 법안에 따라 콜센터에서 AI를 사용해 노동자를 대체하는 것이 금지될 예정이다. 캘리포니아 주는 또한 동의 없이 사망한 사람을 디지털로 복제하는 것에 대해 처벌을 부과할 수 있는 법안을 만들 가능성이 있다.