디지털비즈온 김맹근 기자] 유럽 의회는 2023년 6월 14일(현지시간) 획기적인 AI 규제 법안을 찬성 499표, 반대 28표, 기권 93표로 가결함. 아직 법안으로 제정되기까지 과정이 남아 있지만, 전 세계에서 최초로 AI를 규제하는 공식적 법안이 될 가능성이 높음. 유럽 의회에서 규제 법안이 가결됨에 따라 EU 집행위원회 및 27개국 이사회가 3자 협상에 돌입하게 되었다. 입법 적용까지2년 정도 기간이 소요될것으로 예상된다.

유럽 의회 의원들은 챗GPT와 같은 생성형 AI 도구에 대한 강력한 제한을 도입하는 데 동의함. 위험 기반 접근 방식을 따르며 허용할 수 없는 위험을 내포하는 AI 애플리케이션을 금지하고 고위험 사용 사례에 대해 엄격한 제도를 적용함. 생성형 AI 개발자는 시스템을 상업적으로 출시하기 전에 검토를 받아야 한다.

의회는 또한 공공장소에서 생체 인식 시스템 및 공공기관이 AI 기술을 활용해 개인의 사회적 신용 등을 평가하는 소셜 스코어링(social scoring)시스템 도금지하기로 한다.

유럽 의회는 OECD의 정의와 일치하는 AI 정의부터 시작하여 몇가지 중요한 변경 사항을 추가함. 금지된 기술 목록에 잠재의식 기술, 생체 인식 분류, 얼굴 인식 데이터베이스, 감정 인식 소프트웨어까지 확대되었음. 감정 인식 소프트웨어는 법 집행, 국경 관리, 직장 및 교육 분야에서 금지된다.

AI 애플리케이션이 고위험 범주에 속할 수 있도록 계층이 추가되었으며, 고위험 영역 및 사용 사례 목록은 법 집행 및 이민 관리 영역에서 더욱 정밀하게 작성되고 확장됨. 유명 소셜 미디어의 추천 시스템이 고위험으로 추가됨. 위험 관리, 데이터 거버넌스, 기술 문서화와 관련된 고위험 AI 제공업체의 의무가 보다 규범적으로 변경됨된다.

유럽, 생성형 AI를 둘러싼 우려점과 개선 방향

유럽 의회의 AI 규제 법안 투표를 앞두고 이해 관계자들이 함께 모여 허위 정보 및 편향의 위험에서부터 경쟁에 대한 문제와 국제적 조율의 필요성에 이르기까지 생성형 AI 기술로 제기된 여러 문제에 대해 논의한다.

ICT 산업에서 AI 기술의 도전 과제를 논의하는 행사에서 EU 정책 입안자, 전문가, 시민 사회 및 기업 대표들은 허위 정보 콘텐츠를 생성하고 유포하는 데 AI 도구가 사용될 수 있는 잠재적 위험에 대처하는 데 있어 부문 간 협력의 중요성을 강조한다.

유럽 정책 센터(European Policy Centre)의 안드레아 로드리게스(Andrea Rodríguez) 수석 디지털 정책 분석가는 경쟁 문제, 저작권 위반, 편견, 학습되는 데이터의 정확성 등이 생성형 AI 기술을 둘러싼 가장 시급한 문제 중 일부라고 말했다.

미국 의회, 2가지 새로운 AI 규제법안 발의

미국의 언론사 로이터통신에 따르면, 미국 상원의원들은 AI를 둘러싼 문제에 관심이 높아지는 가운데 초당적인 AI 규제 법안 2건을 발의함. 미국 의원들은 AI를 규제할 새로운 규칙이 필요할지 고려하기 시작했다.

첫번째 법안은 미국 정부 기관이 AI를 사용하여 사람들과 상호 작용할 때 사람들에게 알리도록 요구하는 법안임. 또한, 이 법안에서는 AI가 내린 결정에 대해 사람들이 항소할 수 있는 방법을 정부 기관들이 마련할 것을 요구했다.

두번째는 미국이 AI 기술에서 경쟁력을 유지할 수 있도록 글로벌 경쟁분석국(Office of Global Competition Analysis)을 설립하는 방안을 제안하는 법안이 발의 되었다.

글로벌 경쟁분석국 설립을 제안한 마이클 베넷(Michael Bennet) 상원의원은 반도체, 양자 컴퓨팅, AI와 같은 전략 기술 경쟁력을 중국과 같은 경쟁국에 빼앗길 수 없다고 말했다. 의원들의 AI 및 첨단 기술에 대한 관심도 높아지고 있음. 척 슈머(Chuck Schumer) 상원 다수당 원내대표는 상원 의원들을 대상으로 AI 관련 브리핑을 3차례 계획하였다.

UN 사무총장, 국제 AI 감시기구 설립 의견 지지

안토니오 구테흐스(Antonio Guterres) 유엔 사무총장은 2023년 6월 12일 국제원자력기구(IAEA)와 같은 국제 AI 감시기구를 설립하자는 일부 AI 전문가들의 제안을 지지한다는 의견을 밝혀다. 구테흐스 총장은 "최신 형태의 인공 지능인 생성형 AI에 대한 경종이 울리고 있다. 그리고 그 경고는 그것을 설계한 개발자들이 가장 크게 목소리를 높이고 있습니다."라고 기자들에게 말했다.

챗GPT의 개발사인 오픈에이아이(OpenAI)는 지난 5월 국제원자력기구와 같은 감시 기관을 통해 AI 도구 배치에 제한을 가하고, 안전 표준 준수 여부를 조사하며, 컴퓨팅 파워 사용을 추적하는 것에 대해 의견을 제시하였다.

리시 수낙(Rishi Sunak) 영국 총리도 이 아이디어를 지지하며 영국이 글로벌 AI 안전 규제의 본거지가 되기를 바란다고 말했다. 영국은 올해 말 AI의 위험에 대처하기 위한 국제적 공조 방안에 관한 정상회의를 개최할 예정이다.

구테흐스 총장은 영국에서의 정상 회담 계획을 지지한다고 말했지만 “진지한 작업”이 선행되어야 한다고 말했다. 그는 앞으로 며칠 내에 AI 전문가와 유엔 기관의 수석 과학자들로 구성된 과학 자문위원회를 임명할 계획이라고 밝혔다.