[이창훈의 과학서평] AI는 인간을 먹고 자란다

인공지능이 열풍이다. 이것이 세상을 크게 바꿀 것은 이미 자명해보이고, 다만 그 수준이 어느 정도이냐가 관건이 될 것이다.

인공지능은 각종 기기와, 클라우드의 의존해 구현되기에 뭔가 공중에 붕 떠서 작동하는 느낌이다. 물론 인공지능 외에도 다른 디지털 도구들도 그러한 그낌을 준다. 하지만 이런 것들이 탄생하고, 유지되고, 잘 기능하기 위해서는 물리적 기반과 그것을 만들고 관리하는 사람이 필요하다.

이런 요소는 필수적이지만 잘 눈에 띄지 않는다. 유튜브를 하면서 누가 그것을 검수하는 사람과 데이터센터와 인터넷 망과, 전력망과 프로그래머를 생각할까? 

책은 제목처럼 인공지능 역시 결국 사람과 물리적 기반에 의존함을 드러내며 그 과정에서 수 많은 사람들이 전근대 혹은 식민시기에 만들어진 시스템에 의해 착취당하고 고통받고 있음을 보여준다. 그래서 이 책은 인공지능 책이라기 보다는 사회시스템을 드러내는 책이다.  

저자는 인공지능이 추출기계에 가깝다고 본다. 생겨나고, 제대로 작동하고, 유지되려면 막대한 자본과 권력, 천연자원, 노동, 데이터, 집단 지성이라는 인적, 물적 요소가 필요하기 때문이다.

인공지능은 사람이 만든 것인 만큼 아직까지 사람의 정치경제 시스템에 기반하며, 데이터를 분류, 차별하고, 예측하는 모든 과정은 사람들의 이해관계와 권력 구조를 반영한다.

이런 관점에서 인공지능은 결국 부유하고 권력을 가진 소수의 이익을 대변하고 그들의 지배력을 공고히 하는 수단이 될 가능성이 높다. 인공지능을 개발한 빅테크들은 인공지능의 가능성과 편의성만 강조하지만 그 아래에는 물리적 기반과 노동이 숨겨져있다.  

인공지능의 개발은 막대한 자본이 필요하다.

그래서 소위 빅테크들만 이것을 할 수 있다. 상당한 규모의 데이터 센터가 필요한데 현재 전 세계에서 가장 큰 데이터 센터의 절반 이상을 단 3개 기업이 보유한다. 현재 인공지능 기업들은 라이센서 판매, 구독, 기존 서비스에 인공지능 통합, 인공지능 임대 서비스로 수익을 모색하고 있다. 그

리고 인공지능은 그 위력으로 인해 플랫폼과는 다르게 국가의 전략 자산으로 인식된다. 인공지능 개발에 이렇게 막대한 돈이 들다보니 인공지능의 글로벌 생산 네트워크 역시 약탈적이고 불공정하며 무역협정을 통해 자원을 수탈한 신식민주의의 모습을 띤다.  

인공지능 산업을 글로벌 디지털 분업체계를 갖춘다.

고임금의 안정적 직업은 미국 등 선진사회에 분포하며 저임금의 불안정하고 위험한 작업은 남반구의 저개발국가에 집중된다. 그 대표가 데이터 주석 센터의 노동자들이다.

이들의 노동은 철저히 감시 및 통제당하며, 고용은 단기간으로 불안정하고, 급여는 하는 일의 가치에 비해 매우 적다. 그리고 데이터 주석 노동은 대개 하청의 하청으로 이뤄진다. 빅테크가 일을 의뢰하고 받은 곳이 또 의뢰하고 다시 의뢰하는 형식이다. 그 과정에서 사측이 이득을 봐야하니 결국 노동자에게 가는 몫이 줄어들게 된다.  

이들은 데이터 주석 노동자를 감시하는데 대개 하나의 팀을 구성하고 그 팀의 리더가 각 구성원의 작업속도와 작업의 질을 감시한다. 작업의 질이 좋지 못하거나 속도가 늦으면 즉시 호출되고, 급여가 주어지지 않는 경우도 허다하다.

아프리카의 데이터 주석 노동자들은 주 최소 45시간을 일하는데 감시당하기에 극도로 집중해서 일하게 되며 그럼에도 임금은 한달에 200달러, 시급1.16달러 정도를 번다. 작업에 대해서는 95%의 정확도를 요구한다.  

인공지능의 훈련 시간의 80%가 데이터 주석작업에 사용된다는 점에서 이들의 노동은 인공지능의 탄생과 품질에 결정적이다.

데이터 주석 시장은 규모가 상당한데 2022년 22억 2천만 달러였고 매년30%씩 성장중이다. 하지만 이런 기여에도 데이터 주석노동자들은 노동권, 병가, 연금 같은 사회안전망이 전무하다.

독립계약자로 대개 시간당 2달러 남짓의 급여를 받으며 언급한 것처럼 기관 관계자들이 노동결과물이 만족하지 못하면 무보수다. 성과의 30%가 대개 무보수로 진행된다.  

데이터 주석 노동에는 높은 수준의 언어 능력이 필요치 않기에 쉽게 아웃소싱된다. 하지만 문화적 차이로 간혹 문제가 발생한다. 데이터 주석 노동자들은 단결하고 항의하기가 쉽지 않다.

데이터 노동이란것 자체가 최근에 생겨나 일반 생산직들이 사무직이나 기능직, 프래랜선로 오인하는 경우가 많고 노동조합도 없으며, 무엇보다 빅테크가 생산기지를 쉽게 옮겨버릴 수 있기 때문이다.  

데이터 노동자에는 데이터 검수자도 있다. 전 세계의 플랫폼에는 다양한 영상과 사진이 실시간으로 엄청나게 올라온다. 이들 중에는 살인, 강간, 폭력, 범죄, 선정적 요소 등 공익에 부합하지 않은 많은 것들이 있다. 일반인들은 이를 플랫폼에 머무면서도 쉽게 볼 수가 없는데 이런 일을 데이터 검수자들이 하고 있기 때문이다. 이들 역시 데이터 주석노동자 못지 않게 감시당하며 엄청난 강도로 그것들을 본다. 하지만 검열 데이터 중 사람의 정신건강을 해치는 것이 많기에 문제가 있다. 이들은 큰 충격을 받으면서도 일을 쉼없이 수행해야 하며, 감당하기 어려울 시 비전문상담가인 팀내 상담가랑 그것도 자신의 휴식시간을 할애하며 상담받는 것이 고작이다.  

인공지능에는 막대한 물리적 기반이 필요한데 그중 하나가 데이터 센터다.

고속광섬유 케이블이 들어서면서 유럽에서 아이슬란드가 데이터 센터의 최적지로 주목받고 있다. 지구온난화가 날이 갈수록 심해지고 있는데 데이터 센터가 과열되어 화재로 이어지기 쉼상이기에 날씨가 서늘한 아이슬란드가 유리한 것이다.

여기에 데이터 센터는 운영비의 40%가 냉각비다. 그렇기에 비용절감효과도 상당하다. 또한 아이슬란드는 100%재생에너지를 사용하기에 re100의 준수에도 용이하다. 아이슬란드는 자국 전력의 30%는 지열발전 70%는 수력으로 해결한다. 여기에 정치적으로 안정되었고, 자국민의 능숙한 영어와 고학력도 장점이다.  

데이터 센터는 막대한 물도 사용한다. 이 역시 냉각 때문이다. 하루 최대 1700만 리터의 물을 소모하는데 이는 인구 5만명 규모 도시의 하루 사용규모와 같다. 데이터 센터는 큰 땅과 막대한 양의 자원을 요구하고 소모하지만 고용유발 효과는 거의 없어 지역 사회의 기여도 많지 않다.  

인공지능은 학습을 위한 데이터를 마구 잡이로 수집했고 그 과정에서 상당한 인간 창작물의 저작권을 침해했다.

이에 예술가 3명은 인공지능의 저작권 침해 혐의를 제기하며 미드저니에 소송을 걸었다. 또한 2023년 1만 1500명의 시나리오 작가를 대표하는 헐리우드 작가노조와 16만 배우 및 미디어 종사자를 대표하는 배우 노조는 인공지능 사용문제를 핵심쟁점으로 내세우며 대규모 파업을 단행했다.

기업들은 비용절감을 목표로 직원이나 프리랜서의 업무를 인공지능으로 대체하려고 하고 있다. 그 과정에서 창작자의 일자리나 임금은 더욱 줄어들게 된다.

많은 예술가나 창작가들은 초기 인정받기 전까지 경제적 어려움에 시달리며 자신들의 권리를 계약회사에 쉽게 주장하지 못한다. 인공지능의 등장으로 이들의 처지는 더욱 곤궁해질 것이며 인공지능과 그 회사에게 자신들의 권리도 잘 주장하기 어려울 것으로 보인다.  

인공지능은 회사의 노동자를 감시하는 도구다. 아마존의 스카우트는 연간 5천억 달러 매출의 아마존의 전체를 관리한다. 4가지 핵심기능이 있는데 수요예측, 주문처리계획수립, 전체주문처리, 네트워크 관리다.

이 시스템은 지식과 의사결정권한을 고위 관리자와 시스템 자체에 집중하게 하여 노동자의 권한을 축소시키고 업무숙련도는 낮추고 노동강도는 높인다.  

아마존은 자신들의 감시, 관리 시스템을 물류투자로 포장한다. 인공지능의 결정을 고도로 정교한 기술적 판단으로 보이게 만들고 시스템에 사회적 신뢰를 주기 위해서다.

이는 경영자, 투자자, 정책 당국자의 지지를 얻어내겠지만 노동자의 순응유도도 이끌어 낼 수 있다. 이런 아마존의 인공지능도 결국 아마존의 노동자와 인프라에 의존한다. 그 지능은 수백만의 창고노동자와 배송기사들의 노동활동에서 추출된다.  

2020년 이후 인공지능이 등장하면서 직장 내 감시 기술을 폭발적으로 확산했다. 많은 기업들이 노동자의 업무 전반에 걸쳐 거의 모든 데이터를 수집한다. 하지만 정작 직원은 자신이 감시당한다는 사실을 인지하지 못한다.

기업은 알고리즘으로 노동자의 행동패턴에 대응하는 수준에 이르렀다. 감시기술을 사회 전반으로 확산중이다. 초기에는 운송와 배달, 돌봄서비스의 긱워커가 대상이었지만 이젠 전방위가 될 것이다. 이런 감시도구는 노동자의 방대한 데이터를 수집하여 인공지능 예측기능과 결합하여 관리자의 노동통제를 더욱 정밀하게 할 것이다.  

이런 모든 인공지능의 개발과 그 방향은 실리콘 벨리의 소수의 의해 좌우되는게 더 문제다. 그 파급력이 전방위적인데도 선출직이나 사회적 공론 없이 독단적으로 이뤄지는 것이다.

그래서 실리콘 벨리를 지배하는 사람들의 생각이 어떠한지를 아는 것이 중요하다. 실리콘 벨리는 오랫동안 자유지상주의 세계관과 신자유주의에 입각해왔다. 구체적으로는 좌파의 낭만주의와 개인주의, 보수주의의 반정부성과 자유시장 경제에 대한 신념이다.  

극단적 개인주의와 기술낙관주의가 있었으나 성차별과 기후위기 등으로 2010년대 들어서는 새로운 감시시스템, 기술독점, 알고리즘으로 차별이 커지고 정치가 양극단화하자 각 계로부터 명확한 정치적 입장을 요구받게 되었다.

그래서 진보나 보수의 입장을 표명하기는 하지만 공통적으로 이들은 창업자 중심사고를 갖는다. 이는 기업에 민주주의가 없고 자신이 옳다는 독단적 사고와 결정이다. 그럴만도 한게 물려 받은 것도 아니고 그야말로 맨땅에서 기업을 세웠기 때문이다.

이들은 자신이 선출직 정치인보다 옳은 결정을 내릴 수 있다고 생각한다. 이들은 세상이 발전하고 있으며 여기에 자신이 혁신적 역할을 한다고 여긴다. 이들은 정부에 대한 불신과 자기 선의 확신이 있고 민주적 투표와 공공정책은 걸림돌일 뿐이다.  

이런 인공지능의 등장과 함께 노동자가 대응할 수 있는 전략은 3가지가 있다. 연대행동과 초국적 연합, 초국적 노동조합이다.

그래야 노동자들은 자신의 노동가치와 착취 정도에 대해 정확히 파악할 수 있으며 연대를 통해 구분되고 분할됨을 피하여 테크 기업에 타격을 주며 영향력을 행사할 수 있다.  

그리고 사회적으로 노동조합과 노동자 조직의 집단적 힘을 강화하고, 시민사회가 조직적으로 기업을 견제하고 책임을 물으며 엄격한 규제를 도입하고, 노동자들이 기업을 직접 소유하고 경영참여를 구조적으로 보장하며, 기업을 넘어서 전체시스템의 불평등과 부정에 맞설 필요가 있다. 

첨단 인공지능 시대 역시 그것이 산업사회처럼 인간의 착취와 감시에 이용되며, 인적물적 조건에 기반하고, 사회적으로 감시와 연대가 필요하다는 것이 저자의 주장이다. 공감하는 바가 크지만 책에서도 언급된 것처럼 인공지능은 국가의 전략 자산으로 분류되기 시작했다. 치열한 패권경쟁에서 그 폐해보다는 개발에 앞장서게 될 것이 세계적 흐름이다. 저자의 생각이 현실성 있게 진행될 가능성이 낮아보여 우려된다.