네트워크 플랫폼의 인공지능은 각 개인이 여러 정보를 취합해서 제공하여 그들로 하여금 세상의 일면만을 바라보게 만든다.

때문의 의도하든 아니든 네트워크 플랫폼의 인공지능은 전 세계 방대한 이용자에게 상당한 사회, 문화, 정치, 경제적 영향력을 절대적으로 행사할 수 있게 된다.

인공지능의 목적함수, 훈련과정, 매개변수, 허위정보에 대한 정의를 조금만 바꾸어도 네트워크 플랫폼의 인공지능이 이용자에게 제공하는 정보는 엄청나게 달라지게 된다.

네트워크 플랫폼의 영향력이 이렇게 국적을 넘어 막강하기에 갑작스런 네트워크 플랫폼의 지정학적 철수는 한 국가에 큰 타격으로 이어질 수 있다.

때문에 각국의 정부는 네트워크 플랫폼이 지위를 악용하거나 기존에 확립된 책임을 회피하지 못하도록 법적으로 막는 것이 중요한 과제다.

인공지능 시대의 전쟁은 전쟁의 패러다임을 바꿀 것이 확실하다. 앞으로의 전쟁은 사이버 분쟁과 인공지능 기반의 전쟁이 될 것으로 보인다.

사이버 무기는 재래식 무기와 다르게 상대방의 전력을 온전히 파악하기 어려우며 선제공격이 절대적인 타격과 유리함을 부여한다.

또한 사이버 무기는 재래식 무기와 다르게 민간과 군사시설을 구분없이 타격하며 오히려 선진사회일 수록 디지털화의 정도가 높아 더욱 큰 타격을 입힐 수 있다.

또한 사이버 전력과 공작은 비용이 적게 들고 은폐 및 부인이 가능하다. 이런 점으로 인해 각국은 공격을 방어하는 적극방어와 전진방어라는 개념으로 무장하고 있다.

군대의 시스템과 프로세스에 비인간적인 논리를 가진 인공지능이 도입되면 전략이 바뀔 것이다.

인공지능 기반 무기와 방어체계로 전략을 전개하면 인간과 근본적으로 다른 전쟁이 나타날 것인데 인간은 강력한 분석 능력을 갖춘 인공지능에 전략의 상당부분을 의존하고 많은 권한을 위임할 가능성이 농후하다.

전쟁의 전략은 체스와 바둑의 전략과 많이 비견되는데 인공지능이 그 분야에서 인간이 상상할 수 없는 전략을 구사해 충격을 준 것이 전쟁에도 그대로 이어질 것이라 비유하면 그 상상이 좀 더 쉽다.

전통적으로 군사와 민간 영역은 기술적 특수성과 중앙집중적 관리, 효과의 규모에서 차이를 보여왔다.

철도는 군민 양용이나 효과적 파괴력이 부재하며, 핵무기는 군민 양쪽에 타격을 입히고 효과적 파괴력이 있으나 중앙집중적 관리로 제어가 가능하다. 총은 군민 양용이나 효과적 파괴력이 적다.

하지만 인공지능 무기는 이 세 가지를 모두 충족하는 최초의 것이다. 군과 민간에 모두 치명적 영향을 미치고 중앙정부에 의해 통제가 불가능하며, 광범위한 타격 효과를 갖고 오기 때문이다.

때문에 인간은 인공지능무기에 관한 논의를 더 늦기 전에 시작해야만 한다. 최소한의 공통된 어휘로 전략 개념들을 재정의하고 대략적이나마 서로의 제한선을 확인해야만 한다.

마지막으로 인공지능은 인간의 정체성을 흔들 것이다. 인간은 지구 동물의 한 종으로 다른 종에 비해 몇 가지 뛰어난 특성을 갖고 있으며 그것들은 인간정체성의 중요한 부분을 차지한다.

그것들 중 하나는 이성이며 이성은 비판적 사고력 및 사유 등 인간의 지성으로 구성된다. 하지만 인공지능은 바로 이 인간의 이성을 약화시킨다. 네트워크 플랫폼이 제공하는 선별된 정보와 흥미거리는 인간을 중독시키고 학습의 필요성와 의지를 꺽는다.

즉, 사유와 개념 습득의 의지가 약화되는 것이다. 또한 중독과 검색, 생성형 인공지능으로 인해 인간은 심층적 독서와 분석의 필요성도 갖지 못하게 된다. 그걸 대리해주니 말이다.

또한 인공지능은 창조를 대리해 줄 것이며 많은 직업 영역에서 인간보다 탁월한 분석력으로 결과를 도출할 것이며 무엇보다도 인간의 삶의 의미를 찾고 정체성을 얻게 해주는 직업과 그것에서의 성공을 가로챌 가능성이 높다.

이런 상태에서 인간은 자신의 정체성이 뿌리채 흔들리는 경험을 하게 될것이다. 200여년 전 유럽의 농민들은 인클로져 운동으로 인해 수백년간 유지하던 농업인으로서의 정체성이 부정되고 가난한 도시의 하급노동자로 쫓겨나게 되었다.

그들 역시 크게 정체성과 안정성에 위협을 받았을 것인데 그래도 그들은 산업노동자로 재정의 될 수 있었다. 하지만 인공지능에 의해 자리를 잃은 인간에게 어떤 사회적, 경제적 지위가 주어질지는 상당히 불분명하다.

적당한 사회적 합의와 재제가 없다면 그저 선별된 정보와 소비문화에 중독된 기본소득자정도로만 자리잡게 될 것이 분명해보이기 때문이다.

책은 인공지능의 발전과정과 인간사회에 영향을 미칠 많은 부분에 대해 우려와 심도있는 논의를 보인다. 단지 기술과 인공지능 주가에만 흥분할게 아니라 이런 고찰에도 사회적 관심과 교육이 필요하다.

필자:이창훈

여주 북내초등학교 교사