[디지털비즈온 이호선  기자] “ AI 시스템이 대략 인간 두뇌의 뉴런 사이에 있는 연결 수만큼인 100조 개의 연결을 확보하는 데 5년도 채 걸리지 않을 수 있다.” 고 AI 의 대가 제프리 힌튼(Geoffrey Hinton)교수는 강조했다.

제프리 힌튼교수는 지난 5월 MIT Technology Review가 주최한 EmTech Digital 컨퍼런스에서 “생성 지능이 잘못된 정보를 퍼뜨리고 결국 인류를 위협할 수 있다”고 경고했다.

컴퓨터 모델은 인간이 할 수 없는 일을 포함하여 인간보다 뛰어난 성능을 발휘한다. GPT-4와 같은 대규모 언어 모델은 인간 두뇌와 같은 연결을 갖춘 신경망을 사용하고 상식적 추론을 시작했다고 말했다.

제프리 힌튼 교수는 향후 AI 추론 능력이 사람을 뛰어넘을 수 있는 이유도 밝혔다. 힌튼 교수 설명에 따르면, 현재 가장 성능 높은 AI 챗봇 매개변수는 1조개다. 반면 인간 뇌 매개변수(시놉시스)는 약 100조개다.

힌튼 교수는 챗봇이 사람보다 매개변수는 적지만, 더 복잡한 일을 사람보다 더 잘 이해, 처리할 수 있다는 입장이다. 그는 "일반적으로 사람은 복잡한 일을 처리할 경우, 이를 충분히 숙지하고 이해해야 한다"고 말했다. 사람은 뇌에서 무슨 일이 일어나는지, 신경망이 이를 어떻게 받아들이는지 인지하지 못하기 때문이라고 설명했다.

제프리 힌튼 교수는 “내가 양자역학에 대해 많은 것을 배우고 여러분도 양자역학에 대한 모든 것을 알기를 바란다면 여러분이 그것을 이해하도록 만드는 것은 길고 고통스러운 과정입니다.” 라고 했다.

AI는 한 사람이 처리할 수 있는 것보다 훨씬 더 많은 양의 데이터를 처리할 수 있기 때문에 강력하다. 그리고 AI 모델은 사람이 볼 수 없는 데이터의 추세를 감지할 수 있다. “마치 1억 명의 환자를 진료한 의사가 단지 1000명의 환자를 진료한 의사보다 더 많은 추세를 파악하고 더 많은 통찰력을 얻을 수 있는 것과 같다.”고 덧붙였다.

그는 "반면 AI는 말 그대로 기계"라며 "매개변수 간 연결성과 정보 처리 과정을 사람보다 더 잘 안다"고 설명했다. 힌튼 교수 설명에 따르면, AI가 난이도 높은 업무를 수행할 경우 학습 알고리즘을 통해 데이터와 상호작용하면서 복잡한 신경망을 새로 만든다. 해당 신경망을 통해 복잡한 업무를 즉각적으로 받아들이고 처리할 수 있다.

제프리 힌튼 교수는 "AI의 이런 능력이 더 발달한다면, 향후 자율적으로 컴퓨터 코드를 생성·실행할 수 있을 것"이라고 예측했다. 컴퓨터 시스템이 인간 통제를 벗어날 수 있다는 의미다.

그는 "이를 통해 AI가 사람을 조종할 수 있을 것"이라고 강조했다. 힌튼 교수는 "AI는 지금까지 인류가 작성한 모든 뉴스, 소설, 기밀 서류 등을 학습했다"며 "사람을 조종하고 설득하는 데 매우 능숙할 것"이라고 주의했다.

제프리 힌튼 교수는 AI가 추론 능력을 더 기르면 향후 자의식까지 가질 수 있다고 말했다. AI가 현재 데이터에 기반해 추론하는 것에 그치지만, 향후 자율적인 컴퓨팅 조종으로 자율적인 판단이 가능하다는 이유에서다.

교수는 AI의 영향에 대해 절망한다는 말은 아니지만, 기술을 건전하게 사용하면 큰 대가를 치르게 될 수 있다고 경고했다. 인간은 AI가 어떻게 잘못될 수 있는지 이해하고 AI가 제어권을 빼앗는 것을 방지하기 위해 "실증적 작업"을 수행해야 할 수도 있다고 밝혔다.

한편 힌튼 박사는 기술 임원과 연구원을 포함해 27,000명 이상이 "사회와 인류에 대한 심각한 위험" 때문에 가장 강력한 AI 시스템 훈련을 최소 6개월 동안 중단할 것을 요구하는 ‘Asilomar AI 원칙’ 공개 서한에 서명했다.