[디지털비즈온 김맹근 기자] 현재 컴퓨팅 구조에, AI와 MetaVerse 동시 구현을 위한 최적화된 구조가 추가로 필요하게 되었다. 덧붙여, 데이터센터 수요 및 메모리 수용 급증 이외에도, 다수의 이종간 CPU, 가속기, 메모리 장치들의 연결은 표준화가 힘든 상황이다. 완전히 유연한 시스템 구성을 위해 다양한 하드웨어들의 무한 확장이 가능하도록 하는 고성능 스위치, 컨트롤러 및 H/W, S/W를 통합한 인프라 기술의 필요성이 증가하면서, AI 서비스 확대에 따른 컴퓨팅 구조의 변화가 필연적이게 된다.

이에 따라 AI 시대의 최대 고민은 급증하는 데이터와 데이터 이동 및 처리 속도로부터 기인하고 있다. 따라서 신속한 빅데이터 처리를 위한 이종간 컴퓨팅과 분산 컴퓨팅을 위한 컴퓨팅 환경의 변화는 필연적이며 더욱 가속화될 전망이다.

현재 컴퓨팅 구조는 FPGA와 같은 H/W 가속기에도 HBM(High Bandwidth Memory)이 결합되며, SSD에도 가속기와 DRAM이 연결되는 새로운 반도체 솔루션을 활용한 컴퓨팅 환경으로 변화 중에 있다. 또한 향후 중요성이 더욱 높아질 ESG 측면에서도 전력소모 최소화 달성을 위한 전성비 및 가성비 극대화를 위한 CXL(Compute Express Link) 환경의 중요성도 부각되고 있다.

위에서 언급했던 것과 같이 인공지능이 확산되면서 기존의 컴퓨팅 구조에 대한 한계점이 더욱 더 드러나고 있다. 기존의 컴퓨팅 구조는 프로그램 명령어를 메모리에서 불러와 실행하는 폰노이만 구조를 따르고 있다.

연산 장치와 메모리 장치가 분리되어 있으므로 버스(Bus)를 이용해 명령어와 데이터를 주고 받게 되는데, 폰노이만 구조의 컴퓨팅은 한번에 하나의 명령어만 처리되는 직렬 컴퓨팅 방식이기 때문에, CPU의 속도를 메모리가 따라가지 못해 데이터 전송 속도가 느려지는 병목현상 (Memory Wall 이라고도 불림)이 발생하는 한계점을 가지게 된다.

이는 데이터를 처리하는 Bandwidth의 한계와 CPU, SRAM, DRAM으로 갈수록 데이터 처리 속도가 느려지기 때문에 발생하는 현상이다. 따라서 데이터 급증으로 인한 데이터 처리 병목 현상을 막기 위한, 데이터 처리속도 증가 및 데이터 이동 최소화 방법이 지속적으로 개발되고 있다.

스트리밍 기반 서비스 및 데이터 급증으로 데이터센터 증설 가속화가 불가피해지면서 Data Interconnect 향상을 위한 컴퓨팅 구조의 변화도 불가피해지고 있다.

메모리 기업들의 제품 개발 방향성은 메모리의 bandwidth를 극대화시키는 HBM(High Bandwidth Memory), 데이터 스토리지(Storage) 근처에서 연산을 하는 PNM(Process Near Memory), 데이터 처리와 컴퓨팅을 같이 할 수 있는 PIM(Process in Memory), CIM(Computing in Memory) 등으로 다양한 연구가 활발히 이루어지고 있다.

초고용량 Memory와 Processor를 결합한 PIM 구조는 데이터 센터에서 더욱 더 중요하다. PIM 구조는 메모리 반도체 업체들이 가장 빠르게 진입 가능한 영역이자 미래 성장동력으로써, 우리나라와 같은 메모리 반도체 강국의 지속적인 성장을 견인하게 될 것이다.

특히 PIM 구조는 최근 데이터 급증으로 인한 데이터센터 증설시, 저전력 고성능 시스템 구현을 위한 필수 아이템으로 자리잡게 될 것으로 전망된다. 삼성에서 개발한 Aquabolt-XL은 HBM 4개와 연결된 HBM-PIM 구조로 개발되었다.

SoC의 궁극적인 방향성은 인간의 뇌를 닮은 뉴로모픽 반도체이다. 뉴로모픽 컴퓨팅은 CPU와 메모리가 직렬로 연결된 기존의 폰노이만 구조에서 벗어나, 인간의 뇌가 뉴런과 시냅스로 구성된 것과 같은 인공 뉴런으로 구성된 병렬 네트워크로 연산, 메모리, 통신 기능을 융합한 형태가 될 것이다.