[디지털비즈온 김맹근 기자] 시스템 반도체는 데이터의 수집, 전송, 연산 등 전 과정에 활용되며, 이 중 인공지능 반도체는 데이터의 학습 추론 등 인공지능의 핵심 연산을 수행한다. 인공지능 기술은 대규모의 데이터를 고속 처리하면서 발생하는 비용 및 학습 시간과 함께 전력 소비도 증가하는 문제를 가지고 있으며, 이를 해결하기 위해 AI 반도체를 활용한다.
기존의 컴퓨터는 폰노이만 박사가 발명한 구조에 기반하고 있다. CPU를 통해 연산 된 결과를 메모리에 기억하고, NAND Flash와 같은 저장 장치에 기록하는 구조인 것이다. CPU와 메모리 사이를 전송회로(BUS)를 통해 연결하므로 처리속도가 느려지게 된다.
이러한 AI 연산에 관한 기존 반도체의 한계 (전력 소모 과다, 연산 효율 하락)를 보완하기 위해 ‘신경망처리장치(Neural Processing Unit; NPU)’, ‘지능형 메모리 반도체(Processor-In-Memory; PIM)’, ‘뉴로모픽(Neuromorphic)’ 등 차세대 AI 반도체가 연구·개발되고 있다.
NPU는 인간처럼 생각하고 판단하는 Computing Like Human을 인공지능에서 구현하기 위해 인간의 뇌처럼 촘촘한 병렬 구조의 뉴런(노드)를 지원한다. 그리고 연관된 뉴런들이 서로 연결되며 학습 과정을 반복하여 연관성의 정도를 수치로 계산할 수 있도록 최적화된 모델링 구조를 S/W적으로 갖추고 있다. 또한 수 억 개의 모델 변수를 최적화된 연산 구조로 병렬 처리하여 저전력 구현이 가능하므로 인공지능의 핵심인 딥러닝 알고리즘에 핵심적인 프로세서라고 할 수 있다.
하지만 NPU는 구조상 다른 AI 알고리즘을 습득하기 어렵다. AI 알고리즘의 딥러닝 네트워크를 구성하는 신경망을 하드웨어로 구현했기 때문에 다른 알고리즘을 구현할 때 오히려 더 큰 시간과 비용이 소요될 수 있다. 따라서 GPU보다 범용성이 적다는 단점이 있습니다. 다만 AI 연산의 용도에서 NPU 는 GPU 대비 높은 효율을 보인다.
또한 ASIC(주문형반도체)의 장점인 대량생산을 통한 ‘가격 경쟁력’ 확보가 뛰어나다는 장점을 가진다. 이에 대규모 데이터센터보다 가격과 크기, 전력 효율을 필요로 하는 엣지(Edge)나 게이트웨이(Gateway)에서 NPU를 주로 채택하고 있다. 또한 대부분 NPU는 스마트폰의 영상·이미지·음성 인식 등 AI 기반 기술에 사용되고 있다.
PIM(Processing-In-Memory) 또한 기존 반도체의 한계를 뛰어넘을 대안으로 떠오르고 있다. PIM은 연산과 메모리를 반도체 칩 내부에 동시에 존재하도록 하는 반도체이다. 그동안 많은 연구가 이루어져 왔지만 폰노이만 구조를 PIM으로 수정하기 위한 비용적 문제와 성능 및 전력 향상이 기대에 미치지 못한다는 기술적 이익 문제로 인해 큰 성공을 거두지 못하였다.
인간은 연산, 기억, 저장이 하나의 공간인 뇌(Brain)에서 이루어진다. 인텔이 인간의 뇌를 모방하여 만든 뉴로모픽 로이히 프로세서는 13만개의 뉴런이 수천개의 다른 뉴런들과 각각 통신하며 업데이트를 한다. 병렬로 연결된 뉴런을 갖춘 인간의 뇌처럼 동작하기 때문에 전통적 방식의 프로세서와 비교해 1,000배까지 빠르고, 최대 1만배 이상 효율적인 작업이 가능하다. 또한 뇌처럼 하나의 반도체에 메모리와 연산이 통합되어 있어 차세대 AI로 떠오르고 있다.
위 반도체가 발전하는 동안에는 GPGPU(General Purpose GPU)가 인공지능 시장을 이끌 것이다. GPGPU는 그래픽 처리를 위한 보조 장치였던 GPU를 보완하여 컴퓨터의 중앙처리 장치인 CPU를 대신하여 모든 데이터 연산 및 처리를 하는 GPU상의 범용 계산 장치이다. GPU는 여전히 가장 빠르게 성장하는 인공지능(AI) 반도체입니다.
중장기적으로 반도체 시장의 성장을 이끌 품목은 단연 AI 반도체이다. AI 반도체는 보다 범용화 되어있고, S/W적으로도 잘 지원되는 CPU, GPU 등과 재프로그래밍(Reprogrammable)이 가능한 FPGA, 그리고 Cloud 기업 위주로 자체 제작하는 전용 반도체 칩인 ASIC이 성장하게 될 것이다. 미래의 인공지능 시장에서 최고의 경쟁력을 갖출 SoC Accelerator인 NPU 계열의 반도체가 등장하며, 더욱 강력한 인공지능의 시대가 열리게 될 것이다.