신경망 처리 장치,NPU

신경망 처리 장치, 神經網處理裝置,

Neural Processing Unit, NPU

인공 신경망(ANN: Artificial Neural Network) 알고리즘의

연산을 고속으로 처리하기 위하여 개발한 장치(unit).

수천 개 이상의 연산을 동시에 처리해야 하는 대규모 병렬 연산을 효율적으로

처리하는 장치(unit)로 심층 기계 학습(deep learning)에 주로 활용한다.

신경망 처리 장치(NPU: Neural Processing Unit)는 기존 컴퓨터에 있는

중앙 처리 장치(CPU: Central processing unit)와 그래픽스 처리 장치(GPU: Graphics Processing Unit)에

비하여 에너지를 효율적으로 쓸 수 있고, 빠른 속도로 행렬 곱셈 연산이 가능한 하드웨어다.

CPU는 복잡한 연산을 처리할 수 있지만, 직렬 연산으로 정보를 처리한다.

GPU는 CPU보다 상대적으로 다수의 간단한 연산을 병렬로 처리한다.

컴퓨터 이미지는 수백만 개 가량의 픽셀(pixel) 단위 정보를 동시에 처리하는데

이러한 정보는 GPU를 사용하여 병렬 연산하는 것이 효율적이다.

NPU는 GPU보다도 간단한 연산을 행렬 곱셈 방식으로 처리하도록 설계되었다.

특히, 심층 신경망(DNN: Deep Neural Network)을 사용하는 심층 기계 학습(deep learning)은

하나의 입력 데이터를 처리하기 위하여 여러 계층(layer)으로 이루어진 복잡한 행렬 곱셈 연산을 수행해야 한다.

이 경우 NPU를 적용하면 GPU보다 더 빠른 속도로 연산할 수 있다.

대표적인 NPU로 구글에서 개발한 텐서 처리 장치(TPU: Tensor Processing Unit)가 있다.

TPU는 2016년 이세돌과 대국에서 승리한 ‘알파고 리’ 버전에서 최초로 사용되었다.

당시 TPU는 8비트 정수의 행렬 연산을 처리하도록 구성되어 GPU 대비 15~30배의 연산 처리 속도와 30~80배의 전력 효율을 보였다.

심층 기계 학습(deep learning)을 활용한 안면 인식(facial recognition),

생체 인식(biometric authentication), 음성 인식(voice recognition),

지능형 개인 비서(IPA: Intelligent Personal Assistant) 등의

응용 애플리케이션을 스마트폰 기능에 넣는 경우가 늘면서 이를 효율적으로

처리하기 위하여 NPU를 탑재한다. 자율 주행 자동차(autonomous vehicles),

클라우드 데이터 센터 등 다양한 산업 영역에서도 NPU를 사용한다.

신경-1.JPG

신경-2.JPG

출처:TTA 정보 통신 용어사전

게시물 댓글 0개

상세페이지