온디바이스 AI를 위한 초저전력 반도체 설계 기술

스마트폰과 웨어러블 기기에서 인터넷 없이 인공지능을 구동하는 온디바이스 AI 초저전력 반도체 설계 기술을 알려드리겠습니다. 연산 비트를 줄이는 모델 양자화와 가지치기부터 클록 게이팅 및 서브스레숄드 회로 제어 메커니즘을 확인해 보세요.

모델 가중치를 압축하고 연산량을 줄이는 신경망 경량화 알고리즘

인터넷 연결 없이 스마트폰이나 스마트워치, 증강현실 안경과 같은 작은 단말기 내부에서 인공지능이 사용자의 음성을 실시간 통역하고 사진 속 피사체를 즉각 인식하는 온디바이스 AI 기술은 현대 IT 기기의 가장 강력한 차별화 요소로 자리 잡았습니다. 하지만 이러한 온디바이스 인공지능을 구현하는 과정에서 엔지니어들이 마주하는 가장 가혹한 현실은 바로 턱없이 부족한 하드웨어 자원과 배터리 용량의 한계입니다.

모델 가중치를 압축하고 연산량을 줄이는 신경망 경량화 알고리즘

거대 언어 모델이나 딥러닝 영상 분석 모델은 본래 수백 와트의 전기를 집어삼키는 거대한 클라우드 데이터센터 서버의 슈퍼컴퓨터 위에서 돌아가도록 만들어졌습니다. 수천억 개의 매개변수 숫자를 쉴 새 없이 곱하고 더하는 방대한 연산을 손바닥만 한 스마트폰이나 동전만 한 스마트워치 배터리로 그대로 돌리려 한다면, 기기는 불과 몇 분 만에 손을 델 수 없을 정도로 뜨겁게 과열되고 배터리는 순식간에 바닥나 버립니다. 이러한 물리적 한계를 정면으로 돌파하기 위해 온디바이스 AI 반도체 설계에서 가장 먼저 선행되는 핵심 기술은 거대한 인공신경망의 군살을 극한으로 깎아내는 알고리즘 수준의 신경망 경량화 기술입니다. 그중에서도 가장 핵심적인 기법이 바로 연산에 쓰이는 숫자의 정밀도를 과감히 낮추는 모델 양자화(Quantization) 메커니즘입니다. 서버에서 학습된 원래의 인공지능 모델은 소수점 아래 수십 자리까지 정밀하게 표현하는 32비트 고정밀 부동소수점(FP32) 숫자로 가중치를 저장합니다. 온디바이스 AI 칩 설계자들은 사람의 눈이나 귀가 인공지능 결과물의 미세한 소수점 오차를 거의 인지하지 못한다는 점에 착안하여, 32비트 숫자를 단 8비트 정수(INT8)나 4비트 정수(INT4) 수준으로 대폭 압축하여 변환합니다. 연산 비트 수를 32비트에서 8비트로 4분의 1만 줄여도 실리콘 칩 내부에서 일어나는 변화는 기적에 가깝습니다. 32비트 숫자를 곱하는 연산기는 회로가 매우 거대하고 수천 개의 트랜지스터를 소모하지만, 8비트 정수를 곱하는 연산기는 회로 크기가 10분의 1 이하로 극단적으로 작아집니다. 따라서 칩 내부에서 전기를 소모하는 트랜지스터의 면적이 획기적으로 줄어들고, 1와트당 처리할 수 있는 연산의 숫자가 5배에서 10배 이상 폭발적으로 뛰어오릅니다. 더불어 데이터를 저장하고 전송하는 메모리 용량 역시 4분의 1로 줄어들기 때문에, 메모리에서 연산기로 가중치를 실어나를 때 발생하는 고질적인 배선 전력 소모를 70퍼센트 이상 줄여주는 엄청난 절전 효과를 선사합니다. 여기에 더해 연산에 거의 기여하지 않는 쓸모없는 신경망 연결을 가위로 잘라내듯 없애버리는 가지치기(Pruning) 기술이 결합됩니다. 수억 개의 가중치 중 값이 0에 가깝거나 결과에 거의 영향을 주지 않는 불필요한 연결 통로들을 50퍼센트 이상 과감하게 솎아내어 지워버립니다. 최신 온디바이스 NPU는 이 0으로 비어 있는 데이터들을 하드웨어적으로 즉각 감지하여 연산기 자체를 아예 켜지 않고 건너뛰는 희소 연산(Sparsity) 가속 회로를 내장하고 있습니다. 불필요한 0의 계산을 건너뛰는 만큼 칩의 가동 시간이 단축되고 전력 소모가 획기적으로 차단됩니다. 또한 복잡한 거대 모델의 지식을 가볍고 작은 소형 모델로 압축하여 가르치는 지식 증류(Knowledge Distillation) 기법을 함께 적용하여, 모델의 크기를 손바닥 크기로 줄이면서도 인공지능 고유의 높은 정확도를 온전히 보존해 냅니다.

찰나의 전력 누수를 차단하는 파워·클록 게이팅

소프트웨어와 알고리즘 단에서 연산량을 아무리 줄여놓았다 하더라도, 이를 실제로 실행하는 실리콘 하드웨어 회로 자체에서 전기가 줄줄 새어 나간다면 진정한 초저전력 구동을 달성할 수 없습니다. 트랜지스터의 선폭이 5나노미터 이하로 극단적으로 미세화된 현대 반도체에서는 칩이 활발하게 일하고 있을 때 소모되는 동적 전력 못지않게, 칩이 멍하니 켜져만 있어도 절연막 틈새로 전기가 새어 나가는 누설 전류(Leakage Current)가 전체 배터리 소모의 절반 이상을 차지하기 때문입니다. 따라서 온디바이스 AI 칩의 하드웨어 엔지니어들은 나노초 단위로 전기의 흐름을 틀어막고 극도로 낮은 전압에서 회로를 쥐어짜듯 구동하는 초저전력 아키텍처 제어 기술을 칩 설계에 집약하고 있습니다.

찰나의 전력 누수를 차단하는 파워·클록 게이팅

가장 대표적인 하드웨어 절전 메커니즘은 바로 파워 게이팅(Power Gating)과 클록 게이팅(Clock Gating) 기술입니다. 온디바이스 기기는 온종일 인공지능 연산을 풀가동하지 않습니다. 스마트폰이 주머니 속에 들어 있거나 사용자가 화면을 보지 않을 때는 대부분의 연산 블록이 쉬고 있어야 합니다. 클록 게이팅은 연산 유닛이 작업을 하지 않는 순간, 회로 내부로 박자를 맞추어 공급되던 클록 신호를 중간 스위치에서 즉시 차단해 버리는 기술입니다. 트랜지스터가 신호에 맞추어 켜지고 꺼지는 스위칭 동작을 멈추기 때문에 찰나의 헛바퀴 회전으로 인한 동적 전력 소모를 0으로 만듭니다. 한 단계 더 나아가 파워 게이팅은 작업이 없는 특정 회로 블록의 메인 전원 스위치 자체를 물리적으로 완전히 꺼버리는 기술입니다. 예를 들어 카메라로 사진을 찍지 않고 음악만 듣고 있는 상황이라면, 카메라 영상 분석을 담당하는 NPU 연산 코어 구역으로 들어가는 전력 공급선을 트랜지스터 밸브로 꽉 잠가버립니다. 전기가 아예 통하지 않는 단절 상태로 만들어버리기 때문에 나노미터 절연막 틈새로 새어 나가던 누설 전류를 100퍼센트 완벽하게 차단할 수 있습니다. 그러다가 사용자가 카메라 앱을 터치하는 찰나의 순간, 수 나노초 만에 전원 밸브를 다시 열어 연산기를 번개처럼 깨워내는 초정밀 기상 시퀀싱을 수행합니다. 두 번째이자 반도체 물리학의 한계를 극한까지 밀어붙인 혁신 기술은 바로 초저전압(Near-Threshold) 및 서브스레숄드(Subthreshold) 회로 설계입니다. 일반적인 반도체 트랜지스터는 문턱 전압(Threshold Voltage)이라는 일정한 기준선 이상의 충분한 전압을 걸어주어야 스위치가 활짝 열리며 전류가 강하게 흐릅니다. 하지만 반도체가 소모하는 전력의 크기는 인가되는 전압의 제곱에 비례하여 기하급수적으로 폭증합니다. 전압을 조금만 낮추어도 배터리 소모를 상상을 초월할 정도로 아낄 수 있다는 뜻입니다. 이에 따라 온디바이스 AI 엔지니어들은 트랜지스터가 완전히 켜지는 문턱 전압보다 훨씬 낮은 0.3볼트에서 0.5볼트 수준의 극저전압 상태에서 칩을 구동하는 기술을 개발했습니다. 스위치를 활짝 열지 않고, 문턱 전압 아래에서 미세하게 새어 나오는 아주 연약한 전류의 흐름만을 정밀하게 감지하여 0과 1의 논리 연산을 수행하게 만드는 것입니다. 전압을 바닥 수준으로 낮추어 구동하기 때문에 칩의 전력 소모는 기존 대비 80퍼센트에서 90퍼센트 이상 극적으로 줄어듭니다. 물론 전압이 너무 낮으면 연산 속도가 다소 느려지고 외부 온도 변화나 미세 잡음에 의해 신호가 흔들리는 취약점이 발생하지만, 이를 보정하기 위해 오류 정정 회로와 적응형 전압 조절(AVS) 시스템을 칩 내부에 결합하여 초저전압에서도 흔들림 없는 연산 신뢰성을 완성했습니다. 이러한 초저전력 설계 기술들은 스마트워치나 무선 이어폰과 같은 초소형 웨어러블 기기에서 마이크로와트(uW) 수준의 극미량 전력만으로도 24시간 내내 사용자의 맥박 이상을 감시하고 헤이 시리와 같은 호출 음성을 항상 대기(Always-On) 상태로 감지할 수 있는 기적 같은 배터리 수명을 실현해 냈습니다.