구글 TPU가 연 AI 반도체 '새 질서'…국내 NPU 업계도 움직인다

GPU 의존 깨는 제미나이3, 기술 패러다임 전환 신호탄

챗GPT, 제미나이 등 인공지능(AI) 플랫폼 어플리케이션. 연합뉴스

구글이 새 인공지능(AI) 모델 '제미나이3'을 공개하며 또 한 번 시장을 흔들었다. 성능 경쟁에서 오픈AI 챗GPT를 정면으로 겨냥한 데다, 무엇보다 엔비디아 GPU 없이 자체 설계한 TPU(Tensor Processing Unit)만으로 초거대 모델을 학습시켰다는 점이 업계를 놀라게 했다. 'AI 인프라=엔비디아 GPU'라는 고정된 공식이 깨지는 순간이었다.

구글은 TPU와 이를 묶는 A3·A4 슈퍼컴퓨터, 그리고 JAX·XLA 소프트웨어 조합으로 AI 학습 방식을 근본적으로 재구성했다. 이는 마치 하나의 '거대한 공장 시스템'을 떠오르게 한다. TPU는 범용 연산 대신 AI 핵심 계산만 수행하는 전용 기계, A3·A4는 수천 개의 칩을 초고속 통신망으로 연결해 하나의 거대한 장치처럼 움직이게 하는 설비, JAX는 설계도를 공장 라인(TPU)이 이해할 수 있는 언어로 자동 변환하는 번역기, XLA는 각 칩에 연산을 효율적으로 배분하는 공장 관리 시스템인 셈이다.

구글이 AI 학습의 전체 프로세스를 하드웨어·소프트웨어 풀스택으로 재정의하면서 GPU 독주 체제에 첫 균열을 낸 셈이다.

이 변화는 오랫동안 엔비디아의 기술·생태계에 가로막혀 있던 국내 NPU(Neural Processing Unit) 업계에도 적지 않은 파장을 일으키고 있다.

국내 AI 반도체 업계는 추론(inference) 시장에서 GPU 대체제가 실제로 형성되고 있는 상황이라고 진단하고 있다.

온디바이스 AI 반도체 전문 딥엑스 관계자는 "구글이 엔비디아의 기술적 해자인 NV링크·인피니밴드를 브로드컴 토마호크 기반 설계로 뛰어넘어 더 빠른 통신 속도를 구현했다는 점이 중요하다"며 비용·트래픽 문제에 부딪힌 기업들이 TPU 같은 대안에 자연스럽게 눈을 돌릴 것이라고 전망했다.

피지컬AI 기업 써로마인드는 "오픈AI나 딥시크도 쿠다 생태계 없이 자체 프레임워크로 모델을 만들고 있다"며 소프트웨어 주도형 경쟁이 강화되는 흐름을 짚었다. 국내에서도 늦게나마 개발 프레임워크 연구가 진행되는 만큼 NPU 고도화에 기회가 있다는 시각이다.

이종호 서울대 교수(전 과기정통부 장관)는 "국내 AI 반도체 회사인 퓨리오사AI의 인력 비중이 하드웨어 30%, 소프트웨어 70% 정도로 이미 풀스택 접근을 시도하는 단계"라며 "PIM(Process-In-Memory)처럼 한국이 강점을 가진 차세대 AI 반도체 기술에 집중할 필요가 있다"고 조언했다.