인공지능 경쟁이 치열해질수록 더 많은 GPU와 더 많은 고대역폭메모리(HBM)가 필요할 것이라는 전망이 이어져 왔습니다.
엔비디아의 AI 가속기가 많이 팔릴수록 HBM 수요도 함께 늘어나기 때문에 세계 HBM 시장을 이끌고 있는 삼성전자와 SK하이닉스 역시 AI 시대의 대표적인 수혜 기업으로 꼽혀왔습니다.
그런데 최근 중국 AI 업계에서 조금 다른 이야기가 나오고 있습니다.
미국 기업들이 사용하는 연산 자원의 1~3% 수준으로도 경쟁력 있는 AI 모델을 만들 수 있다는 주장입니다.
중국 AI 스타트업 01.ai를 이끄는 리카이푸 대표는 최근 인터뷰에서 미국의 대중국 첨단 반도체 규제가 오히려 중국 기업들의 연산 효율화와 소프트웨어 최적화를 촉진했다고 설명했습니다. 딥시크 같은 중국 AI 기업들이 제한된 GPU 환경에서 효율을 높이는 방향으로 기술을 발전시키고 있다는 것입니다.
그렇다면 한 가지 궁금증이 생깁니다.
AI가 적은 GPU로도 돌아갈 수 있다면 삼성전자와 SK하이닉스가 대규모로 투자하고 있는 HBM도 지금처럼 많이 필요할까요?
중국 AI가 적은 GPU에 집중하는 이유
현재 AI 산업의 가장 큰 문제 중 하나는 비용입니다.
성능이 뛰어난 AI 모델을 만들고 운영하려면 수많은 GPU가 필요하고, 이를 설치할 데이터센터와 전력·냉각 시설까지 갖춰야 합니다.
특히 중국 기업들은 미국의 첨단 AI 반도체 수출 규제로 최신 GPU를 충분히 확보하기 어려운 상황을 겪어왔습니다.
그러다 보니 중국 AI 기업들은 처음부터 다른 방향을 선택할 수밖에 없었습니다.
GPU를 무작정 늘리는 대신 가지고 있는 연산 자원을 최대한 효율적으로 사용하는 방법을 찾는 것입니다.
모델 구조를 단순화하고 필요한 부분만 선택적으로 작동시키거나 소프트웨어를 최적화해 같은 작업에 필요한 연산량을 줄이는 방식입니다.
이러한 흐름은 AI 산업 전체에도 중요한 의미가 있습니다.
지금까지는 더 뛰어난 AI를 만들기 위해 더 많은 GPU를 투입하는 경쟁이 중심이었다면 앞으로는 같은 성능을 얼마나 적은 비용으로 구현할 수 있는지도 중요한 경쟁력이 될 수 있기 때문입니다.
AI 서비스를 운영하는 기업 입장에서는 성능이 비슷하다면 GPU와 전력 사용량이 적은 기술을 선택하는 것이 훨씬 경제적입니다.
GPU 사용량이 줄면 HBM 수요도 줄어들까
여기서 삼성전자와 SK하이닉스 이야기가 나옵니다.
HBM은 여러 개의 D램을 수직으로 쌓아 대량의 데이터를 빠르게 주고받을 수 있도록 만든 고성능 메모리입니다. AI 가속기 성능을 높이는 데 중요한 부품이 되면서 최근 몇 년 동안 반도체 시장의 핵심 제품으로 떠올랐습니다.
삼성전자와 SK하이닉스 역시 HBM 생산능력을 확대하기 위해 대규모 투자를 진행하고 있습니다.
만약 앞으로 AI 모델이 훨씬 적은 GPU로 작동하고 필요한 연산량까지 크게 줄어든다면 HBM 수요 증가 속도가 예상보다 완만해질 가능성은 있습니다.
하지만 이것만 보고 곧바로 “AI 효율이 좋아지면 HBM 수요가 줄어든다”고 판단하기는 어렵습니다.
오히려 반대 상황이 나타날 수도 있기 때문입니다.
예를 들어 AI 서비스를 운영하는 비용이 지금의 절반이나 그 이하로 내려간다면 AI를 사용하는 기업과 서비스가 훨씬 많아질 수 있습니다.
한 번의 AI 작업에 필요한 GPU와 메모리는 줄어들더라도 전 세계에서 AI를 사용하는 횟수가 몇 배, 몇십 배로 증가한다면 전체 데이터센터와 메모리 수요는 오히려 커질 수 있습니다.
실제로 최근 반도체 업계에서는 AI 확대로 HBM뿐 아니라 일반 D램과 NAND까지 공급 부족이 확산될 수 있다는 전망도 나오고 있습니다.
결국 중요한 것은 AI 한 번을 돌리는 데 필요한 반도체의 양보다 전 세계 AI 사용량이 얼마나 빠르게 증가하느냐입니다.
삼성전자·SK하이닉스의 진짜 경쟁도 달라지고 있다
HBM 시장의 변화는 단순히 생산량 경쟁에 그치지 않고 있습니다.
최근에는 HBM 자체에 더 많은 기능을 넣고 고객의 AI 가속기에 맞춰 메모리를 설계하는 방향으로 경쟁이 이동하고 있습니다.
엔비디아가 공개한 차세대 HBM 구상에서도 이런 변화가 나타납니다. 기존에는 GPU가 담당하던 일부 제어 기능을 HBM의 베이스다이 쪽으로 옮겨 시스템 전체의 효율을 높이려는 것입니다.
이에 대응하는 삼성전자와 SK하이닉스의 전략도 조금 다릅니다.
삼성전자는 메모리뿐 아니라 파운드리와 첨단 패키징 기술까지 갖고 있다는 점을 활용해 여러 공정을 한 회사 안에서 연결하는 전략을 강화하고 있습니다.
반면 SK하이닉스는 HBM 시장에서 확보한 경쟁력을 바탕으로 TSMC와 엔비디아 등 외부 기업과 협력을 확대하면서 고객 맞춤형 HBM 개발에 힘을 싣고 있습니다.
여기에 중국도 가세하고 있습니다. 중국 메모리 업체 CXMT가 HBM3E를 소량 생산하기 시작했고 중국 AI 반도체 업체들이 이를 테스트하고 있다는 보도도 나왔습니다.
아직 삼성전자와 SK하이닉스 등 선두 기업들이 HBM4로 넘어가고 있다는 점을 고려하면 기술 격차는 존재하지만 중국이 자체적인 AI 반도체와 HBM 공급망을 만들기 시작했다는 사실은 지켜볼 필요가 있습니다.
결국 중국 AI의 연산 효율화는 삼성전자와 SK하이닉스에 당장 악재라고 단정할 문제는 아닙니다.
AI가 적은 반도체로도 작동하게 되면 한편으로는 HBM 수요 증가 속도가 낮아질 수 있지만, AI 사용 비용이 내려가면서 시장 자체가 훨씬 커지는 효과가 나타날 수도 있기 때문입니다.
앞으로 HBM 시장을 볼 때는 “AI가 얼마나 많은 GPU를 사용하느냐”뿐 아니라 “AI를 사용하는 기업과 사람이 얼마나 빠르게 늘어나느냐”도 함께 봐야 할 것 같습니다.
AI 경쟁이 성능에서 효율로 이동하기 시작한 지금, 삼성전자와 SK하이닉스의 HBM 경쟁도 단순히 더 많이 만드는 경쟁에서 더 효율적인 AI 시스템을 만드는 경쟁으로 바뀌고 있습니다.
