HBM 넘어 'AI 꿈의 반도체' HBS 온다! 삼전-SK하닉 3D 적층 기술로 승부!
미래 AI 컴퓨터의 핵심, HBM과 그 너머
미래 AI 컴퓨터는 여러 층으로 쌓아 올린 3D 반도체 구조가 될 가능성이 높아. 맨 위에 GPU가 올라가서 열을 식히는 방식인데, 여기서 가장 어려운 기술 중 하나가 바로 전력 공급이야. 몇 천 암페어를 공급해야 하는데, 이 전력 공급망 설계가 미래 기술력의 핵심이 될 거라고 해.
HBM, 왜 중요할까?
HBM(고대역폭 메모리)은 요즘 AI 시대에 정말 중요한 기술인데, 사실 나온 지는 얼마 안 됐어. HBM3는 2년 정도 됐고, HBM1은 2010년대 초반부터 SK하이닉스와 엔비디아, AMD가 같이 개발했지. 처음에는 그래픽 카드용으로 나왔지만, 지금은 AI의 핵심 부품이 되었어.
카이스트 김정호 교수님은 HBM의 아버지라고 불릴 정도로 이 분야의 전문가인데, 교수님은 박사 학위를 물리학 쪽에서 받았지만, 미래에는 메모리가 중요해질 거라고 생각해서 1994년에 삼성전자 메모리 사업부에 입사했대. 그리고 2010년쯤 HBM이 상품으로 나오기 시작했지.
신기한 건, HBM에 필요한 양자역학, 반도체 물리, 수학 같은 과목들이 대학교 2~3학년 때 배우는 내용이라는 거야. 특히 수학의 선형 대수가 많이 필요한데, 교수님이 이걸 1981년에 공부했으니, 30년이 넘어서 HBM이 나오는데 다 도움이 된 셈이지.
AI 시대, HBM은 어떻게 쓰일까?
처음에는 HBM이 그래픽 카드에 쓰일 거라고 생각했지만, 교수님은 우리나라 TV 산업이 발전했으니 TV에 넣고 싶어 했대. 화면을 더 생생하게 만들 수 있을 거라고 생각했지.
그러다가 2015년쯤 딥러닝이라는 단어를 듣고 AI에 관심을 갖게 됐어. 겉으로는 HBM 연구실이었지만, 개인적으로는 AI 공부를 시작한 거지. 그러다 보니 AI 알고리즘과 HBM이 딱 맞아떨어지는 걸 발견했대.
AI 알고리즘은 엄청난 양의 데이터를 빠르게 처리해야 하는데, HBM은 이 두 가지를 해결해 줘.
- 용량 증가: AI가 발전하면서 필요한 데이터 양이 엄청나게 늘어나고 있어. 반도체를 더 작게 만드는 데 한계가 오면서, HBM은 여러 개의 메모리를 쌓아서 용량을 늘리는 방식을 택했지.
- 속도 향상: 쌓아 올린 메모리에서 데이터를 GPU로 빠르게 보내야 하는데, HBM은 마치 1024차선, 2048차선 고속도로처럼 데이터를 동시에 많이 보낼 수 있는 기술을 사용해.
결과적으로 HBM은 용량도 늘리고, 데이터도 빛의 속도로 보내는 병렬 구조가 핵심이야.
HBF, HBM의 든든한 지원군
HBM만으로는 부족할 때가 있어. AI에 참고 파일, 유튜브 영상 같은 다양한 데이터를 같이 입력해야 하거나, AI가 24시간 일하면서 처리해야 할 양이 엄청나게 늘어나면 메모리 용량이 더 필요해지거든.
이럴 때 등장하는 게 HBF(고대역폭 플래시 메모리)야. HBM처럼 랜드 플래시 메모리를 쌓는 건데, 랜드 플래시는 D램보다 용량이 훨씬 크고 오래 기억할 수 있지. SK하이닉스, 삼성전자 등이 HBF를 개발하고 있어.
HBM과 HBF는 서로 경쟁하는 게 아니라, 상호 보완적인 관계야. HBM은 빠르고, HBF는 용량이 커. HBM 8 정도가 되면 이 두 가지가 함께 사용될 가능성이 높아. 마치 아파트 단지에 백화점과 다양한 종류의 아파트가 함께 있는 것처럼 말이야.
미래 AI 컴퓨터의 핵심, 메모리
결론적으로 미래 AI 컴퓨터는 메모리가 핵심이 될 거야. AI의 성능은 결국 메모리 성능에 달려있다고 해도 과언이 아니지. 그래서 AI 기업, AI 국가들은 메모리 회사에 줄을 설 수밖에 없는 상황이 오고 있어.
이제는 AI 데이터 센터뿐만 아니라, 개인 컴퓨터(AIPC), 스마트폰까지 AI가 탑재되면서 메모리 수요는 더욱 폭발적으로 늘어날 거야.
GPU의 한계와 메모리의 부상
엔비디아의 GPU가 현재 AI 시장을 주도하고 있지만, GPU의 기술적 성장은 거의 멈춰가고 있다는 분석도 있어. AI의 능력이 학습에서 추론으로 중요성이 옮겨가면서, 더 많은 데이터를 처리하는 메모리의 중요성이 커지고 있거든.
GPU는 성능을 높이려면 면적을 넓혀야 하는데, 이게 쉽지 않아. 반면에 메모리는 쌓아 올리는 방식으로 용량을 늘릴 수 있지.
교수님은 미래에는 HBM 안에 GPU가 들어가는 구조가 될 거라고 예측해. GPU가 메모리를 기다리며 놀고 있는 시간을 줄이기 위해서지. 이걸 메모리 센트릭 컴퓨팅이라고 부르는데, 이미 HBM 4부터 이런 시도가 시작되고 있대.
HBS, 새로운 가능성
최근에는 HBS(고대역폭 S램)라는 개념도 제시되었어. S램은 D램보다 훨씬 빠르지만 용량이 적은데, HBS는 웨이퍼 전체를 S램으로 만들고 여러 층 쌓아서 용량을 늘리는 방식이야. 여기에 GPU를 올리면 엄청난 속도와 용량을 갖춘 AI 컴퓨터가 될 수 있지.
미래의 AI 컴퓨터는 HBM, HBF, HBS가 100층짜리 건물처럼 쌓이고, 맨 위에 GPU가 올라가는 3D 반도체 구조가 될 가능성이 높아. 여기서 가장 어려운 기술은 전력 공급과 냉각 기술이 될 거라고 해.
삼성전자와 SK하이닉스의 기회
이런 미래 구조에서 삼성전자와 SK하이닉스는 HBM과 HBF를 동시에 할 수 있는 몇 안 되는 회사이기 때문에 엄청난 기회를 잡을 수 있어. 단순히 칩을 만드는 것을 넘어, 고객사에 맞춰 설계하는 커스텀 HBM 시장이 열리면서, 삼성전자와 SK하이닉스가 주도권을 잡을 수 있다는 거지.
물론 중국의 추격도 무시할 수 없지만, 기술 격차와 함께 국제 정치적인 상황도 변수가 될 수 있어.
결론적으로 미래 AI 컴퓨터의 핵심은 메모리에 있고, HBM, HBF, HBS와 같은 3D 반도체 구조가 그 중심이 될 거야. 그리고 이 분야에서 삼성전자와 SK하이닉스가 중요한 역할을 할 것으로 기대돼.