AI 투자의 핵심은 GPU라고 생각하셨습니까? 저도 그랬습니다. 그런데 실제로 파고들수록 GPU를 둘러싸고 있는 메모리가 없으면 AI 서버 자체가 작동하지 않는다는 사실이 보였습니다. HBM, 즉 고대역폭 메모리(High Bandwidth Memory)에 투자 관심이 생긴 건 바로 그 순간부터였습니다. 막연히 좋다는 말만 듣고 들어갔다가 생각보다 복잡한 구조에 멈칫했던 경험을 솔직히 공유해 보겠습니다.
TSV 기술, 이걸 모르면 HBM 투자 반만 아는 겁니다
HBM을 처음 접했을 때 저는 그냥 빠른 메모리 정도로만 이해했습니다. 그런데 실제로 SK하이닉스 관련 자료를 찾아보면서 TSV(Through Silicon Via)라는 기술이 핵심이라는 걸 알게 됐습니다. TSV란 반도체 칩을 여러 층으로 쌓을 때 각 층을 수직으로 관통하는 전기 통로를 뜻합니다. 건물로 치면 엘리베이터 샤프트에 해당합니다.
HBM은 D램 칩을 16층까지 쌓아올리는 구조입니다. 이때 1층과 16층 모두 동일한 전력을 받고, 온도도 균일하게 유지돼야 합니다. TSV가 이 역할을 맡는데, 단 하나라도 불량이 생기면 추가 TSV를 설치해서 우회하는 방식으로 보완합니다. 제가 이 구조를 처음 이해했을 때 솔직히 이건 투자 판단 이전에 공학적으로 대단한 일이라는 생각이 먼저 들었습니다.
TSV 기술의 핵심은 수율(Yield)과 직결됩니다. 수율이란 전체 생산된 칩 중 정상 작동하는 칩의 비율을 뜻합니다. 16층 구조에서 수율이 조금만 떨어져도 생산 원가가 급격히 올라갑니다. 실제로 삼성전자가 HBM3E 고객사 승인 과정에서 수율 문제로 어려움을 겪었다는 보도가 있었고, 이 시기 두 회사의 주가 방향이 갈렸습니다. 기술력만큼이나 수율 안정화가 투자 판단의 핵심 변수라는 것을 몸으로 느꼈습니다.
또한 TSV 적층 공정에 필요한 장비를 공급하는 국내 업체들이 동반 성장하고 있다는 점도 주목할 만합니다. HBM 생태계는 단순히 SK하이닉스나 삼성전자만의 이야기가 아니라, 장비·소재·패키징 기업까지 연결된 구조입니다. 이 연결 고리를 이해하지 않으면 투자 기회를 절반 이상 놓치게 됩니다.
수율 리스크, HBM 투자자가 실제로 겪는 문제
HBM 투자를 처음 고민할 때 가장 많이 들은 말이 "AI 수요가 폭발하니까 당연히 좋다"는 것이었습니다. 그런데 제 경험상 이건 절반만 맞는 말입니다. 수요가 아무리 좋아도 공급 측의 수율과 고객사 승인이라는 장벽이 엄연히 존재하기 때문입니다.
HBM의 수요를 결정짓는 핵심 개념 중 하나가 KV 캐시(Key-Value Cache)입니다. KV 캐시란 AI가 질문을 처리할 때 생성하는 임시 저장 데이터로, 입력 문장이 길어질수록 그 크기가 제곱에 비례해서 늘어납니다. 최근 AI 서비스들이 영상 생성, 문서 분석, 멀티모달 처리로 확장되면서 KV 캐시 크기가 수백 기가바이트까지 치솟고 있습니다. 이게 HBM 수요 폭발의 실제 원인입니다.
그러나 투자자 입장에서는 이미 이 기대가 주가에 상당 부분 반영됐을 가능성을 봐야 합니다. 실제로 2024~2025년 사이 SK하이닉스 주가는 HBM 기대감으로 큰 폭으로 올랐지만, 이후 삼성전자의 HBM3E 추격, 마이크론의 공급 확대 소식, 그리고 터보퀀트(Turbo Quant)나 딥시크(DeepSeek) 같은 메모리 절감 기술 등장으로 변동성이 커졌습니다. 터보퀀트란 AI 연산에서 데이터를 낮은 정밀도로 압축해 메모리 사용량을 줄이려는 기술입니다. 이론적으로는 매력적이지만, 정밀도 손실로 인한 오류 리스크가 남아 있습니다.
HBM 투자에서 실제로 확인해야 할 변수들을 정리하면 다음과 같습니다.
- 고객사(엔비디아, AMD, 구글 등)의 HBM 승인 여부와 공급 계약 규모
- HBM3E, HBM4 등 차세대 제품의 수율 안정화 진행 상황
- 삼성전자·마이크론의 기술 추격 속도와 가격 경쟁력
- 터보퀀트·딥시크 등 메모리 절감 기술의 실제 시장 영향력
- AI 데이터센터 투자 규모 지속 여부(빅테크 CAPEX 동향)
제가 직접 주가 흐름을 지켜본 결과, HBM 투자는 "AI가 성장하니까 좋다"는 단순 논리보다 이 다섯 가지 변수의 변화 방향을 주기적으로 확인하는 작업이 훨씬 더 중요하다고 느꼈습니다. 특히 고객사 승인 이슈는 뉴스가 나오기 전에는 외부에서 파악하기 어렵기 때문에, 분기 실적 발표와 IR 자료를 꾸준히 챙기는 것이 현실적인 대응입니다. (출처: 금융감독원 전자공시시스템 DART에서 SK하이닉스, 삼성전자의 분기 보고서를 직접 확인할 수 있습니다.)
HBF 전망, HBM 다음을 미리 보면 투자 시야가 달라집니다
HBM이 지금 시장의 중심이라면, 그 다음 타자로 주목받기 시작한 것이 HBF(High Bandwidth Flash)입니다. HBF란 낸드플래시 메모리를 수직으로 적층해 대용량 데이터를 AI 연산에 활용하는 차세대 메모리 구조입니다. D램 기반의 HBM보다 속도는 느리지만, 용량 대비 비용 효율이 높습니다.
AI 서비스가 복잡해질수록 KV 캐시 데이터를 모두 HBM에 담는 건 경제적으로 한계가 있습니다. 이때 자주 쓰지 않는 데이터는 HBF에 보내고, 즉각 처리가 필요한 데이터만 HBM에 남기는 방식으로 역할을 분담하는 구조가 현실적인 해법으로 부상하고 있습니다. 이 흐름에서 메모리 컨트롤러(Memory Controller)의 중요성도 같이 올라가고 있습니다. 메모리 컨트롤러란 어떤 데이터를 HBM으로 보내고 어떤 데이터를 HBF로 보낼지 교통정리를 해주는 핵심 칩입니다.
HBF 상용화 시점은 2027~2028년 전후로 예상됩니다. 이 분야에서 주목받는 기업은 SK하이닉스, 삼성전자, 그리고 낸드 전문 기업 샌디스크(WD)입니다. 흥미로운 점은 엔비디아 입장에서 HBF를 적극 활용하면 HBM 공급에서 한국 기업 의존도를 낮출 수 있다는 계산이 있다는 겁니다. 그러나 제 판단으로는 HBM과 HBF가 경쟁하는 것이 아니라 함께 사용되는 방향이 더 현실적입니다. D램과 낸드플래시를 모두 생산할 수 있는 SK하이닉스와 삼성전자가 이 구조에서 가장 유리한 위치에 있다고 봅니다.
실제로 반도체 산업 전문 분석 기관인 IDC(International Data Corporation)에 따르면, AI 인프라 수요 확대로 메모리 반도체 시장은 2025년 이후에도 연평균 두 자릿수 성장률을 유지할 것으로 전망됩니다. HBF가 본격 상용화되는 2027~2028년은 이 성장 곡선에서 또 하나의 변곡점이 될 가능성이 있습니다.
HBM 투자를 처음 고민할 때 저는 "AI 좋으면 메모리 좋겠지"라는 단순한 논리로 접근했습니다. 그런데 TSV 수율, 고객사 승인, KV 캐시 구조, HBF 전환이라는 변수들을 하나씩 이해하면서 이 시장이 훨씬 복잡하고 흥미롭다는 걸 알게 됐습니다. 지금 HBM 관련 투자를 고민하신다면 AI 성장 스토리와 함께 실제 공급 계약 현황과 수율 안정화 뉴스를 병행해서 보시길 권합니다. 기대감이 아닌 실적으로 확인하는 투자가 결국 오래 갑니다. 이 글은 개인적인 경험과 의견을 공유한 것이며, 전문적인 금융 투자 조언이 아닙니다.
---
참고: https://www.youtube.com/watch?v=cmpFjEo9e1M
.png)
.png "HBM 투자")
.png)
.png)
.png)