2026년 7월 22일(현지 시각), AMD가 미국 샌프란시스코 모스콘 웨스트에서 열린 ‘AMD 어드밴싱 AI 2026’ 행사에서 신형 AI 가속기 인스팅트(Instinct) MI455X를 공개하며 HBM4를 차세대 AI 칩의 핵심 성능 축으로 공식 선언했습니다. 메모리 대역폭이 전작 대비 2.9배 향상된 이번 발표는, AI 반도체 경쟁이 단순 연산력(플롭스) 싸움에서 메모리 병목 해소 싸움으로 본격 전환되었음을 알리는 신호탄입니다.
핵심 요약
한 줄 정의: AMD는 2026년 7월 MI455X에 HBM4(6세대 고대역폭메모리)를 12단 적층해 칩 1개당 메모리 대역폭 초당 23.3TB를 달성함으로써, 차세대 AI 가속기의 경쟁력을 연산 능력과 메모리 대역폭 두 축으로 동시에 끌어올리는 전략을 공식화했습니다.
- 메모리 대역폭 2.9배 향상: MI455X는 HBM4 12단 적층으로 초당 23.3TB 대역폭을 구현, 전작 MI355X(HBM3E 8단, 초당 8TB)의 약 2.9배를 달성했습니다.
- 용량 1.5배 확대: 칩 1개당 저장 용량이 MI355X의 288GB에서 MI455X의 432GB로 늘어났습니다.
- 삼성전자 주공급사: AMD 고위 관계자에 따르면 MI455X에 탑재되는 HBM4 물량의 대부분은 삼성전자가 공급할 예정입니다.
- 헬리오스 랙 기준 HBM4 총 31TB: MI455X 최대 72개를 묶은 ‘헬리오스(Helios)’ 랙 시스템은 HBM4 총 용량 31TB, 메모리 대역폭 초당 1.7페타바이트(PB)를 구현합니다.
- 2030년 AI 가속기 시장 1.4조 달러 전망: 리사 수 AMD CEO가 공식 언급한 수치로, 메모리 강화 전략이 중장기 시장 선점과 직결됩니다.
목차
- 핵심 요약 — 핵심만 빠르게
- HBM4란 무엇인가 — 6세대 고대역폭메모리 기술 개요 — HBM 세대별 비교와 HBM4의 기술적 혁신
- AMD MI455X 핵심 스펙 분석 — 전작 대비 수치 비교와 설계 변화 포인트
- 헬리오스 AI 랙 시스템 — 칩 단위를 넘어선 랙 단위 메모리 전략 — 72개 MI455X 집적 시스템의 의미
- 삼성전자-AMD 전략적 협력 — HBM4에서 HBM4E로 — 한국 메모리 산업에 미치는 파급 효과
- AI 추론 시대가 HBM 수요를 바꾸는 이유 — 학습에서 추론으로, 메모리 병목이 승부처가 된 배경
- 자주 묻는 질문 (FAQ)
- 마무리
- 핵심 체크리스트
HBM4란 무엇인가 — 6세대 고대역폭메모리 기술 개요
HBM4(High Bandwidth Memory 4)는 반도체 메모리를 수직으로 여러 층 쌓아 올려 연산 칩과 극단적으로 가까운 거리에서 데이터를 주고받는 6세대 고대역폭메모리 규격입니다. 기존 DRAM이 메모리 칩과 프로세서를 넓은 기판 위에 나란히 배치하는 것과 달리, HBM은 칩과 칩을 수직으로 연결하는 TSV(Through Silicon Via, 실리콘 관통 전극) 기술로 쌓아 데이터 이동 거리를 최소화합니다. 이 구조 덕분에 GDDR 계열 메모리와 비교해 같은 전력으로 수 배의 대역폭을 낼 수 있습니다.
HBM 세대는 초당 핀 속도와 적층 단수로 성능이 결정됩니다. 삼성전자가 준비 중인 HBM4 제품은 12단 적층에 10나노급(1c) 공정을 적용해, 핀 하나당 최대 초당 13Gbps(기가비트)의 속도를 냅니다. 스택 하나당 대역폭은 최대 초당 3.3TB에 달하는 것으로 알려졌습니다. 이는 전 세대인 HBM3E 대비 핀 속도와 적층 단수가 모두 개선된 결과입니다.
| 세대 | 표준 적층 단수 | 핀 속도 | 스택당 대역폭 | 탑재 제품(AMD) |
|---|---|---|---|---|
| HBM3E (5세대) | 8단 | 약 9.6Gbps | 초당 약 1.2TB | MI355X |
| HBM4 (6세대) | 12단 | 최대 13Gbps | 최대 초당 3.3TB | MI455X |
| HBM4E (7세대, 개발 중) | 16단 (예정) | 미공개 | 초당 십수 TB급 목표 | 미래 제품 |
HBM4에서 가장 주목할 변화는 단순히 속도가 빨라진 것만이 아닙니다. AMD MI455X는 메모리와 칩을 잇는 버스 폭(인터페이스 폭)도 기존 1,024비트에서 2,048비트로 두 배 넓혔습니다. 앤드류 디크만 AMD 데이터센터 GPU 사업부 부사장은 “층수를 8단에서 12단으로 늘리고 통로 폭을 두 배로 넓힌 것이 핵심”이라고 설명했습니다. 단순히 클럭을 높인 것이 아닌, 구조 자체를 바꿔 대역폭을 끌어올린 것입니다.
AMD MI455X 핵심 스펙 분석
AMD 인스팅트 MI455X는 2026년 7월 공개된 AMD의 최신 AI 가속기로, HBM4 12단 적층을 통해 칩 1개당 메모리 용량 432GB, 대역폭 초당 23.3TB를 달성한 제품입니다. 전작 MI355X가 HBM3E 8단으로 288GB 용량, 약 8TB 대역폭을 냈던 것과 비교하면 용량은 1.5배, 대역폭은 2.9배 향상되었습니다.
연산 능력도 크게 개선되었습니다. MI455X의 연산 성능은 전작 대비 최대 4배 향상된 것으로 알려졌습니다. 그러나 AMD가 이번 발표에서 특히 강조한 것은 메모리 쪽의 독자적인 성능 향상이었습니다. 디크만 부사장은 “연산 능력 향상과 별개로 메모리 부문에서만 독자적으로 큰 폭의 개선이 이뤄졌다”고 말했습니다. 이는 AI 모델이 커질수록 연산 자체보다 데이터를 얼마나 빠르게 읽고 쓰는지가 성능 한계를 결정한다는 현실을 반영한 설계 철학입니다.
MI455X는 CPU와의 연결 방식도 함께 손봤습니다. 짝을 이루는 프로세서는 6세대 AMD 서버용 CPU(EPYC)이며, GPU와 CPU 사이를 초당 256GB 속도의 전용 직결 통로로 이어 CPU가 GPU 메모리에 지연 없이 접근할 수 있게 했습니다. 이 설계는 메모리 강화 효과가 시스템 전체 성능으로 그대로 이어지도록 하는 데 핵심 역할을 합니다.
| 항목 | MI355X (전작) | MI455X (신작) | 향상 비율 |
|---|---|---|---|
| HBM 세대 | HBM3E (5세대) | HBM4 (6세대) | — |
| 적층 단수 | 8단 | 12단 | 1.5배 |
| 메모리 용량 | 288GB | 432GB | 1.5배 |
| 메모리 대역폭 | 초당 약 8TB | 초당 23.3TB | 약 2.9배 |
| 버스 폭 | 1,024비트 | 2,048비트 | 2배 |
| 연산 성능 | — | 전작 대비 최대 4배 | — |
| CPU 연결 속도 | — | 초당 256GB | — |
AMD가 “매 세대 메모리 부문에서도 새로운 발전을 담는다”는 로드맵을 공식화한 것도 이번 행사의 핵심 메시지입니다. 이는 AI 가속기 경쟁에서 메모리 대역폭 향상이 일회성 이벤트가 아닌 매년 반복되는 전략적 의무가 되었음을 의미합니다.
헬리오스 AI 랙 시스템 — 칩 단위를 넘어선 랙 단위 메모리 전략
헬리오스(Helios)는 AMD MI455X를 최대 72개 집적한 초대형 AI 랙 시스템으로, 전체 HBM4 총 용량 31TB, 메모리 대역폭 초당 1.7페타바이트(PB)를 구현하는 세계 최고 사양의 AI 인프라 시스템입니다. 리사 수(Lisa Su) AMD CEO는 2026년 7월 23일 샌프란시스코에서 “헬리오스는 단언컨대 세계 최고의 AI 랙”이라고 발표했습니다.
초당 1.7PB 대역폭은 구체적으로 어느 정도의 규모일까요? 1PB는 1,000TB이며, 1,000TB는 약 100만 GB에 해당합니다. 일반 소비자용 DDR5 메모리 모듈의 최대 대역폭이 초당 약 64GB 수준임을 감안하면, 헬리오스 전체 랙의 메모리 대역폭은 일반 서버 메모리의 수천 배에 달하는 수준입니다. 이러한 초고대역폭이 필요한 이유는, 수천억 개의 파라미터를 보유한 최신 AI 대형언어모델(LLM)이 답변을 생성할 때마다 해당 파라미터를 메모리에서 반복적으로 읽어야 하기 때문입니다.
헬리오스 시스템의 구조적 특징은 개별 칩 단위의 메모리 강화가 랙 단위로 선형에 가깝게 확장된다는 점입니다. MI455X 1개의 HBM4 용량이 432GB인데, 72개를 집적하면 단순 합산으로도 31TB(31,104GB)가 됩니다. 이는 칩 사이의 인터커넥트 설계가 메모리 자원을 병렬로 충분히 활용할 수 있을 만큼 최적화되어 있음을 의미합니다. AMD와 앤스로픽(Anthropic)은 2027년부터 2GW 규모의 MI450 랙 시스템을 공급하는 계약도 체결했으며, 앤스로픽은 AMD에 최대 50억 달러의 지분 투자를 검토 중인 것으로 알려졌습니다.
삼성전자-AMD 전략적 협력 — HBM4에서 HBM4E로
삼성전자는 AMD MI455X에 탑재되는 HBM4 물량의 대부분을 공급하는 주공급사로 확정되며, 차세대 HBM4E(7세대) 단계에서도 양사 협력이 한층 강화될 전망입니다. AMD 고위 관계자는 2026년 7월 행사 현장에서 이를 직접 확인했습니다.
삼성전자가 준비 중인 HBM4 제품의 구체적인 사양은 다음과 같습니다. 12단 적층, 용량 36GB(스택 기준), 10나노급 1c 공정 적용, 핀당 최대 13Gbps, 스택당 최대 초당 3.3TB 대역폭입니다. 이는 삼성전자가 HBM4 시장에서 SK하이닉스와 경쟁하는 가운데, AMD와의 전략적 파트너십을 통해 중요 고객사를 선점한 성과로 평가됩니다.
양사 협력은 이미 구체적인 공동 개발 단계로 진입했습니다. 2026년 3월 삼성전자 평택 사업장에서 HBM4를 포함한 차세대 메모리 솔루션에 관한 전략적 협력을 공식화했으며, 그 연장선에서 HBM4E 협력 논의도 이미 진행 중입니다. HBM4E는 16단 적층, 60GB대 용량, 초당 십수 TB급 대역폭을 목표로 개발이 진행 중인 것으로 알려졌습니다.
한국 메모리 산업 전체로 보면 이번 AMD-삼성 협력 강화는 SK하이닉스 중심의 HBM 공급 구도를 다변화시키는 의미를 갖습니다. 그동안 엔비디아 의존도가 높았던 HBM 시장에서 AMD가 주요 고객으로 부상하면서, 삼성전자와 SK하이닉스 모두 고객 편중도가 완화되는 방향으로 협상 레버리지가 개선될 수 있습니다. 다만 미국 내 후공정 현지화 요구가 강화되는 것은 한국 메모리 기업들에게 새로운 리스크 변수로 작용할 수 있습니다.
AI 추론 시대가 HBM 수요를 바꾸는 이유
2026년 현재 AI 반도체 산업의 연산 수요 무게 중심이 학습(Training)에서 추론(Inference)으로 빠르게 이동하면서, 메모리 대역폭이 AI 가속기 성능의 실질적 한계로 부상하고 있습니다. 글로벌이코노믹 보도에 따르면 2026년 기준 AI 연산의 60%가 추론에서 발생하고 있습니다.
학습과 추론의 메모리 요구 방식은 근본적으로 다릅니다. 학습은 대규모 행렬 연산을 배치(batch) 방식으로 처리하기 때문에 연산 능력(플롭스)이 성능을 결정합니다. 반면 추론은 사용자의 질문에 토큰을 하나씩 생성하는 과정으로, 이미 학습된 수백억~수천억 개의 파라미터를 메모리에서 반복적으로 읽어야 합니다. 파라미터를 얼마나 빠르게 메모리에서 꺼내오느냐, 즉 메모리 대역폭이 추론 속도의 실질적 병목이 되는 구조입니다.
AMD가 MI455X에서 연산 성능 4배 향상과 별개로 메모리 대역폭 2.9배 향상을 강조하는 것은 이 맥락에서 이해해야 합니다. 리사 수 CEO가 언급한 2030년 AI 가속기 시장 규모 1조 4,000억 달러 전망에서, 추론 수요 증가가 핵심 성장 동력입니다. 메모리 대역폭 경쟁이 AI 가속기 시장에서 이제 연산력 경쟁만큼 중요한 차별화 요소로 자리 잡게 된 것입니다. 이는 AMD가 “매년 메모리 대역폭을 강화한다”는 로드맵을 공개 약속한 배경이기도 합니다.
자주 묻는 질문 (FAQ)
Q1. HBM4가 기존 HBM3E보다 실제로 얼마나 빠른가요?
HBM4는 HBM3E와 비교해 스택당 대역폭 기준으로 약 2.8배 빠릅니다. AMD MI455X 기준으로 HBM3E 8단을 탑재한 MI355X의 대역폭이 초당 약 8TB였던 반면, HBM4 12단을 탑재한 MI455X는 초당 23.3TB를 구현했습니다. 속도 향상의 핵심은 적층 단수를 8단에서 12단으로 늘리는 동시에 버스 폭을 1,024비트에서 2,048비트로 두 배 확대한 것입니다.
Q2. 삼성전자가 AMD에 HBM4를 공급하는 것이 SK하이닉스와 어떻게 다른가요?
SK하이닉스는 엔비디아의 AI 가속기(H100, H200, B100 계열)에 HBM을 주로 공급해 왔습니다. 반면 삼성전자는 AMD MI455X에 들어가는 HBM4 물량의 대부분을 공급하는 주공급사로 확정됨으로써, 엔비디아-SK하이닉스 축과 다른 AMD-삼성 축을 구축하게 됩니다. 이는 삼성전자가 HBM 시장에서 SK하이닉스에 대한 경쟁력 회복의 발판을 마련했다는 의미로 평가됩니다.
Q3. AMD 헬리오스 랙이 경쟁사 엔비디아 제품보다 우수한가요?
리사 수 CEO는 헬리오스를 “세계 최고의 AI 랙”이라고 발표했지만, 이는 AMD의 자체 평가입니다. 헬리오스는 MI455X 최대 72개, HBM4 총 31TB, 메모리 대역폭 초당 1.7PB라는 수치를 공개했습니다. 엔비디아 GB200 NVL72 랙과의 직접 비교는 측정 기준과 활용 워크로드에 따라 결과가 달라질 수 있으므로, 독립 기관의 벤치마크 결과가 나와야 보다 정확한 비교가 가능합니다.
Q4. HBM4E는 언제 출시되나요?
HBM4E(7세대 HBM)의 구체적인 출시 일정은 아직 공개되지 않았습니다. 현재 16단 적층, 60GB대 용량, 초당 십수 TB급 대역폭을 목표로 AMD와 삼성전자가 공동 개발 중인 것으로 알려졌습니다. AMD는 매년 메모리 대역폭을 강화한다는 로드맵을 공식화한 만큼, MI455X 이후 세대 제품에 HBM4E를 탑재할 가능성이 높습니다.
Q5. AI 추론이 학습보다 HBM을 더 많이 필요로 하는 이유는 무엇인가요?
AI 추론은 학습이 끝난 모델의 수백억~수천억 개 파라미터를 메모리에 올려두고, 사용자 요청이 들어올 때마다 이를 반복적으로 읽어 답변을 생성하는 과정입니다. 파라미터를 메모리에서 얼마나 빠르게 읽어오느냐(메모리 대역폭)가 응답 속도를 결정합니다. 반면 학습은 큰 배치 단위로 행렬 연산을 반복하므로 연산력(플롭스)이 중요합니다. 2026년 기준 AI 연산의 60%가 이미 추론에서 발생하고 있어, HBM 대역폭 확보가 AI 인프라 투자의 핵심 과제가 되었습니다.
마무리
AMD의 HBM4 전략 공식화는 AI 반도체 시장의 경쟁 기준이 연산 속도에서 메모리 대역폭으로 이동하고 있다는 명확한 신호입니다. MI455X의 2.9배 대역폭 향상, 삼성전자와의 HBM4 공급 협력, 그리고 매년 메모리 성능을 강화하겠다는 로드맵은 AI 추론 시대를 정조준한 중장기 전략입니다. AMD와 삼성전자의 협력 강화가 한국 메모리 산업의 HBM 수주 구도를 어떻게 바꿀지, 그리고 HBM4E로 이어질 기술 경쟁이 2027년 시장을 어떻게 재편할지 주목됩니다. AI 반도체와 메모리 산업 동향이 궁금하신 분들은 blog.ne.kr의 관련 글도 함께 확인해 보세요.
핵심 체크리스트
- AMD가 HBM4를 차세대 AI 칩의 핵심 성능 축으로 공식 선언한 행사는 2026년 7월 22일 ‘AMD 어드밴싱 AI 2026’이다
- MI455X는 HBM4 12단 적층으로 메모리 용량 432GB, 대역폭 초당 23.3TB를 구현했다
- MI455X의 메모리 대역폭은 전작 MI355X 대비 2.9배, 연산 성능은 최대 4배 향상되었다
- MI455X에 탑재되는 HBM4 물량의 대부분은 삼성전자가 공급한다
- 헬리오스 랙은 MI455X 최대 72개 집적으로 HBM4 총 31TB, 초당 1.7PB 대역폭을 달성한다
- 버스 폭을 기존 1,024비트에서 2,048비트로 두 배 넓힌 것이 대역폭 향상의 핵심 설계 변화다
- HBM4E(7세대)는 16단 적층, 60GB대 용량을 목표로 AMD와 삼성전자가 공동 개발 중이다
- 2026년 기준 AI 연산의 60%가 추론에서 발생하며, 이것이 메모리 대역폭 강화 전략의 핵심 배경이다
- AMD는 앤스로픽과 2027년부터 2GW 규모 MI450 랙 공급 계약을 체결했다
- 리사 수 AMD CEO는 2030년 AI 가속기 시장 규모를 1조 4,000억 달러로 전망했다






