디시인사이드 갤러리

갤러리 이슈박스, 최근방문 갤러리

갤러리 본문 영역

고성능 컴퓨팅을 재정의하는 메모리, HBM3란 무엇인가?

IT동아갤로그로 이동합니다. 2023.08.29 17:38:19
조회 128 추천 0 댓글 0
[IT동아 남시현 기자] 올해 들어 삼성전자 주가가 6~7만 원대를 횡보하고 있지만, 연말에는 달라질 것이라는 기대감이 크다. 8월 들어 반도체 업황이 바닥을 찍고 상승세로 돌아갈 것이라는 관측이 나오고, 또 올해 하반기부터 본격적으로 HBM3P를 출시할 예정이어서다. SK하이닉스는 지난해 6월 세계 최초로 HBM3를 양산한데 이어, 올해 4월에는 현존 최고 용량인 24GB HBM3 신제품을 공개한 바 있다. 두 회사 모두 고대역폭 메모리인 HBM3에 올해 전반의 실적과 성과를 걸고 있는 모습이다.


HBM은 D램을 최대 12개 적층해 크기는 줄이고, 전력 효율과 용량은 늘린 제품이다 / 출처=IT동아



두 회사 말고도 HBM3에 사활을 거는 회사가 한둘이 아니다. 인공지능 반도체의 대장격인 엔비디아는 엔비디아 호퍼 H100 데이터센터 GPU에 120GB 용량의 HBM3를 탑재하고 있고, AMD의 데이터센터 APU인 인스팅트 MI300도 HBM3를 탑재한다. 인텔 역시 차세대 데이터 서버용 GPU(코드명 팔콘 쇼어)에 최대 288GB 용량의 HBM3 메모리를 탑재할 예정이고, 국내에서도 퓨리오사AI가 인공신경망 반도체(NPU) 제조사로는 최초로 2세대 칩인 레니게이드에 HBM3를 탑재한다. 전 세계 반도체 시장에서 빠지지 않고 등장하는 HBM3란 어떤 메모리인 걸까?

HBM3, 메모리 수직 연결해 대역폭 늘린 신 기술


HBM(High Bandwidth Memory, 고대역폭 메모리)는 2008년 AMD와 SK하이닉스가 공동으로 개발을 주도한 차세대 메모리 규격으로, 2013년 10월 JEDEC(국제반도체표준협의기구)에 의해 산업 표준으로 제정됐다. 이후 2016년 HBM2 표준이 승인되었으며, 작년 1월에 HBM3 규격이 공식 발표됐다. 현재는 SK하이닉스와 삼성전자, 마이크론이 HBM3를 생산하고 있다.


HBM은 메모리 위에 또 메모리를 쌓아 용량을 축적하고, 이를 수직으로 관통하는 전극을 설치해 통신한다 / 출처=삼성전자



HBM은 기존에 사용되는 D램을 수직으로 쌓고, 수천 개의 실리콘관통전극(TSV)를 설치해 데이터 처리 속도와 칩간 통신 속도를 비약적으로 끌어올린 제품이다. 쉽게 말해 D램 위에 D램을 최대 12개까지 쌓고, 이를 관통하는 통로를 만들어서 통신한다. 기존의 D램 방식에서 데이터 이동 방식이 무빙 워크라면, HBM은 엘리베이터로 데이터를 수직이동하는 방식이어서 전송 속도가 빠른 것이다.

덕분에 HBM3는 단일 칩셋으로 최대 24GB의 용량을 실현하며, 쌓아놓은 칩(스택)에서 초당 819GB의 데이터를 처리할 수 있다. 이는 1초에 5GB 영화 163편 분량을 처리할 수 있는 수준이며, 이전 세대인 HBM2E와 비교해 약 78%나 빨라진 수치다. 아울러 열 효율성이 뛰어나 발열 관리가 수월하고, 동일 용량의 D램과 비교해 에너지 소비를 크게 낮춰 전반적인 시스템 안정성도 크게 향상된다.

전력 소비와 효율 잡아야 하는 대규모 데이터 처리에 특화


HBM3는 소비자 시장보다는 대규모 컴퓨팅 자원을 필요로 하는 서버 시장에서 주목받고 있다. 예를 들어 우리나라 국가 슈퍼컴퓨터 5호기만 하더라도 전체 D램 메모리 용량이 2064TB에 달하며, 32GB 컴퓨터로 환산하면 6만4500대 분량이다. 슈퍼 컴퓨터도 메모리 자체는 PC용 컴퓨터 메모리 수십 개를 서버랙(Rack)에 장착하고 연결하는 방식이라 공간 대비 용량이나 밀도, 에너지 효율성 등이 크게 떨어진다. HBM3를 활용하면 그만큼 공간 효율을 늘릴 수 있고, 에너지 관리나 메모리 밀도 측면에서도 도움이 된다.


처음으로 HBM이 적용된 슈퍼컴퓨터, 후가쿠 / 출처=후지쯔



실제로 서버 컴퓨터에 HBM을 도입한 대표적인 사례가 2020년 6월부터 22년 6월까지 세계 1위 자리를 지킨 일본의 슈퍼컴퓨터 후가쿠(Fugaku)다. 후가쿠는 슈퍼컴퓨터로는 처음으로 HBM이 사용되었는데, 출시 당시 성능이 2위에서 5위를 합친 것보다 10%나 높았을 정도로 큰 성능 격차를 보여주었다. 현재 세계 1위 슈퍼컴퓨터이자, 후가쿠 성능의 세 배가 넘는 유일한 엑사스케일 컴퓨터인 오크릿지 연구소의 프런티어 슈퍼컴퓨터도 AMD의 HBM 기반 에픽 프로세서와 라데온 인스팅트 GPU를 기반으로 하고 있다.


엔비디아의 GH200 그레이스 호퍼 슈퍼칩, 282GB의 HBM3e 메모리를 탑재한다 / 출처=엔비디아



특히 생성형 AI로 촉발된 인공지능 경쟁에도 HBM3가 대거 사용되고 있다. 엔비디아의 데이터센터용 그래픽 카드 중 주력 모델인 H100는 80GB 용량의 HBM3를 탑재하는데, 80GB HBM2e를 탑재한 A100과 비교해 최대 30배에 가까운 AI 처리 능력을 보여준다. CPU와 GPU가 통합된 차세대 모델인 엔비디아 GH200 그레이스 호퍼 슈퍼칩은 HBM3 대비 데이터 전송 속도가 50% 더 높은 282GB HBM3e 메모리가 탑재된다. 연산 처리에 필요한 메모리 자체의 크기를 늘려 더 많은 데이터를 한 번에 처리함으로써 인공지능 개발 효율도 폭발적으로 끌어올리는 것이다.

HBM3, 우리나라 메모리 산업의 동아줄


컴퓨터 및 인공지능 업계에서 HBM3 메모리 채용에 경쟁적인 이유는 결국 성능과 효율 때문이다. 기존의 D램에서 오는 대역폭의 한계나 발열, 소비전력 등의 문제를 모두 해결함과 동시에 전반적인 성능 상한선을 대폭 늘릴 수 있는 방안이기 때문이다. 개인용 PC의 경우 HBM3를 접할 일이 없겠으나, 서버 시장만큼은 장기적으로 HBM이 대세가 될 전망이다.

국내 반도체 기업들 역시 HBM으로 돌파구를 마련하는 상황이다. 지난 21일, SK하이닉스는 HBM3보다 더 성능이 높은 HBM3E 개발에 성공했다고 밝혔다. HBM3E는 819GB에서 더 높은 1.15TB의 데이터를 처리하면서 열 방출 성능은 10% 늘어났다. 삼성전자 역시 하반기 중으로 HBM3보다 성능을 높인 HBM3P를 출시할 예정이다. 빙하기에 빠진 국내 메모리 시장이 HBM 경쟁을 바탕으로 성장 동력을 회복하길 기원한다.

글 / IT동아 남시현 (sh@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)



▶ 게이밍 시장의 중심이 된 ‘1440p’ 해상도, 어째서?▶ 모토롤라 레이저 40 울트라 vs 삼성전자 갤럭시Z 플립5▶ 글로벌 IT 리더 절반이 'AI 인프라 부족' 지적··· 노트북부터 AI 탑재 시작



추천 비추천

0

고정닉 0

0

댓글 영역

전체 댓글 0
등록순정렬 기준선택
본문 보기

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

갤러리 리스트
번호 제목 글쓴이 작성일 조회 추천
설문 시세차익 부러워 부동산 보는 눈 배우고 싶은 스타는? 운영자 24/05/27 - -
3023 [리뷰] 필름 카메라 향수 돋우는 미러리스 카메라, 니콘 Z f IT동아갤로그로 이동합니다. 23.10.03 453 0
3022 CPU 쿨러, 외형보다 CPU 규격에 맞춰 골라야 [22] IT동아갤로그로 이동합니다. 23.10.03 5673 6
3021 퀄컴, 증강·확장현실 스냅드래곤으로 공간 컴퓨팅 공략 IT동아갤로그로 이동합니다. 23.10.02 111 0
3020 넷플릭스 이어 디즈니플러스도 빼어든 ‘계정 공유 금지’ [2] IT동아갤로그로 이동합니다. 23.09.29 1399 0
3019 그럼에도 유선 이어폰을 쓰는 이유 [3] IT동아갤로그로 이동합니다. 23.09.28 920 2
3018 [뉴스줌인] 돌아온 모토로라, 가성비 킹 '엣지40'으로 승부수 [16] IT동아갤로그로 이동합니다. 23.09.28 4001 13
3017 대기업 참여 늘어난 CVC, 전체 투자 시장에서 31% 차지 IT동아갤로그로 이동합니다. 23.09.28 133 0
3016 [서울형 R&D] 코어라인소프트 이재연 부사장 “CT 영상 속 데이터를 분석합니다” IT동아갤로그로 이동합니다. 23.09.27 147 0
3015 [농업이 IT(잇)다] 젤요 “맛·문화·영양 담은 젤라또와 디저트 전파” IT동아갤로그로 이동합니다. 23.09.27 145 0
3014 [IT신상공개] 젠하이저의 새로운 무선 헤드폰 ‘엑센텀’, 모멘텀4와의 차이는? IT동아갤로그로 이동합니다. 23.09.27 393 0
3013 [스케일업] 지엠씨랩스 [3] 패스파인더넷 “하나의 길을 선택하고 집중하라” IT동아갤로그로 이동합니다. 23.09.27 131 0
3012 다해줘테크 “상생과 혁신 품은 OA기기 렌탈 플랫폼” [스타트업in과기대] IT동아갤로그로 이동합니다. 23.09.26 131 0
3011 가상자산 거래소, 거래 환경 개선 등 내실 다지기에 집중 [1] IT동아갤로그로 이동합니다. 23.09.26 561 0
3010 추석 연휴 최장 6일··· 알아두면 좋은 '의료·반려동물·교통·통신 대책' [2] IT동아갤로그로 이동합니다. 23.09.26 941 2
3009 [뉴스줌인] 에이수스의 프리미엄급 크롬북, 기존 편견 넘을까 IT동아갤로그로 이동합니다. 23.09.25 143 0
3008 AI 독주 노리는 마이크로소프트, 윈도우 11에 '코파일럿' 도입 [3] IT동아갤로그로 이동합니다. 23.09.25 507 2
3007 에너지 프로슈머, 전기를 직접 생산하고 소비하며 판매한다? IT동아갤로그로 이동합니다. 23.09.25 124 0
3006 [스타트업人] 건설 근로자와 숨쉬는 금융, 웍스메이트 '핀테크 개발자' 이야기 IT동아갤로그로 이동합니다. 23.09.25 114 0
3005 스마트폰에 저장된 주소록 백업·복원하려면 이렇게![이럴땐 이렇게!] [1] IT동아갤로그로 이동합니다. 23.09.25 271 0
3004 옐토 "브랜드·캐릭터 통해 장애인 인식 개선에 기여한다" [동국대학교 캠퍼스타운] IT동아갤로그로 이동합니다. 23.09.25 111 0
3003 [스케일업] 내일의쓰임, 옐토, 챕터서울, 케어포유 “좋은 기회였습니다” IT동아갤로그로 이동합니다. 23.09.25 109 0
3002 창립 50주년 마크레빈슨 '하이파이 오디오 시장 개척한 브랜드' [10] IT동아갤로그로 이동합니다. 23.09.22 4534 0
3001 AI법, “고위험 영역 조정하고 저작권침해 면책해줘야” [79] IT동아갤로그로 이동합니다. 23.09.22 4634 10
3000 유용한 생성형 AI, 어떤 것들이 있나? IT동아갤로그로 이동합니다. 23.09.22 162 0
2999 [르포] '반 세기 걸친 혁신의 역사 한 눈에···' 인텔 본사 박물관 가보니 IT동아갤로그로 이동합니다. 23.09.22 120 0
2998 [스케일업] 반프 [2] 패스파인더넷 “대표는 내부 구성원에게 솔직해야 합니다” IT동아갤로그로 이동합니다. 23.09.22 118 0
2997 [농업이 IT(잇)다] 제로나인메트리얼 “삶의 질 높일 LED·PBM 선도화” IT동아갤로그로 이동합니다. 23.09.22 623 0
2996 [스타트업人] 디지포레 이현진 책임 “메타버스 속 콘텐츠를 개발하고 있습니다” IT동아갤로그로 이동합니다. 23.09.21 165 0
2995 탄소중립의 핵심 ‘탄소포집’, 무르익는 글로벌 시장[K비즈니스 가이드] IT동아갤로그로 이동합니다. 23.09.21 106 0
2994 스페이스앤빈, 전자파와 방사선을 막아내는 ‘스쿠텀’ [스타트업in과기대] IT동아갤로그로 이동합니다. 23.09.21 502 3
2993 "퓨리오사AI의 개발 철학, 핵심은 하드웨어·소프트웨어의 유기적 결합입니다" [1] IT동아갤로그로 이동합니다. 23.09.21 537 0
2992 케어포유 "반려동물이 편히 쉴 수 있는 공간, 케어펫 뮤트" [동국대학교 캠퍼스타운] IT동아갤로그로 이동합니다. 23.09.21 112 0
2991 [IT하는법] 어르신들도 안심? 전화 통화와 대중교통 안내를 원터치로! IT동아갤로그로 이동합니다. 23.09.20 427 0
2990 [스타트업리뷰] 초지향 스피커 시대 열 제이디솔루션 ‘브릭’ IT동아갤로그로 이동합니다. 23.09.20 110 0
2989 [IT신상공개] 필름 카메라 FM2 감성 잇는 미러리스 '니콘 ZF' [9] IT동아갤로그로 이동합니다. 23.09.20 1040 3
2988 인텔, 2024년 20A 넘어 18A까지 도전··· '반도체 주도권 미국으로' [5] IT동아갤로그로 이동합니다. 23.09.20 1706 3
2987 웍스앤피플 “K팝 댄스 업계의 ‘배민’ 꿈꾼다” [동국대학교 캠퍼스타운] IT동아갤로그로 이동합니다. 23.09.19 110 0
2986 ESG 간편시작, 칼렛바이오 스텝포넷제로 EL606 택배봉투[스타트업리뷰] IT동아갤로그로 이동합니다. 23.09.19 96 0
2985 AMD·엔비디아도 밀고있는 반도체 기술, '칩렛'이란? [4] IT동아갤로그로 이동합니다. 23.09.19 1371 10
2984 [IT애정남] 간편하게 동영상 자르고 붙이는 방법 알려주세요 [1] IT동아갤로그로 이동합니다. 23.09.19 545 1
2983 서울과기대 창업지원단 “제조 창업 도전자에게 우리의 경험과 노하우를 전달합니다” IT동아갤로그로 이동합니다. 23.09.18 118 0
2982 [스케일업] 위닝아이 [2] 서울대기술지주 “글로벌 진출, 혼자 아닌 협업으로 풀어라“ IT동아갤로그로 이동합니다. 23.09.18 109 0
2981 [IT신상공개] 35mm 센서·L 마운트 무장한 ‘블랙매직 시네마 카메라 6K’ [1] IT동아갤로그로 이동합니다. 23.09.18 489 0
2980 [주간투자동향] 이그니스, 348억 원 규모의 시리즈B 투자 유치 IT동아갤로그로 이동합니다. 23.09.18 126 0
2979 개정된 개인정보보호법… 어떤 내용이 담겼나? IT동아갤로그로 이동합니다. 23.09.15 133 0
2978 팀프레시 새벽시장 “음식점을 위한, 싸고 편리한 식자재 주문 서비스입니다” IT동아갤로그로 이동합니다. 23.09.15 110 0
2977 [농업이 IT(잇)다] 주식회사빙고 “주문형 신선식품 냉동 창고를 집 앞에” IT동아갤로그로 이동합니다. 23.09.15 109 0
2976 [자동차 디자人] 브랜드 미래를 그리다…BMW i 디자인 총괄 ‘카이 랭어’ IT동아갤로그로 이동합니다. 23.09.15 111 0
2975 [스타트업-ing] 티온랩테라퓨틱스 “지속성·표적성 약물 전달체로 환자 삶의 질 높인다” [1] IT동아갤로그로 이동합니다. 23.09.15 1464 0
2974 초등컴퓨팅교사협회 “게임도 교실에서 하면 교육이 됩니다” IT동아갤로그로 이동합니다. 23.09.14 148 1
갤러리 내부 검색
제목+내용게시물 정렬 옵션

오른쪽 컨텐츠 영역

실시간 베스트

1/8

뉴스

디시미디어

디시이슈

1/2