AMD, 인스팅트 MI350X·ROCm 7 공개··· 'AI 서버 설루션 종합기업 추구'

IT동아 · 2025.06.13 06:10:00

[세너제이=IT동아] 글로벌 반도체 기업 AMD가 6월 12일(현지시간) 미국 캘리포니아 주 세너제이에서 어드밴싱 AI(Advancing AI 2025) 행사를 열고 AMD 인스팅트 MI350X 및 MI355X AI 가속기와 AMD 펜산도 폴라라 400 AI NIC, ROCm 7 등 산업용 포트폴리오를 업데이트했다. 또한 내년에 출시 예정인 HBM4 기반의 AMD 인스팅트 MI400 AI 가속기의 기본적인 성능과 향후 AI 인프라 전략에 대해서도 전반적으로 소개했다. 어드밴싱 AI는 AMD의 서버용, 산업용 반도체를 공개하는 연례행사며, AMD 제품 생태계 및 파트너사 도입 사례 등을 한눈에 확인하는 자리다.

리사 수 AMD 최고경영자가 AMD의 새로운 AI 가속기인 AMD 인스팅트 MI 350 시리즈 반도체를 소개 중이다 / 출처=IT동아

리사 수(Lisa Su) AMD 최고경영자는 “새로운 사용 사례와 추론 모델이 등장하며 향후 몇 년간 추론 시장은 80% 이상 성장하며 AI 컴퓨팅 시장의 성장 동력이 될 것이다. 고성능 GPU가 이 사장의 대부분을 차지하겠지만 정답인 단일 아키텍처는 없다. 각 사용사례에 적합한 컴퓨팅이 필요하며, 이것이 우리가 집중하는 부분”이라고 말했다.

이어서 “AMD의 전략은 세 가지 핵심 원칙이 있다. 첫째, 고객이 활용하는 모델과 활용 사례에 적합한 컴퓨팅을 제공할 수 있도록 광범위한 컴퓨터 포트폴리오를 제공할 것, 둘째, 개방형 개발자 중심 생태계에 대한 투자할 것, 세 번째로 AMD는 CPU, GPU, DPU, NIC, FPGA, 적응형 SoC를 포함한 모든 컴퓨팅 풀스택 설루션을 제공하는 것이다. AMD는 AI가 어디에서 실행되든 모든 조건에 부합하는 컴퓨터를 제공하겠다”라며 발표를 시작했다.

AMD, 인스팅트 MI350X 시리즈로 점진적 시장 확산 노려

AMD 인스팅트 MI350 시리즈는 다이렉트 수랭식 기반의 MI355X와 공랭 기반의 MI350X로 출시된다. 두 제품의 반도체는 동일하고 냉각 방식에 따른 효율 차이만 있다 / 출처=IT동아

AMD 어드밴싱 AI 2025의 핵심은 새로운 서버용 AI 가속기인 AMD 인스팅트 MI350 시리즈의 등장이다. AMD 인스팅트 MI350 시리즈는 공랭 기반의 MI350X와 수랭 기반의 MI355X 두 종류로 출시되며, 냉각 효율 차이에 따른 최대 동작 성능과 전력 효율에 차이를 보인다. MI350 시리즈의 CNDA4 아키텍처는 ▲생성형 AI 및 LLM 처리를 위한 매트릭스 엔진 성능 강화 ▲ 혼합정밀도산술 처리를 위한 새로운 데이터 포맷 지원 ▲ 인피니티 패브릭 및 패키지 연결성 강화 ▲ 에너지 효율성 증가 네 가지 주요 변경점이 있다.

AMD 인스팅트 MI350 GPU의 아키텍처 구조도 / 출처=AMD

MI350 시리즈 GPU 프로세서는 서로 각기 다른 공정에서 제조된 반도체 칩을 하나의 칩으로 엮는 칩렛 기술이 사용된다. 연산 처리의 핵심인 CDNA 4 컴퓨트 유닛은 TSMC N3P 공정이 사용되며, 인터페이스 출력과 연결성을 맡는 I/O 다이는 TSMC N6 공정 기반이다. 메모리는 12단 HBM3E(고대역폭메모리) 여덟개 엮어 총 288GB로 구성되며, 삼성전자와 마이크론 제품이 채택된 것으로 확인된다. AMD가 MI350X에 삼성전자 HBM3E 12단을 정식으로 사용하면서 글로벌 AI 시장에서도 삼성전자 HBM3E 도입에 탄력을 받을 것으로 보인다.

AMD 인스팅트 MI350은 서버 환경에서의 작업 효율을 높이기 위해 메모리를 파티셔닝할 수 있다 / 출처=AMD

가상화가 아닌 직접 운영체제를 구동하는 베어메탈 환경, 단일 루트 입출력 가상화를 위한 메모리 파티셔닝 기능도 도입된다. 최근 AI 서버는 대규모로 자산을 동원해 AI 모델을 구축하거나, 다수의 사용자가 요구하는 AI 연산을 처리하기 위해 파편화해서 대응하는 경우가 많다. AMD 인스팅트 MI350 시리즈도 시장의 활용에 따라 메모리 영역을 8개로 분할할 수 있다. 전체 단일 구성시 5200억 개 매개변수의 AI 모델을 처리할 수 있고, 8개로 나누면 각 파티션이 메타 라마 3.1 72B(720억 개) 처리를 지원한다.

AMD 인스팅트 MI350 시리즈는 288GB HBM3E 메모리 탑재로 생성형 AI 및 LLM 처리 효율을 크게 늘렸다 / 출처=IT동아

연산 성능은 공랭식인 인스팅트 MI350X가 16비트 부동소수점(FP16)에서 4.6페타플롭스(PF), FP8에서 9.2PF다. 인스팅트 MI355X는 다이렉트 수랭 방식으로 FP16에서 5PF, FP8에서 10PF로 성능이 소폭 높다. HBM3 기반의 AMD 인스팅트 MI300X와 비교해 추론 성능은 최소 2.6배에서 최대 4.2배까지 높아졌다. 엔비디아 B200과 비교해 FP8 및 BF16 사전 훈련 성능은 거의 동일하며, FP8 기준 파인 튜닝 성능은 1.1배 정도 더 높다.

AMD 인스팅트 MI350 시리즈는 오라클, 델, 슈퍼마이크로, HPE 등 다양한 파트너사를 통해 올해 3분기부터 시장에 공급된다.

AMD는 차세대 제품인 AMD 인스팅트 MI400 시리즈에 대한 간략한 소식은 물론 이를 탑재한 고성능 AI 렉 설루션인 AMD 헬리오스도 소개했다 / 출처=IT동아

2026년 출시될 차세대 제품인 AMD 인스팅트 MI400 시리즈 GPU에 대한 기본적인 성능 및 구성도 최초로 공개됐다. AMD 인스팅트 MI400은 FP4 기준 40페타플롭스, FP8 기준 20페타플롭스의 성능을 지닌다. 또 초당 19.6테라바이트의 메모리 대역폭을 갖추며 432GB의 HBM4 메모리를 장착한다. AMD는 젠6 아키텍처 기반의 AMD 에픽 프로세서와 인스팅트 MI400, AMD 펜산도 및 ROCm 전반으로 구성된 ‘헬리오스(Helios)’ AI 렉도 공개했다. 헬리오스는 2026년 출시 예정이며, 동급 구성의 엔비디아 베라 루빈 렉과 비슷하거나 조금 더 높은 성능을 갖추게 된다.

실질 성능과 확장성 더 좋아진 AMD ROCm 7

밤시 보파나(Vamsi Bopanna) AMD 인공지능 그룹 수석 부사장이 ROCm 7의 정식 출시를 알렸다 / 출처=IT동아

리사 수 CEO는 “하드웨어가 강력하더라도 진정한 잠재력을 발휘하게 하는 것은 소프트웨어다. 많은 개발자들이 소프트웨어의 개선점을 얘기하고 있으며, 이를 바탕으로 ROCm도 놀라울 정도로 발전하고 있다. 우리는 AI 모델 적용 범위 확대와 출시 속도 가속, 개발자 중심 사고방식 확립에 저력을 쏟고 있다”라며 ROCm 7 출시를 알렸다.

ROCm은 AMD 라데온 그래픽카드의 연산 프로그래밍을 위한 소프트웨어로, 엔비디아의 쿠다(CUDA)와 같은 역할을 한다. 다만 엔비디아가 90% 이상의 시장 점유율로 쿠다 생태계를 20여 년 가까이 다져온 터라 후발 주자인 AMD가 ROCm 생태계를 구축하기란 쉽지 않다. AMD ROCm은 이번 발표에서 7세대로 업그레이드됐으며, ▲ 최신 알고리즘 및 모델 지원 ▲AI 구축을 위한 고급기능 지원 ▲ MI350 시리즈 지원 ▲분산 자원 관리 ▲ 산업 시장 대응을 주요 골자로 한다.

특히 ROCm 6와 비교해 메타 라마 3.1 70B 추론 성능이 3.2배, 알리바바 큐웬 2-72B 모델도 3.4배, 딥시크 R1도 3.8배나 향상됐다. AI 모델 훈련 성능 역시 메타 라마 2 70B와 3.1 8B, 큐웬 1.5 7B 훈련 시 3배나 좋아졌다. AMD 인스팅트 MI355와 ROCm 7의 조합은 엔비디아 B200과 비교해 FP8 조건에서 1.3배 높은 효율을 낼 수 있다.

AMD는 개발자들이 AMD 인스팅트 GPU를 AI 개발에 활용할 수 있도록 ‘AMD 디벨로퍼 클라우드’를 서비스하기로 헀다 / 출처=IT동아

운영체제 지원도 확장된다. 리눅스 계열은 이미 오픈수세(OpenSUSE)를 지원하며, 올해 2분기 중에 레드헷 EPEL, 우분투도 지원 예정이다. 윈도우 계열은 올해 3분기 중에 파이토치를 지원하고, 7월 중에 오닉스-EP도 공식 지원한다. 리눅스 계열 중에는 페도라, 윈도우 계열은 HIP SDK와 리눅스용 윈도우 하위 시스템도 향후 지원 목록에 이름을 올렸다.

아울러 AMD는 전 세계 개발자 및 오픈소스 커뮤니티를 위한 AMD 디벨로퍼 클라우드를 공식 출시한다. 디벨로퍼 클라우드는 AI 업계의 AMD GPU 도입률을 올리기 위한 시범 서비스로, ROCm 기반 환경을 직접 시험해 볼 수 있다.

AI 서버 환경 위한 AMD 폴라라 400 AI NIC도 출시

서버 환경은 핵심 연산을 처리하는 CPU와 AI 작업에 대응하는 GPU가 핵심이며, 이를 서버 및 가속기와 원활하게 연결하기 위한 DPU(데이터 처리 장치)도 필요하다. AMD는 지난해 어드밴싱 AI 행사에서 펜산도 폴라라 400 네트워크 인터페이스 컨트롤러(NIC)를 출시했으며, 올해는 이를 AI 환경에 더 최적화한 AMD 펜산도 폴라라 400 AI NIC으로 공개했다.

포레스트 노로드(Forrest Norrod) AMD 데이터 설루션 그룹 수석부사장이 폴라라 400 AI NIC 카드를 소개 중이다 / 출처=IT동아

AMD 폴라라 400 AI NIC은 고성능 컴퓨팅 작업 환경을 위한 이더넷 기반 통신 기술인 울트라 이더넷 컨소시엄(UEC) 사양을 정식 지원한다. 구성면에서는 ▲ 완전히 프로그래밍할 수 있는 맞춤형 전송 ▲네트워크 처리 부하를 CPU에서 NIC로 전달해 시스템을 가속화하는 기능 ▲ PCIe 5세대 채택으로 최대 400GB 이더넷 지원 ▲ 시스템 확장 시 특정 네트워크 패브릭에 종속되지 않는 등의 특징이 있다.

성능 면에서는 AMD 자체 네트워크 연결 환경에서 RoCEv2(RDMA over Converged Ethernet 버전 2)을 구성할 때 엔비디아 엔비디아 CX7 대비 1.1배, 브로드컴 토르2 대비 1.2배의 성능을 낸다.다만 DPU 자체가 AI 추론 등을 수행하는 것은 아니며 AI 서버 시스템에 적정한 구성이라는 의미에서 AI NIC이라는 이름이 붙었다.

CPU, GPU, DPU, ROCm으로 엮이는 포트폴리오

AMD는 2025년 현재, AI 서버의 모든 구성 요소를 확보한 기업이다. 엔비디아는 AI 서버 구축의 핵심인 GPU 시장의 강자고, 블루필드 DPU와 커넥트-X NIC 등 주변 구성 요소도 다 갖추고 있다. 하지만 고성능 컴퓨팅 환경을 위한 x86 프로세서 라인업은 없으므로 Arm 기반 CPU를 대체제로 내세우고 있다. 인텔은 제온 기반의 x86 프로세서 라인업은 잘 갖췄지만, 가우디 3 기반 AI 가속기 등에서 고전을 면치 못하고 있다.

AMD는 시스템반도체 기업에서 AI 종합 인프라 기업으로의 체질개선에 나서고 있다 / 출처=IT동아

AMD는 x86 기반 고성능 프로세서인 에픽(EPYC), AI 가속기용 AMD 인스팅트, 데이터 처리를 위한 AMD 펜산도, 그리고 이를 지원하는 ROCm 생태계까지 모두 갖추고 있다. 물론 엔비디아의 절대적인 영향력이 큰 시장이지만, 엔비디아에는 없는 x86 서버용 프로세서와 점진적으로 시장 점유율을 늘리는 등 나름의 성과를 만들어가고 있다. ROCm 역시 꾸준히 업데이트되며, 디벨로퍼 클라우드 출시를 통해 개발자들이 한번 써볼 수 있게 만드는 등 대책도 마련하고 있다. 지난해 말에는 데이터서버 건설 전문 기업인 ZT시스템즈까지 인수하며 AI 시대에 필요한 모든 인프라스트럭처에 관여할 각을 재고 있다.

리사 수 AMD 최고경영자는 “현대 컴퓨팅은 우리가 본 적 없는 속도로 빠르게 발전하고 있고, AI 생태계가 모든 것의 중심에 있다. AMD는 AI를 더욱 강력하고, 접근성이 뛰어나며, 모두에게 유용하게 만들기 위한 기술과 인재, 파트너들을 모으고 있다. AI의 미래는 어느 한 회사나 폐쇄적 생태계에서만 만들어지지 않는다. 업계 전반의 열린 협업을 통해 이를 이뤄내겠다”라고 말했다. AMD는 지금, 오늘의 시장 점유율이 아닌 5년에서 10년 뒤의 시장을 바라보고 기업 전반을 바꾸고 있다. 앞으로 AMD 전반의 포트폴리오가 시장에서 어떤 성과를 올릴지 귀추가 주목된다.

IT동아 남시현 기자 (sh@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

번호	제목	글쓴이	작성일	조회	추천
설문	반응이 재밌어서 자꾸만 놀리고 싶은 리액션 좋은 스타는?	운영자	25/07/28	-	-
5495	GM·LG엔솔 “LFP보다 효율 뛰어난 LMR 배터리로 승부수 띄울 것”	IT동아	07.02	287	0
5494	[주간스타트업동향] 펫나우, '경기도 반려견 비문등록 시범사업' 통해 기술 과시 外	IT동아	07.02	275	0
5493	산불·쓰나미·지진 등 재난 인명 피해, 첨단 음향 기술로 줄인다 [3]	IT동아	07.02	6132	0
5492	플리토와 협력 나선 퓨리오사AI, AI 반도체는 왜 언어 데이터가 필요할까?	IT동아	07.02	274	0
5491	인천창조경제혁신센터, 중국 청두 솽촹센터와 국내 스타트업 중국 진출 돕는다	IT동아	07.02	250	0
5490	세컨드팀, "슈퍼코더, AI가 면접관이 되는 시대 연다”	IT동아	07.02	264	0
5489	인천공항 빠르게 출국하려면? 스마트패스, ‘이제 은행 앱에서 등록 가능’	IT동아	07.02	438	0
5488	게임 그래픽 처리 위한 인공지능 기술 진화는 ‘현재진행형’	IT동아	07.01	304	0
5487	[뉴스줌인] LG전자가 집까지 판다? ‘스마트코티지’ 이모저모 [3]	IT동아	07.01	2860	3
5486	KRDS 준수해야 하는 공공 웹, AI 기반 검증 기술에도 ‘주목’	IT동아	07.01	276	0
5485	[자동차와 法] 휴가철 교통사고, 법과 보험으로 미리 대비하기	IT동아	07.01	263	0
5484	반려견·묘 있다면 알아야 할 동물등록 방법…7월부터 집중 단속	IT동아	07.01	249	0
5483	메이커스페이스 야간 교육 가보니··· '참여율 3배, 직장인 예비창업자도 OK'	IT동아	07.01	242	0
5482	[IT하는 법] 지도 서비스에서 실시간 CCTV 보는 법 [1]	IT동아	07.01	6578	0
5481	새 갤럭시 Z 폴드 공개 예정, 폴더블 디스플레이 소재 산업 훈풍 불까?	IT동아	07.01	315	0
5480	LG유플러스 익시오 안티딥보이스, 온디바이스로 얻는 장점은?	IT동아	06.30	457	0
5479	가족권, 재배치 마일리지…따릉이 새 서비스 이용법	IT동아	06.30	2326	0
5478	[신차공개] 볼보 ‘신형 XC90’ 사전계약·BYD ‘아토 3’ 무상 정기점검 실시	IT동아	06.30	5611	0
5477	[스타트업리뷰] AI로 4050세대 맞춤 라이프스타일 제시...'퀸잇'	IT동아	06.30	263	0
5476	[주간투자동향] 원더웍스컴퍼니, 50억 원 규모 시리즈A 투자 유치 外	IT동아	06.30	292	0
5475	전국 박물관·미술관 문화유산정보 궁금할 땐 이렇게! [이럴땐 이렇게!]	IT동아	06.30	238	0
5474	[농업이IT(잇)다] 서울집시 “타협 없는 풍미와 품질로 100년 이상 이어지는 맥주 브랜드 꿈꾼다”	IT동아	06.27	392	1
5473	[투자를IT다] 2025년 6월 4주차 IT기업 주요 소식과 시장 전망	IT동아	06.27	412	0
5472	퓨리오사AI NPU 도입 앞둔 딥노이드, "운영비용 최적화·서비스 응용에 기대"	IT동아	06.27	353	0
5471	산봉우리 이름부터 일출·일몰·행성 정보 한눈에…AR산지도 앱 활용법	IT동아	06.27	339	0
5470	스플렁크, AI 시대 데이터 관리 강조…“데이터 연합 전략이 대안”	IT동아	06.27	317	0
5469	[생성 AI 길라잡이] 구글 제미나이로 '고품질 음식 사진' 생성하기 [3]	IT동아	06.27	15180	2
5468	[크립토퀵서치] ‘가상자산’을 ‘디지털자산’이라고 하는 이유는? [2]	IT동아	06.27	12239	2
5467	“찾아가는 게임리터러시 교육, 누구나 배움의 기회를 누려요” 게임리터러시 온더로드 개최	IT동아	06.27	276	1
5466	에이수스 게이밍 기어가 서브컬처 문화를 만나다	IT동아	06.26	2289	1
5465	AI 무인 회수기, 페트병·캔 재활용으로 포인트 적립까지…선순환 효과 ‘톡톡’	IT동아	06.26	271	0
5464	넥스트라이즈 2025, 우주/방산/콘텐츠 부문 AI 스타트업 '눈길'	IT동아	06.26	261	0
5463	만트럭 “직영서비스센터 확장·정비 예약 앱 출시로 韓 소비자에게 밀착”	IT동아	06.26	249	0
5462	[생활 속 IT] 버스 도착 시간이 궁금할 때, 카카오맵 ‘버스 예상시간표’	IT동아	06.26	196	0
5461	‘금융 서비스 관리 쉽고 빠르게’ 마이데이터 2.0, 어떻게 달라졌을까?	IT동아	06.26	194	0
5460	리벨리온, SKT와 함께 AI 서비스 구현 나서··· '핵심은 AI 주권 확보'	IT동아	06.26	193	0
5459	국내 첫 샤오미 공식매장 오픈, 자동차 빼고 다 있다? [3]	IT동아	06.25	2069	1
5458	AI 챗봇 또타24, 서울지하철 민원 접수 간단하고 빠르게	IT동아	06.25	203	0
5457	장마철 차량 관리법과 운전 수칙 살펴보니	IT동아	06.25	196	0
5456	[IT하는법] 현재 실행 중인 앱, 잠금화면에서 바로 조작 ‘나우 바’	IT동아	06.25	976	0
5455	[주간스타트업동향] 로앤컴퍼니-렉시스넥시스 전략적 업무 제휴 체결 外	IT동아	06.25	189	0
5454	업스테이지·퓨리오사AI 맞손, '국산NPU에 국산 LLM 올린다'	IT동아	06.25	189	0
5453	[ETF Q&A] 채권형 ETF에는 어떤 상품이 있나요?	IT동아	06.25	179	0
5452	[스타트업-ing] 토도웍스 “휠체어 이동 편의, 장애인식 개선 첫걸음”	IT동아	06.25	164	0
5451	[기고] 공간의 정치학 - 대통령 집무실과 수도 이전의 역사	IT동아	06.25	167	1
5450	[시승기] 여유로운 실내 공간과 경제성 갖춘 ‘기아 K8 LPG’	IT동아	06.24	190	0
5449	[스타트업-ing] 피터페터 “유전자 검사 펫테크 솔루션, 구글 AI 기술로 한층 고도화”	IT동아	06.24	191	0
5448	인고의 시간 거친 티맥스 ANC, 슈퍼앱 '가이아'에 사활 걸어	IT동아	06.24	184	0
5447	“걷기만해도 포인트 혜택 쏠쏠” 손목닥터9988 앱 활용법	IT동아	06.24	222	0
5446	산업 활성화와 이용자 보호 균형 맞춘 '디지털자산기본법' [2]	IT동아	06.24	5647	1
뉴스	십센치, 7년 11개월 만에 정규 5집 ‘5.0’ 발매! “편의점 같은 음악 선사”	디시트렌드	07.31

최근 방문

즐겨찾기

즐겨찾기 갤러리

이미지 올리기 이용안내

갤러리 이슈박스, 최근방문 갤러리

연관 갤러리

개념글 리스트

차단하기

[IT동아 갤러리]

갤러리 본문 영역

AMD, 인스팅트 MI350X 시리즈로 점진적 시장 확산 노려

실질 성능과 확장성 더 좋아진 AMD ROCm 7

AI 서버 환경 위한 AMD 폴라라 400 AI NIC도 출시

CPU, GPU, DPU, ROCm으로 엮이는 포트폴리오

▶ 샘 알트만 "2030년까지 AI 발전 속도 유지··· AMD와의 협력 중요해"▶ 살릴 라제 AMD 부사장 "FPGA 40주년··· 지속적인 통합이 AMD의 전략"▶ AMD, UMPC용 CPU 라인업 확충··· 'AI·보급형 시장 모두 노린다'

추천 비추천

댓글 영역

① NFT 발행

② NFT 구매

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

페이지 이동

오른쪽 컨텐츠 영역

알림 설정

알림

디시콘 리스트

디시콘

디시콘 검색결과(0)

인기 디시콘