‘엔비디아ㆍAMD’ 인공지능 생태계 경쟁, 이제 시작이다

IT동아

2024.03.15 23:55:41

조회 200 추천 0 댓글 0

[IT동아 강형석 기자] 인공지능 분야에서는 엔비디아가 단연 앞서 있다고 평가된다. 과거 그래픽카드의 병렬 연산 능력 우위를 강조하며 다양한 장비를 준비해 왔기 때문이다. 현재는 H100이 주력으로 꼽힌다. A100도 있지만, 암페어(Ampere) 설계 구조로 H100의 호퍼(Hopper) 대비 한 세대 이전 기술을 담고 있다. 현재 H100도 향후 차기 제품인 H200 혹은 B100에게 자리를 내어 줄 예정이다.

앞서가는 엔비디아지만, 경쟁자도 다양한 무기를 앞세워 추격 중이다. 대표적으로 그래픽 처리장치(GPU) 분야에서 경쟁해 온 AMD가 있다. 최근 인스팅트 MI300 시리즈를 선보이며 경쟁에 나선다. 처음 선보이는 제품은 아니다. 과거에도 MI100과 MI200 등 병렬 연산이 필요한 환경에 대응해 왔지만, MI300은 인공지능 및 초고성능 컴퓨팅(빅데이터)에 맞춰 다듬었다. 본격적인 경쟁 체제에 돌입한 것이다.

엔비디아 vs AMD, 하드웨어 특성은 다르지만 접근 방법은 같아

엔비디아는 2007년, 점점 복잡해지는 그래픽 연산 환경에 맞춰 쿠다(CUDA) 코어를 개발했다. 하드웨어 집적도 향상에 따라 코어 수는 빠르게 늘었는데, 이와 함께 지포스 RTX 시리즈에 와서는 인공지능과 광선추적(레이 트레이싱)만 전문으로 처리하는 코어를 추가해 넣었다. 이것이 엔비디아가 인공지능 하드웨어로 빠르게 성장할 수 있었던 계기였다고 해도 과언이 아니다.

엔비디아 H100. / 출처=엔비디아

H100의 호퍼 설계 구조는 기존 엔비디아 그래픽 처리장치 설계를 인공지능 환경에 맞춘 형태다. 기본 코어 안에는 정수(INT32)와 단ㆍ배정밀도(FP32ㆍFP64)를 처리하도록 구성됐다. 추가로 4세대 텐서코어가 배치되어 부족한 부분을 돕는다. 텐서코어는 행렬의 연산을 한 번에 수행하는 것이 특징이다. 또한 비동기 연산을 지원하는데 이는 연산이 순차적으로 처리되는 게 아니라 부하에 따라 유연하게 처리됨을 의미한다.

AMD도 구조는 유사하다. 과거 그래픽 프로세서 설계를 연산에 특화된 구조로 바꿨다. 다만 그래픽 처리에 필요한 블록이 제거되고 모두 연산에 필요한 블록으로 대체했다. 따라서 기존 컴퓨트 유닛이라 부르는 코어가 2배 확장됐고 데이터를 유연하게 다루고자 예비와 주 메모리의 용량 등을 크게 키웠다. 행렬과 텐서 연산을 위해 별도의 매트릭스 코어(Matrix Core)를 구성한 점이 특징이다.

인공지능 가속을 위한 칩은 이와 동일하고 빅데이터 처리를 겸하는 장비는 구조가 다소 다르다. 엔비디아는 H100 가속장치와 함께 그레이스 설계가 반영된 ARM 기반 중앙처리장치가 짝을 이룬다. 이를 다수 배치함으로써 대규모 데이터 처리에 힘을 싣는다.

AMD 인스팅트 MI300. / 출처=AMD

반면 AMD는 인공지능 가속 칩에 중앙처리장치를 함께 배치한다. 인공지능 처리에 필요한 코어가 일부 줄어들지만, 그 자리를 대신해 24코어를 갖춘 젠(Zen) 4 기반 적용된 중앙처리장치가 집적된다. ARM 기반이 아닌 일반 x86 중앙처리장치라 다양한 환경에 대응 가능하다.

이렇게 구조는 다르지만, 지향하는 목표는 같다. 최대한 많은 연산을 유연하게 다루는 것이다. 현재 사양으로 놓고 보면 두 장치는 각각 일장일단은 있다. 다만 엔비디아는 시장 선점을 빨리했기에 전반적인 성능 검증이 이뤄졌으나 AMD는 이 부분에서 더 많은 노력이 필요한 상황이다.

하드웨어도 중요하지만, 진짜는 소프트웨어에 있다

엔비디아와 AMD 모두 병렬 컴퓨팅 처리장치 설계에 대해서는 많은 경험을 가진 기업이다. 따라서 신제품 출시 주기에 따른 성향 차이는 있어도 성능 부분에 있어서는 차이가 줄어들 가능성이 높다. 성능에서 큰 차이를 보이지 않는다면 결국 하드웨어의 가치와 성공을 가늠하는 것은 소프트웨어다. 하드웨어가 최고의 성능을 낼 수 있도록 지원과 유지보수 등이 필요하다.

시장에 빨리 진입했기에 폭넓은 호환성과 소프트웨어 환경을 갖춘 것이 엔비디아의 강점으로 꼽힌다. / 출처=엔비디아

엔비디아는 이 부분에 있어 폭넓은 솔루션을 제안하고 있다. 우선 쿠다(CUDA)-X 인공지능(AI)은 쿠다 명령어를 바탕으로 다양한 라이브러리 컬렉션을 제공한다. 병렬 컴퓨팅이 막 대두되던 시기부터 사용한 명령어를 환경에 맞춰 발전시킨 것으로 엔비디아의 강력한 무기 중 하나로 꼽힌다. 이 외에 엔터프라이즈 분야에서 인공지능을 위한 운영체제인 인공지능 엔터프라이즈(AI Enterprise), 기업이 가상공간 내에서 미리 결과를 얻을 수 있는 옴니버스(Omniverse) 등도 잘 알려진 소프트웨어들이다.

AMD도 ROCm을 내세워 생태계 구축에 나서는 중이다. / 출처=AMD

AMD는 인공지능 처리 도구와 모델, 라이브러리 등을 모은 ROCm을 전면에 내세웠다. 거대 언어 모델부터 다양한 연산 추론 등 인공지능 데이터 처리에 필요한 도구를 담았다. 개발을 위한 생태계 구축도 꾸준히 업데이트하면서 완성도를 높여가는 중이다. 무엇보다 이 분야에서는 개발자들이 명령어 호환성을 민감하게 본다. 새로 구축하고 그 과정에서 발생하는 문제에 대비하기에 시간이 오래 걸린다는 이유가 크다. AMD도 이 부분에 대응하기 위해 개발자 커뮤니티와 다양한 인공지능 오픈소스 개발사와 협업한다.

인공지능 시장은 빠르게 성장하고 있다. 글로벌 시장조사기업 IDC에 따르면 2027년 전 세계 생성형 인공지능 시장 규모가 약 1500억 달러 이상으로 내다봤다. 시장이 성장함에 따라 자연스레 관련 하드웨어 수요도 증가할 것으로 예상된다. 엔비디아와 AMD의 경쟁은 이제부터 시작인 것이다.

글 / IT동아 강형석 (redbk@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

▶ 인공지능 아니었으면... 코세라 한국어 번역 강좌로 한국 시장 진출 ▶ [2024 고려대 초창패] "렛서의 미래, AI 업계의 관리형 서비스를 꿈꿉니다"▶ “주문 접수부터 메뉴 제안까지…” 생성형 AI로 진화하는 스마트상점

고정닉 0

원본 첨부파일 4본문 이미지 다운로드

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	가족과 완벽하게 손절해야 할 것 같은 스타는?	운영자	24/06/24	-	-
3588	카카오벤처스 "비만 치료제 열풍, 스타트업에 새로운 기회" [1]	IT동아	03.20	472	0
3587	스타트업 혁신 지원하는 AWS ’AWS 유니콘데이’	IT동아	03.20	126	0
3586	[월간자동차] 24년 2월, 판매 1위 모델 국산 ‘쏘렌토’·수입 ‘BMW 5시리즈’	IT동아	03.20	892	2
3585	"AI로 고객 응대하고, 광고 문구 쓰세요"…SKT, AI 기반 B2B 사업 확대 박차	IT동아	03.20	117	0
3584	퀄컴, 경제성·효율 높인 '스냅드래곤 8s 3세대' 출시	IT동아	03.20	151	0
3583	[자동차와 法] 교통사고 과실비율에 대한 고찰	IT동아	03.19	121	0
3582	‘하드웨어+소프트웨어’ 플랫폼으로 인공지능 생태계 장악 노리는 엔비디아의 속내는? [1]	IT동아	03.19	479	0
3581	엔비디아 GTC 2024 개최, ‘블랙웰’과 ‘NIMS’로 인공지능 생태계 강화 나선다	IT동아	03.19	110	0
3580	'맞춤형 지원 패키지와 함께하는 창업' 엠디글로벌넷, 경기 신사업창업사관학교 참가자 모집	IT동아	03.19	112	0
3579	[2024 고려대 초창패] 번거로운 매출·배달 관리를 하나로 ‘올인원 포스’	IT동아	03.19	105	0
3578	[뉴스줌인] 최신 보급형폰, 6년 전 고급형폰, 뭐가 더 좋을까? [10]	IT동아	03.19	1065	2
3577	[IT신상공개] 거리 맞춰 온도 조절하는 '다이슨 슈퍼소닉 뉴럴 헤어드라이어'	IT동아	03.19	266	0
3576	[IT강의실] 실물 자산을 가상자산으로 ‘RWA’ [2]	IT동아	03.19	818	0
3575	[KESIA 시드팁스] "멀지만 가까운 왕진, 똑똑의사로 모두가 누리게 할 것" [1]	IT동아	03.19	180	0
3574	가격대별 출시 예정 전기 SUV 살펴보니	IT동아	03.18	122	0
3573	AI 혁신의 중심 된 '엔비디아 GTC 2024', 국내 주요 참여 스타트업은?	IT동아	03.18	457	0
3572	[스타트업 법률실무 마스터링] 투자유치 법률실무 (4) - 계약 위반과 분쟁 방지	IT동아	03.18	739	0
	‘엔비디아ㆍAMD’ 인공지능 생태계 경쟁, 이제 시작이다	IT동아	03.15	200	0
3570	[시승기] 브랜드 첫 1만대 클럽 가입 이끈 ‘포르쉐 카이엔’	IT동아	03.15	181	0
3569	[2024 고려대 초창패] 라르크 인터내셔널 “인플루언서 이름 건 제품, 기획∙제조∙유통까지 책임진다”	IT동아	03.15	171	0
3568	[생성 AI 길라잡이] 윈도우 11에 내장된 생성형 AI, '코파일럿'	IT동아	03.15	207	0
3567	[IT애정남] 스마트폰으로 별 사진 찍으려면 어떻게 해야 하나요? [2]	IT동아	03.15	3671	7
3566	[KESIA 시드팁스] 세일즈맵 “한국 기업의 일하는 방식에 맞는 CRM은 따로 있습니다”	IT동아	03.15	161	0
3565	전기차 안전·주행거리 지키는 배터리 열관리 시스템	IT동아	03.14	383	0
3564	[KESIA 시드팁스] 메텔 “해외 고객이 제 발로 찾아오게 하는 AI 마케터”	IT동아	03.14	163	0
3563	도시가스·콘택트렌즈 등 6건 ICT 규제 샌드박스 지정 [1]	IT동아	03.14	874	0
3562	차트분석 도구 ‘트레이딩뷰’ 파고들기 - 2	IT동아	03.13	197	0
3561	[뉴스줌인] 2024년형 ‘AI TV’ 출시한 삼성전자, 핵심은 AI 기반 업스케일링 [3]	IT동아	03.13	1997	1
3560	미세먼지·이물질 흡입하는 ‘노면 청소차’ 작동 원리 살펴보니	IT동아	03.13	160	0
3559	펀블, 신규 STO 플랫폼 및 투자 상품 출시 “STO 시장 선점할 것”	IT동아	03.13	154	0
3558	벤큐코리아 ‘2024 디자인뷰 어워드’ 디자인 공모전 개최	IT동아	03.12	170	0
3557	인공지능 아니었으면... 코세라 한국어 번역 강좌로 한국 시장 진출 [2]	IT동아	03.12	1180	1
3556	다시 걷는 춘천 원도심, ‘상권르네상스 사업’ [1]	IT동아	03.12	1891	2
3555	[EV 시대] 전기차 공유 서비스의 명과 암	IT동아	03.12	804	0
3554	[2024 고려대 초창패] "렛서의 미래, AI 업계의 관리형 서비스를 꿈꿉니다"	IT동아	03.12	188	0
3553	[KESIA 시드팁스] 메디노드 “AI·자동화 기술로 통합 약제 솔루션 구축한다”	IT동아	03.12	140	0
3552	고효율가전 살 때 비용 지원받으려면 이렇게![이럴땐 이렇게!] [2]	IT동아	03.12	1743	0
3551	복잡한 경제지표 일정, '경제 캘린더'로 빠르게 파악하는 방법	IT동아	03.12	135	0
3550	[뉴스줌인] 가상 아닌 ‘진짜’ 입체음향 내는 2024 LG 사운드바, 뭐가 다를까? [9]	IT동아	03.11	1823	0
3549	고가 법인차 ‘연두색 번호판 부착’...제도 개정 후 결과 살펴보니 [12]	IT동아	03.11	2502	1
3548	[스타트업 법률실무 마스터링] 투자유치 법률실무 (3) - 투자계약 체결 전 투자사와의 분쟁방지	IT동아	03.11	133	0
3547	[주간투자동향] 케어링, 400억 원 규모 시리즈 B 투자 유치	IT동아	03.11	634	0
3546	내가 원하는 기업의 공시자료 ‘RSS 피드’로 편하게 보자	IT동아	03.08	144	0
3545	[생성 AI 길라잡이] 챗GPT와 자동차의 만남 [2]	IT동아	03.08	9438	3
3544	이노와이어리스의 협업 자산, ‘NHN두레이’로 쌓는다	IT동아	03.08	154	0
3543	[KESIA 시드팁스] 프렉탈테크놀로지 “검증된 고객과 데이터 갖춘 M&A 거래소 만듭니다”	IT동아	03.08	148	0
3542	LG전자, 토출구 2개로 냉각성능∙전력효율 강화한 벽걸이 에어컨 신제품 공개	IT동아	03.07	490	1
3541	[뉴스줌인] 전에 못 보던 24GB, 48GB 용량? ‘논바이너리’ 메모리의 이모저모 [7]	IT동아	03.07	777	0
3540	가상자산 거래소, 시장 상황에 맞춰 ‘거래 환경·혜택 강화’	IT동아	03.07	134	0
3539	차트분석 도구 ‘트레이딩뷰’ 파고들기 - 1	IT동아	03.07	157	0