[단독] 프라사드 칼야나라만 AWS 부사장 "향후 인프라 투자 방향, 고객이 원하는 대로" [AWS 리인벤트 2023]

IT동아 · 2023.11.30 09:31:05

[라스베이거스=IT동아]

“AWS가 제공하는 자원의 90% 이상이 고객들이 원하는 것에 맞춰져 있다. 고객이 특정 기반 모델에 대해 얘기한다면 그것을 선택하고, 멀티모달이나 텍스트 베이스 모델 등을 원한다면 모델의 다양성에 대해 투자할 것이다. 리인벤트는 어떻게 특정 서비스를 더 간소화하고, 영향력을 가져갈 수 있는지를 확인할 수 있는 자리다”

프라사드 칼야나라만(Prasad Kalyanaraman) AWS 글로벌 인프라 서비스 부사장에게 내년의 투자 방향에 대해 묻자 돌아온 대답이다.

프라사드 칼야나라만(Prasad Kalyanaraman) AWS 글로벌 인프라 서비스 부사장

그가 이끌고 있는 AWS 글로벌 인프라 서비스는 전 세계 32개 지역(리전)에 102개 이상의 가용성 영역, 그리고 550개 이상의 접속 지점을 제공한다. AWS가 제공하는 클라우드 자원은 배경에 대해 설명하자면 AWS가 제공하는 클라우드는 리전(Region)이라는 지역적 단위로 구분되며, 해당 지역 내에 물리적인 서버가 존재한다. 인프라 서비스는 이 서버에 대한 관리 및 서비스를 수행하며, 프라사드 칼야나라만 AWS 인프라 서비스 부사장은 이 과정이 원활하게 제공될 수 있도록 물류 및 공급망 관리, 운영 등을 담당하고 있다.

2005년부터 AWS에서 근무한 칼야나라만은 공급망 최적화와 기민한 해결 방안 제시, 확장성 및 제품 관리 분야 등에 걸친 경험을 갖고 있고, 이를 활용해 유틸리티 컴퓨팅 및 네트워크 서비스의 효율화를 지원한다. 또한 AWS 마켓플레이스 ISV와 같은 솔루션과 아키텍처 유지 관리 등의 업무도 맡고 있다. IT동아에서 프라사드 칼야나라만 AWS 부사장과 단독 인터뷰를 진행했다.

“NPU, FPGA, RISC-V도 고객이 필요하면 마련할 것”

우선 그에게 올해, 그리고 내년 투자의 방향성에 대한 질문부터 던졌다. 프라사드 칼야나라만은 “올해, 그리고 내년 인프라 서비스 투자의 방향은 대체로 생성형 AI와 맞물려있다. 올해 기조연설에서 공개된 그라비톤 4, 트레이니엄 2 칩, 아마존 S3 클라우드까지도 모두 생성형 AI 수요에 대응하기 위한 제품들이다”라며 투자 방향을 설명했다.

프라사드 칼야나라만 부사장은 고객이 필요하다면 서드파티 AI 가속기도 도입할 수 있다고 답했다 / 출처=IT동아

또한 90% 이상의 투자는 모두 고객 중심적인 결정이라는 점도 강조했다. 그는 “AWS의 생성형 AI 전략은 인프라스트럭쳐 계층이 있고, 그 위에 대형언어모델(LLM) 계층, 최상위에 애플리케이션 레이어가 있다. 인프라 투자 역시 이와 궤를 같이한다”라면서, “따라서 고객들의 요청이 커진다면 서드파티 브랜드의 NPU, ASIC, FPGA, RISC-V까지도 AWS 인프라에 도입할 수 있다. 엔비디아의 GH200 그레이스호퍼 슈퍼칩 역시 같은 맥락에서 도입한 것이다”라고 말했다.

현재 AWS는 CPU와 GPU 등 인프라의 핵심 자산을 내재화하고 있으나, 업계에서 주로 사용되는 인텔 및 AMD CPU, 엔비디아 GPU 등의 하드웨어는 별도 인스턴스로 제공하고 있다. 텐스토렌트의 RISC-V나 퓨리오사AI의 NPU도 사용을 원하는 기업이 늘어난다면 AWS로서는 도입하지 않을 이유가 없다는 의미다.

지속가능성·효율 고려한 냉각방식 전환도 고려 중

젠슨 황 엔비디아 CEO(우측)가 아담 셀립스키 AWS 최고경영자(좌측)이 진행하는 기조연설에 깜짝 등장했다 / 출처=IT동아

지난 기조연설에서는 젠슨 황 엔비디아 최고경영자가 직접 등장해 AWS가 엔비디아 GH200을 도입한다는 소식을 전했다. AWS가 엔비디아 GH200 NVL32를 도입하게 되면 자연스럽게 데이터센터에도 액체 냉각 방식을 도입하게 되는 것인데, 액체 냉각 혹은 액침 냉각 등 올해 들어 주목받고 있는 최신 냉각 방식을 인프라 전반에 확대할 생각이 있는지에 대해 물었다.

프라사드 칼야나라만은 “지금까지 AWS의 데이터센터 디자인은 주로 외부 공기와 순환하는 프리 쿨링 방식을 도입해 왔다. 하지만 기계학습용 반도체들이 더 많이 필요하게 될수록 액체 냉각도 필요하게 될 것이다”라면서, “일단은 콜드 플레이트 쿨링을 선제적으로 도입할 예정이고, 전면적인 액체 냉각, 액침 냉각 등은 고려 단계”라고 말했다. 다만 어떤 특정 리전에서 테스트를 하기보다는 필요성이 제기되는 지역부터 도입을 고려할 것이라고 덧붙였다.

AWS, 삼성전자는 물론 SK하이닉스로부터도 HBM3 주문

프라사드 칼야나라만 부사장은 삼성전자 뿐만 아니라 SK하이닉스로부터도 HBM3를 공급받고 있다는 사실을 확인해주었다. 사진은 SK하이닉스의 HBM3 메모리 / 출처=SK하이닉스

인공지능 반도체의 핵심 부품으로 떠오른 HBM3(고대역 메모리)는 어떤 기준으로 선택하는지를 물었다. HBM3는 삼성전자와 SK하이닉스가 전 세계 시장 점유율의 약 90%를 차지하고 있다. 프라사드 칼야나라만은 “HBM3는 굉장히 중요한 부품이고, 기계학습 구축에 핵심이 된다. 그렇기 때문에 AWS는 삼성전자 이외에도 SK하이닉스를 포함한 모든 HBM3 제조사로부터 부품을 받고 있다”라고 말했다. SK하이닉스가 AWS에 HBM3 메모리를 공급한다는 사실이 확인된 건 이번이 처음이다.

마지막으로 프라사드 칼야나라만 부사장은 “AWS에게 있어 한국은 중요한 시장이며, 삼성전자와 넥슨과 같은 대기업들이 우리와 함께하고 있다는 것이 기쁘다. 앞으로도 서울 리전을 통해 많은 고객들에게 신뢰할 수 있는 서비스를 꾸준히 제공하겠으며, 생성형 AI에 대해서도 만족도 높은 결과를 제공하기 위해 노력하겠다”라고 인터뷰를 마쳤다.

글 / IT동아 남시현 (sh@itdonga.com)

사용자 중심의 IT 저널 - IT동아 (it.donga.com)

번호	제목	글쓴이	작성일	조회	추천
설문	어떤 상황이 닥쳐도 지갑 절대 안 열 것 같은 스타는?	운영자	24/05/20	-	-
3830	'직장인 3명 중 1명, 데이터 도출 어려워'··· AI 기반 자동화가 해답될까?	IT동아	17:29	4	0
3829	산행 보조부터 산불 진화까지...'입는 로봇' 활용처 확대	IT동아	16:26	31	0
3828	대거 출시 예고한 Arm CPU 기반 윈도우 PC, 뭐가 다를까?	IT동아	15:05	5	0
3827	비트코인 피자데이, 업비트·빗썸 “피자 2024판 쏜다” [1]	IT동아	10:37	129	0
3826	[생성 AI 길라잡이] 음성과 이미지만 있으면 영상을 만든다 ‘런웨이ML’	IT동아	05.21	1549	0
3825	가속 페달 밟은 검색광고 시장 경쟁, 보라웨어 ‘AI 검색광고 관리 솔루션에 주목해야 되는 이유	IT동아	05.21	40	0
3824	부르면 달려오는 '이동형 전기차 충전기' 시장 기지개 [13]	IT동아	05.21	1680	0
3823	MS, '코파일럿 플러스 PC' 발표…AI 시대의 새로운 PC 제시	IT동아	05.21	61	0
3822	업비트·빗썸, 1분기 실적 개선···투자자 보호·서비스 개선에 주력한다	IT동아	05.21	40	0
3821	GPT4o와 GPT4 비교해 보니··· '사람 대 AI의 근본적인 접근 방식 바꿔' [6]	IT동아	05.21	1177	3
3820	삼성전자, '비스포크 AI 콤보' 에센셜 화이트 색상 출시…색상 라인업 강화	IT동아	05.20	104	0
3819	채팅창 넘어 일상으로…'만능 AI 비서' 시대 온다	IT동아	05.20	470	0
3818	오늘부터 시끄러운 불법 튜닝 오토바이 집중 단속 [6]	IT동아	05.20	510	6
3817	AWS 서밋 행사장에서 펼쳐진 훈훈한 ‘프리킥’	IT동아	05.20	93	0
3816	[주간투자동향] 라피치, 60억 원 규모 투자 유치	IT동아	05.20	64	0
3815	키보드의 윈도 키, 최대한 활용하려면 이렇게![이럴땐 이렇게!] [4]	IT동아	05.20	1274	16
3814	인포플라 “대답만 하던 기존 AI의 한계, VLM 기반 자동화로 극복” [4]	IT동아	05.18	6853	3
3813	6월 인공지능ㆍ반도체 시장 엔비디아 손에 달렸다	IT동아	05.17	166	0
3812	[시승기] 시대를 초월한 디자인 DNA…’포르쉐 911 카레라 쿠페’	IT동아	05.17	159	0
3811	[IT신상공개] 입맛대로 고르는 저음, 소니 얼트 파워 사운드	IT동아	05.17	167	0
3810	"코바코의 대국민 AI 광고 제작 서비스, 네이버가 함께합니다"	IT동아	05.17	158	0
3809	[생성 AI 길라잡이] 더 사람 같아진 AI, 'GPT-4o'는 어떻게 다를까? [2]	IT동아	05.17	1224	1
3808	차트분석 도구 ‘트레이딩뷰’ 파고들기 - 11	IT동아	05.16	176	0
3807	[뉴스줌인] PC 2대 연결해 하나처럼? 인텔 ‘썬더볼트 쉐어’ 기술 이모저모 [5]	IT동아	05.16	2130	0
3806	스틸시리즈 코리아 “편의성 강화한 ‘아크티스 노바5’로 가파른 성장세 이어갈 것”	IT동아	05.16	192	0
3805	[스타트업 첫걸음] 기고를 시작하며	IT동아	05.16	151	0
3804	[월간자동차] 24년 4월, 신차 등록 감소…기아 ’쏘렌토’ 4개월 연속 판매 1위 [1]	IT동아	05.16	854	0
3803	10년 차 맞은 AWS 서밋 서울··· '국내 최대 IT·클라우드 행사로 자리매김'	IT동아	05.16	213	0
3802	[자동차와 法] 딜레마존 구간에서 운전자 주의의무에 대하여	IT동아	05.14	211	0
3801	대기업부터 스타트업까지, K-우주산업 ‘성큼’	IT동아	05.14	229	0
3800	벤츠, 소비자가 외면한 전기차 디자인 손본다 [47]	IT동아	05.14	8039	2
3799	우주방사선 차폐로 초소형위성 수명 늘린다	IT동아	05.14	221	0
3798	국내 기업 열에 일곱은 "이제 AI 활용 못 하는 직원은 고용 안 해" [37]	IT동아	05.14	7381	9
3797	NHN두레이 기반의 협업 환경, KDI 국제정책대학원의 ‘저력’ 높인다	IT동아	05.14	183	0
3796	[IT강의실] 가상자산 맡기고 추가 수익 실현 ‘스테이킹’	IT동아	05.14	194	0
3795	화제의 K-패스 카드, 발급부터 활용까지 이렇게! [이럴땐 이렇게!] [1]	IT동아	05.14	1856	2
3794	도로 위 시한폭탄 ‘맨홀 단차’ 빠르게 보수할 제품 실증 [4]	IT동아	05.13	728	1
3793	와탭랩스, "옵저버빌리티 기업 정체성 확립··· 美·日·동남아 시장 성과낼 것"	IT동아	05.13	184	0
3792	빗썸 “대학생 서포터즈 썸즈업이 제안한 개선안 적극 검토할 것” [3]	IT동아	05.13	1022	0
3791	차트분석 도구 ‘트레이딩뷰’ 파고들기 - 10 [8]	IT동아	05.11	8025	3
3790	[뉴스줌인] 캐논, 비정품 토너보다 심각한 ‘위조’ 토너에 골머리 [20]	IT동아	05.11	12458	6
3789	[리뷰] ‘시간 흘렀어도 64코어는 여전히 강력하다’ AMD 라이젠 스레드리퍼 7980X	IT동아	05.10	407	1
3788	정부, 라인야후 사태 '유감' 표명…네이버는 지분매각 가능성 공식화	IT동아	05.10	312	0
3787	[시승기] 48인치 스크린이 연출하는 매혹적인 실내…‘링컨 노틸러스’	IT동아	05.10	261	0
3786	공공기관 ‘테스트베드’ 사업, 중소기업과 동반성장 성과	IT동아	05.10	222	0
3785	[리뷰] 언제 어디서나 안전하고 빠른 근무 환경, ‘가비아 DaaS’	IT동아	05.10	223	0
3784	빗썸 “이벤트 참여자 과세 400억 원, 전액 지원할 것” [6]	IT동아	05.10	2912	1
3783	[농업이 IT(잇)다] 에스와이에스 “플라즈마로 농축산 폐수 정화합니다”	IT동아	05.10	212	0
3782	[생성 AI 길라잡이] GPT 활용 사례 및 교육 커뮤니티, '지피터스'	IT동아	05.10	2378	0
3781	삼성전자, '비스포크 AI 무풍 시스템에어컨 인피니트 라인’ 출시	IT동아	05.09	297	0

최근 방문

즐겨찾기

즐겨찾기 갤러리

갤러리 이슈박스, 최근방문 갤러리

연관 갤러리

개념글 리스트

차단하기

[IT동아 갤러리]

갤러리 본문 영역

“NPU, FPGA, RISC-V도 고객이 필요하면 마련할 것”

지속가능성·효율 고려한 냉각방식 전환도 고려 중

AWS, 삼성전자는 물론 SK하이닉스로부터도 HBM3 주문

▶ AWS, AI 적용해 세이지메이커 효율 강화 나서 [AWS 리인벤트 2023]▶ AWS, 이미지 생성형 AI 시장 진출··· '상용화에 방점' [AWS 리인벤트 2023]▶ LG AI연구원, 이미지를 문장으로 변환하는 AI 공개[AWS 리인벤트 2023]

추천 비추천

댓글 영역

① NFT 발행

② NFT 구매

하단 갤러리 리스트 영역

왼쪽 컨텐츠 영역

갤러리 리스트 영역

페이지 이동

오른쪽 컨텐츠 영역

알림 설정

알림

디시콘 리스트

디시콘

디시콘 검색결과(0)

인기 디시콘

지갑 연결