KT클라우드, GPUaaS에 엔비디아 H200 적용…"성능 강화"
AI 서브 NPU 활용해 sLM NPU 성능 검증 예정
- 양새롬 기자
(서울=뉴스1) 양새롬 기자 = KT클라우드가 자사 서비스형 그래픽처리장치(GPUaaS)에 엔비디아 H200를 적용했다고 24일 밝혔다.
KT클라우드는 인공지능(AI) 인프라가 필요한 국내 공공기관과 AI 스타트업을 대상으로 사용량 기반의 탄력적인 그래픽처리장치(GPU) 자원 이용이 가능한 GPUaaS를 제공 중이다.
단기간 대용량·고사양의 GPU 공급이 요구되는 학습 영역에 특화된 'AI 트레인(Train)', 적은 양의 GPU를 끊김 없이 상시 공급해야 하는 추론 영역에 특화된 'AI 서브(SERV)' 등이다.
KT클라우드는 기존 H100 중심으로 운영되던 AI 트레인 서비스에 H200을 적용해 한층 강화된 성능을 구현할 계획이다.
엔비디아 H200은 업그레이드된 호퍼(Hopper) 아키텍처 기반의 최신 GPU 제품으로 AI 및 고성능 컴퓨팅(HPC) 워크로드를 가속화하는 데 중점을 둔 제품이다.
이전 모델인 H100 대비 연산 처리 능력과 전력 효율성이 개선됐으며, 메모리 대역폭이 넓어져 최적화된 고성능 학습 및 추론 인프라 환경을 제공할 것으로 회사 측은 기대했다.
한편 KT클라우드는 신경망처리장치(NPU) 영역에도 대응하기 위해 리벨리온과 협력해 추론 전용 인프라인 'AI 서브 NPU' 서비스를 제공 중이다.
올해 5월 출시 예정인 리벨리온 '아톰 맥스'를 AI 서브 NPU에 적용해 소형언어모델(sLM)이 요구하는 NPU 성능을 검증할 예정이다.
아울러 미국 반도체 설계 업체 암페어와도 AI 반도체 사업 협력을 검토 중이다.
이밖에도 KT클라우드는 올 하반기 중 공공 기관을 대상으로 추론 전용 상품의 클라우드보안인증(CSAP) 인증 절차를 진행해 공공 분야 AI 수요에도 적극 대응한다는 계획이다.
flyhighrom@8z3wx.shop
Copyright ⓒ 뉴스1. All rights reserved. 무단 전재 및 재배포, AI학습 이용금지.