[FETV=신동현 기자] 삼성SDS가 국내 최초로 엔비디아의 최신 GPU인 ‘B300(블랙웰 울트라)’ 기반 GPU 구독형 서비스(GPUaaS)를 선보였다. 기업들이 인공지능(AI) 모델 개발을 넘어 실제 서비스 적용 단계인 ‘AI 추론’으로 빠르게 이동하는 가운데, 고성능 컴퓨팅 수요에 대응하기 위한 행보다.

삼성SDS는 자사 클라우드 서비스인 삼성 클라우드 플랫폼(SCP)을 통해 ‘SCP B300 GPUaaS’를 출시했다고 23일 밝혔다.

B300 GPU는 12단 HBM3E(고대역폭메모리)를 탑재해 GPU당 288GB의 메모리 용량과 초당 8TB의 대역폭을 제공한다. 삼성SDS에 따르면 이는 기존 H100 대비 메모리 용량은 3.6배, 대역폭은 2.4배 향상된 수준이다.

이 같은 성능 개선은 대규모 언어모델(LLM) 추론 과정에서 발생하는 병목 현상 완화에 초점이 맞춰져 있다. 일반적으로 AI 추론 작업에서는 GPU 연산 속도에 비해 메모리 데이터 전송 속도가 느려 전체 성능이 떨어지는 경우가 많은데, B300은 이 부분을 개선해 복잡한 연산이 필요한 추론 업무의 효율을 끌어올릴 수 있다는 게 회사 측 설명이다.

삼성SDS는 이번 서비스를 통해 AI 에이전트, 이미지·영상·코드 생성 및 분석 등 고성능이 요구되는 기업용 AI 서비스에서 지연 시간을 줄일 수 있을 것으로 기대하고 있다. 아울러 GPU를 필요한 만큼 사용하고 비용을 지불하는 구독형 방식인 만큼 초기 투자 부담을 낮추고 비용 효율성을 높일 수 있다는 점도 강점으로 제시했다.

최신 GPU 수급이 쉽지 않은 상황에서 기업들이 SCP를 통해 엔비디아 최신 아키텍처를 비교적 빠르게 도입할 수 있다는 점도 특징이다. 삼성SDS는 여기에 자사 보안 역량을 결합해 민감한 기업 데이터를 보다 안전한 클라우드 환경에서 처리할 수 있도록 지원한다는 방침이다.

삼성SDS는 앞서 2021년 A100, 2023년 H100 기반 GPUaaS를 선보이며 GPU 인프라 서비스를 확대해왔다. 이번 B300 도입으로 AI 전용 인프라 서비스 경쟁력을 한층 끌어올리겠다는 전략이다.

이와 함께 삼성SDS는 올 3분기 중 추가 AI 인프라도 선보일 계획이다. AI 모델 적용 시 별도 인프라 사용료 없이 사용한 토큰량만큼만 비용을 내는 ‘서버리스 추론 서비스’와, 개발자가 코드와 데이터를 입력하면 자동으로 분산 학습을 수행하는 ‘AI 학습 서비스’를 출시할 예정이다.

이호준 삼성SDS 클라우드서비스사업부장(부사장)은 “SCP가 보유한 자원 최적화와 에너지 절감 등 GPU 효율화 역량을 바탕으로 대기업, 중견·중소기업, 공공기관 등 AI를 업무에 적용하려는 고객에게 국내 최초로 B300 GPU 서비스를 제공해 AX 전환을 적극 지원하겠다”고 말했다.