![192GB HBM3 메모리를 장착한 AI 가속기 AMD 인스팅트 MI300X [이미지 AMD 유튜브 캡쳐]](http://www.fetv.co.kr/data/photos/20240939/art_17274155875218_829955.png)
[FETV=양대규 기자] 삼성전자, SK하이닉스 HBM3를 탑재한 제품들이 글로벌 클라우드에 채택되고 있다. 이에 삼성전자와 SK하이닉스의 HBM3 생산과 수익이 더욱 증가할 전망이다.
27일 AMD는 오라클 클라우드 인프라스트럭처(OCI)가 AMD 인스팅트 MI300X 가속기를 채택했다고 밝혔다.
AMD MI300X는 192GB의 HBM3 제품을 탑재한 고성능 AI 가속기다. 한국의 삼성전자와 SK하이닉스가 AMD에 HBM3를 납품하고 있는 것으로 알려졌다.
ADM MI300X가 오라클의 클라우드에 탑재되면서 삼성전자와 SK하이닉스의 HBM3 수요 증가도 기대된다.
AMD MI300X를 탑재한 OCI 슈퍼클러스터는 수천억 개의 파라미터로 구성 가능한 AI 모델에서 OCI의 다른 가속기와 동일한 초고속 네트워크 패브릭 기술을 활용해 단일 클러스터에서 최대 1만6384개의 GPU를 지원한다.
HBM3를 탑재한 MI300X는 업계 최고 수준의 메모리 용량과 대역폭을 제공한다. 높은 처리량을 필요로 하는 대규모 언어 모델(LLM) 추론 및 트레이닝을 포함한 까다로운 AI 워크로드 실행이 가능하도록 설계된 OCI 베어 메탈 인스턴스는 이미 파이어워크 AI(Fireworks AI) 등의 기업에서 채택된 바 있다.
앤드류 디크만 AMD 데이터 센터 GPU 비즈니스 기업 부사장 겸 총괄 매니저는 “AMD 인스팅트 MI300X 및 ROCm 오픈 소프트웨어는 OCI AI 워크로드와 같이 중요도가 높은 분야를 지원한다"며 "이런 솔루션이 성장하는 AI 집약적 시장으로 한층 확장됨에 따라, 해당 조합은 성능과 효율성, 시스템 설계 유연성을 개선해 OCI 고객에게 혜택을 제공할 것"이라고 말했다.