[FETV=신동현 기자] SK텔레콤이 Arm, 리벨리온과 협력해 AI 추론용 서버 솔루션을 공동 개발하고 AI 데이터센터 인프라 효율화에 나선다.

SK텔레콤은 Arm, 리벨리온과 차세대 AI 인프라 협력을 위한 업무협약(MOU)을 체결했다고 10일 밝혔다. 이번 협약을 통해 3사는 Arm의 ‘Arm AGI CPU’와 리벨리온의 NPU ‘리벨카드’를 결합한 AI 추론 서버 솔루션을 공동 개발하고, SK텔레콤의 AI 데이터센터에서 실증을 진행할 계획이다.

최근 AI 산업은 모델 학습 중심에서 실제 서비스 운영을 위한 추론 중심으로 무게가 이동하고 있다. 이에 따라 데이터센터 인프라 역시 연산 성능뿐 아니라 전력 효율과 비용 구조가 주요 요소로 부각되고 있다.

AI 추론은 상대적으로 가벼운 연산을 반복 처리하는 구조로, GPU 대신 전용 반도체인 NPU를 활용하는 방식이 확산되고 있다. 여기에 CPU를 결합해 데이터 처리와 시스템 운영을 분리하는 이종 컴퓨팅 구조가 적용된다. CPU는 데이터 입출력과 자원 관리 등을 담당하고, NPU는 AI 연산을 수행하는 방식이다.

Arm AGI CPU는 데이터센터용으로 설계된 프로세서이며, 리벨카드는 AI 추론에 특화된 NPU다. 두 칩을 결합할 경우 전력 사용량을 줄이면서도 AI 서비스 운영 효율을 높일 수 있다는 것이 회사 측 설명이다.

SK텔레콤은 해당 구조를 적용한 서버를 자사 AI 데이터센터에 도입해 성능과 안정성을 검증할 예정이다. 또한 자체 개발한 AI 모델 ‘A.X K1’의 운영 환경으로 활용하는 방안도 검토하고 있다.

이재신 SK텔레콤 AI사업개발 담당은 “추론에 최적화된 인프라와 독자 모델을 결합해 데이터센터 경쟁력을 강화할 계획”이라고 말했다.

에디 라미레즈 Arm 클라우드 AI 사업부 GTM 부사장은 “AI 추론의 급속한 성장은 대규모 배포에 최적화된 새로운 데이터센터 인프라 수요를 촉진하고 있다”며 “SK텔레콤과 리벨리온과 같은 파트너는 Arm AGI CPU를 구축하고 AI 추론 인프라를 현대화하는 데 있어 중요한 역할을 하고 있다”고 말했다.

오진욱 리벨리온 CTO는 “리벨리온은 ‘리벨카드’와 풀스택 소프트웨어를 바탕으로 AI 데이터센터 인프라 구축에 참여하고 있다”며 “이번 협력을 통해 각 기업 간 기술 결합 사례를 확대해 나갈 계획”이라고 밝혔다.