[FETV=이신형 기자] 국가대표 K-AI 기업 NC AI가 엔씨소프트의 고객 상담 챗봇 서비스 ’NCER(엔써)’에 자체 개발한 AI 안전성 기술 ‘Safeguard’를 정식 적용했다고 30일 밝혔다.

이는 국내 AI 기업 중 최초로 종합적인 AI Safety 시스템을 상용 서비스에 도입한 사례다. 전 세계적으로 AI 안전성에 대한 우려가 높아지는 가운데 선제적 대응에 나선 것으로 평가받고 있다.

NC AI의 AI Safety 팀이 개발한 Safeguard 기술은 레드팀(Red Team), 블루팀(Blue Team), 퍼플팀(Purple Team)으로 구성된 삼중 보안 체계를 기반으로 운영된다. 레드팀은 Jailbreaking 등 새로운 악성 공격 패턴을 연구하고 블루팀은 이에 대한 방어 기술을 개발한다. 퍼플팀은 두 팀의 결과를 종합해 정책에 반영하는 순환 구조로 설계됐다.

특히 NC AI는 엔씨소프트의 퍼블리싱코디네이션 센터와의 협업을 통해 게임 업계 특성을 반영한 ‘챗봇 네거티브 규제 정책’을 수립했다. 이 정책에는 게임 서비스 관련 부적절한 내용, 유료 재화 관련 편법, 금지 행위 등이 포함되어 일반적인 AI Safety 기준을 넘어선 산업 맞춤형 보안을 구현했다.

NCER는 2024년 AI 기술 & 게임데이터 기반 CS 효율화 및 고객 만족도 향상을 위해 출시한 서비스다. 주요 게임에서 이용자들의 실시간 문의, 버그 제보, 건의사항 접수 등을 담당하고 있다.

Safeguard 기술이 적용된 NCER는 ML Commons와 국제 벤치마크 연구에서 제시하는 차별, 혐오, 욕설, 외설 등의 일반적 부적절 내용 차단 기준을 충족한다. 또 게임 산업 고유의 안전 요구사항을 추가로 반영했다. 특히 실시간 대화 환경에서 발생할 수 있는 다양한 위험 상황을 사전에 탐지하고 즉시 차단하는 성능을 입증했다.

NC는 2022년부터 ‘NC AI Ethics Framework’를 통해 Data Privacy, Unbiased, Transparency라는 세 가지 핵심 가치 중심의 AI 윤리 경영을 실천해왔다. 이 프레임워크는 사용자 데이터 보호, 사회적 편향 방지, 해석 가능한 AI 구현을 목표로 하는 ‘인간 중심 AI’ 구현의 가이드라인 역할을 담당한다.

실제 게임 서비스에서도 NC AI의 안전성 기술이 활용되고 있다. ‘리니지W’와 ‘리니지2M’에서는 13개 언어의 광고 패턴을 탐지하고 차단하는 스팸 필터링 시스템이 운영 중이며, 게임 내 채팅 환경의 건전성 유지에 핵심적인 역할을 담당하고 있다.

NC AI는 현재의 텍스트 기반 안전성 기술을 Vision-Language Model(VLM) 기반의 멀티모달 콘텐츠 탐지로 확장할 계획이라고 밝혔다. 이를 통해 이미지, 동영상 등에서 발생할 수 있는 부적절한 내용까지 포괄적으로 차단하는 차세대 AI Safety 시스템을 구축한다는 목표다.

NC AI는 현재 ETRI, KAIST, 고려대, 서울대 등 주요 연구기관과 포스코DX, 롯데이노베이트 등 산업계 파트너를 포함한 총 54개 기관이 참여하는 ‘그랜드 컨소시엄’에서 AI Safety 기술 개발을 진행하고 있다. 에이아이웍스와의 협력을 통해 ‘AI Safety Alignment 데이터셋’ 구축과 전쟁, 폭력, 차별, 허위정보 등 고위험 상황에 대한 안전한 AI 응답 시스템을 개발하고 있다. 이는 국가 차원의 AI 안전성 표준 확립에 기여할 것으로 기대된다.

NC AI의 기술 역량은 게임 챗봇을 넘어 다양한 산업 영역으로 확장되고 있다. 회사는 감정형 음성합성, 자연어 처리, 3D 비전 로보틱스 등 다방면의 AI 기술을 보유하고 있다. 신작 RPG ‘아이온 2’에서는 자연어 기반 애니메이션 생성과 감정 표현이 가능한 TTS 기술을 선보였다.

NC AI의 이번 발표는 국내 AI 산업계에서 안전성 기술의 중요성을 재확인시키는 계기가 될 전망으로 향후 다른 AI 기업들의 안전성 기술 도입에도 영향을 미칠 것으로 보인다.

이연수 대표는 “이번 Safeguard 기술 적용은 NC AI가 AI 안전성 분야에서 기술적 우위를 확보하고 책임감 있는 AI 개발 기업으로서의 위치를 공고히 하는 중요한 출발점”이라며 “앞으로도 기술 독립과 산업 실증, 글로벌 공헌을 동시에 실현하는 대한민국 AI 전문 기업으로서의 소명을 다할 것”이라 전했다.