업스테이지와 포털 다음 운영사 AXZ, AI 반도체 기업 퓨리오사AI가 19일 국내 최초로 인프라·모델·서비스를 모두 국산 기술로 구축한 '풀스택 소버린 AI' 상용화 사례를 공개했다. 이달 1일 다음 검색에 도입된 'AI 요약' 서비스가 그 결과물이다.

AI 요약은 업스테이지의 거대언어모델(LLM) '솔라'가 퓨리오사AI의 신경망처리장치(NPU) '레니게이드' 위에서 구동되는 방식이다. 서버 노드 3대에 칩 약 24개를 투입해 하루 약 5억 개의 토큰을 처리한다. 현재 다음 전체 검색 질의의 약 20%에 노출되며, 회사 측은 이 비율을 50% 이상으로 끌어올릴 계획이라고 밝혔다.

비용 절감과 환각 대응이 핵심 과제

퓨리오사AI NPU 도입에 따른 추론 비용 절감 효과는 50% 이상으로 나타났다. 이건수 AXZ 대표는 "키워드·벡터 검색을 결합한 하이브리드 서치를 적용해 실시간 정보 검색이 가능하도록 했다"며 강한 프롬프트 엔지니어링으로 AI 환각(할루시네이션) 문제에 대응하고 있다고 설명했다. 백준호 퓨리오사AI 대표는 레니게이드의 비용·전력 효율 강점을 강조했다.

김성훈 업스테이지 대표는 "국내 AI 모델과 인프라 사용량이 늘면서 품질도 함께 개선되는 선순환 구조를 만들겠다"고 말했다. 3사는 향후 쇼핑·맛집 검색 등 버티컬 서비스로 영역을 넓히고, 이용자별 맞춤형 '1인 1에이전트'도 순차적으로 선보일 계획이다.

자료