B2B SaaS판에서 생성AI는 특정 분야 가리지 않고 이미 중량급 이슈다. 협업을 넘어 엔터프라이즈 현장에서 쓰이는 업무용 SaaS 개발사들도 생성AI를 성장 동력으로 강하게 밀고 있다.
IT서비스 관리 및 워크플로우 솔루션을 제공하는 서비스나우도 생성AI를 전진배치한 대표적인 엔터프라이즈 SaaS 회사들 중 하나.
서비스나우는 최근 자사 플랫폼에 최적화된 서비스나우 LLM을 기반으로 구축된 케이스 요약 및 텍스트 투 코드(text-to-code) 생성 AI 도구도 출시했다.
텍스트-코드 변환은 자연어 텍스트 프롬프트를 서비스나우 ‘나우'(Now) 플랫폼용 실행 코드로 변환한다. 케이스 요약은 필수 정보를 간단하게 정리해 해결 프로세스를 간소화하고 수동 데이터 입력을 자동화할 수 있도록 지원한다. 두 기능 모두 지금은 일부 고객에게만 제공되며, 9월 출시되는 서비스나우 밴쿠버 버전 발표에서 일반에 공개될 예정이다.
[서비스나우 플랫폼 이미지]
도메인 특화 LLM으로 엔터프라이즈 시장에서 승부
생성AI와 관련한 서비스나우 접근 방식은 IT, HR 및 고객 서비스 전반에 걸쳐 신속하게 배치할 수 있고 용도에 맞게 구축된 생성AI 기능을 제공하는데 초점이 맞춰져 있다. 이를 위해 서비스나우는 자체 LLM 전략을 강조하고 있어 눈길을 끈다.
서비스나우는 마이크로소프트 애저 오픈AI 서비스, 오픈AI API LLM과 자사 플랫폼 간 연결도 지원하지만 이들 LLM에 기반한 생성AI 전략을 추구하는 것은 아니다. 이들 LLM도 나름 유용하지만 서비스나우는 자사 ‘나우'(Now) 플랫폼 데이터를 사용해 자체 개발한 도메인 특화 LLM에 보다 무게를 두고 있다.
챗GPT로 대표되는 유력 LLM들이 버틴 가운데서도 서비스나우가 엔비디아, 허깅페이스 등과 협력해 자체 개발한 서비스나우 LLM을 선보였다.
서비스나우 LLM은 서비스나우가 최근 선보인 버추얼 에이전트용 나우 어시스트(Now Assist for Virtual Agent)에 포함돼 있다.
버추얼 에이전트용 나우 어시스트는 서비스나우 플랫폼 전반에 걸쳐 생성 AI를 내장한다는 회사 전략을 상징하는 제품으로 기업 사용자들이 생성 AI를 사용해 질문에 보다 직접적이고 관련성 높은 대화형 답변을 제공 받고 디지털 워크플로우를 상호 연결할 수 있도록 지원한다. 서비스나우 LLM은 나우 어시스트가 다양한 분야 기업들에서 활용되는데 비중 있는 역할을 하게 된다.
서비스나우 LLM은 서비스나우와 허깅페이스가 개발한 스타코더 LLM을 기반으로 개발됐고 엔비디아 DGX 클라우드에서 훈련 및 미세 조정을 거쳤다. 허깅페이스와 서비스나우에 따르면 스타코더는 150억개 매개변수를 기반으로 하며 오픈소스 공유 플랫폼인 깃허브에 있는 텍스트 및 80개 이상 프로그램 언어들이 훈련에 사용됐다.
퀄리티 경쟁력이 승부처 될 듯
서비스나우는 자체 LLM 전략이 엔터프라이즈 시장에선 효과적이라는 점을 계속 어필하고 있다.
코드 생성을 예로 들면 오픈AI는 인터넷 등에 있는 코드를 스캐닝해 사용자가 코딩을 할 수 있도록 지원하지만 품질 측면에선 자사 톱 엔지니어들이 훈련시킨 모델에는 못미친다는 설명이다.
자체 구축한 도메인 특화 LLM을 강조하는 서비스나우 행보는 범용 LLM 사용시 불거질 수 있는 보안, 프라이버시, 데이터 공유 관련해 문제를 해결할 수 있다는 점에서 긍정적일 수 있다.
하지만 오픈AI나 라마 같은 강력한기존 범용 LLM과 비교해 성능과 정확도에서 엔터프라이즈 기업들에게 체감할 수 있는 효과를 줄 수 있을지는 미지수다. 일각에선 의문도 있는 것이 사실이다. 이 같은 의문을 해소할 수 있다면 자체 LLM를 범용 LLM보다 우선하는 서비스나우 전략은 엔터프라이즈 LLM과 관련한 정석 플레이로 통할 수 있지 싶다.
#B2BSaaS #B2BSaaS전략 #서비스나우 #생성AI #엔터프라이즈LLM
by Sasquachi