거대 언어 모델(LLM) 기반 생성AI에 대한 기업들 관심이 점점 높아지고 있지만 이런 저런 이유들로 인해 생성AI 도입을 꺼리는 기업들이 적지 않은 것 또한 현실이다. 리스크 때문에 직원들이 챗GPT 같은 생성AI 툴을 쓰지 못하도록 막는 회사들도 많다. 규제 준수(컴플라이언스)가 중요한 엔터프라이즈급 회사들은 특히 그렇다.
그런 만큼, 기업들이 LLM을 쓰는데 따르는 걸림돌들을 제거하는 것을 주특기로 하는 기업들이 늘고 있는 것은 비즈니스 측면에선 자연스러운 일이다.
실제로 기업들을 상대로 안전 조치들이 지켜지고 있고 악의적이거나 해로운 콘텐츠는 차단된다는 것을 보장하면서 기업들이 보다 빠르게 생성AI를 활용할 수 있도록 지원하는 스타트업들이 속속 등장하고 있다.
칼립소AI(CalypsoAI)도 이런 회사들 중 하나다.
공개형 LLM 겨냥 거버넌스 툴 시장 개척
칼립소AI는 AI 보안 회사를 표방하는 스타트업으로 기업 IT관리자들이 챗GPT를 통해 오가는 질문들과 대답들을 모니터링할 수 있도록 지원하는 관리 툴을 SaaS 방식으로 제공하고 있다.
회사 측에 따르면 챗GPT 공개형(퍼블릭: Public) 생성AI는 내부 비즈니스 워크로드를 고도화할 수 있도록 지원할 수 있다는 점에서 기업들에게 매력적일 수 있지만 민감한 회사 정보가 유출될 위험에서 자유롭지 않다.
이를 감안해 칼립소AI는 공개형 생성 AI서비스를 쓰는 기업들을 상대로 관리 도구를 제공함으로써 존재감을 확보하려는 모습이다. 킬립소AI 툴은 오픈AI는 물론 구글, 코히어 등 다양한 공개형 생성AI 툴 사용을 실시간으로 모니터링해 비용, 콘텐츠 및 사용자 참여에 대한 감사 및 추적을 가능케 한다.
공개형 LLM을 위한 거버넌스 툴인 셈이다.
회사 측은 자사 툴과 관련해 민감한 회사 정보가 공개형 LLM과 공유되는 것을 차단해 데이터 손실을 방지하고, 생성 AI 도구 내에서 배포되는 악의적인 사이버 공격도 차단할 수 있다고 강조한다. 생성AI가 만든 결과물을 검증해 정확성도 끌어올릴 수 있는 점도 부각한다.
[칼립소AI 툴 화면]
LLM 보호 시장 잠재력 어디까지?
칼립소AI는 최근 2300만달러 규모 투자를 유치했다. 2018년 설립 이후 현재까지 칼립소AI가 유치한 투자금은 3820만달러 규모다. 회사 측은 이번 투자로 확보한 자금을 기반으로 비즈니스 확대에 속도를 낸다는 방침이다.
스타트업 투자 정보 서비스 피치북 데이터에 따르면 올해 글로벌 생성AI 시장은 426억달러 규모에 달할 전마이다. 맥킨지는 6월 생성 AI가 전 세계적으로 4조4000억달러의경제적 가치를 창출할 것으로 예상했다.
하지만 생성AI가 확산되면서 생성AI에 포함된 취약점을 악용하는 사례도 늘어날 수 밖에 없다. 기업 직원들이 자신도 모르게 LLM에 회사 지적 재산을 공유하는 상황은 여러 리스크들 중 하나일 뿐이다.
칼립소AI와 칼립소AI에 투자한 벤처 캐피털들은 LLM 보호 시장의 잠재력이 매우 크다고 보는 모습이다. 생성AI를 도입하는 기업들이 사내 교육과 관리 정책 정비를 통해 나름 리스크를 관리하고 있지만 이것 만으로는 부족하며 결국은 전문적인 툴을 필요로 할 것이란 이유에서다.
칼립소AI 같은 LLM 거버넌스 도구들은 생성AI 전체 판세에도 변수가 될 수 있다. 이들 도구가 생성AI 활용을 껄끄러워하는 기업들 불안감을 해소시킬 수 있다면, 공개형 LLM이 기업 시장에서 갖는 입지는 커지고 프라이빗 LLM을 구축할 필요성은 줄어들 수 있다는 점에서 향후 행보가 주목된다.
#B2BSaaS #B2BSaaS전략 #칼립소AI #생성AI #AI보안 #AISaas
by Sasquachi