OpsNow Insight: 클라우드 관리 AI

OpsNow Insight: 생성형 AI를 통한 클라우드 비용 및 자산 데이터 관리 혁신

OpsNow Insight는 생성형 AI 기술을 활용하여 기존 데이터 사용 사례를 학습하고, OpsNow에서 제공하는 모든 비용 및 자원 정보에 대해 사용자가 원하는 정보와 분석 데이터를 쉽게 얻을 수 있도록 돕습니다.

GPT 모델의 잠재력을 활용합니다. OpsNow 팀은 ChatGPT의 대화 생성 능력에 영감을 받아, 사용자에게 정보를 더 효과적으로 전달하고자 이 서비스를 시작하게 되었습니다.

기존 생성형 모델을 통해 데이터를 생성할 수도 있지만, 생성된 데이터는 종종 사실이 아닌 정보로 이루어져 있는 할루시네이션과 같은 현상을 보이며, 이로 인해 데이터의 해석과 분석에 한계가 있습니다. 이러한 한계를 극복하기 위해 OpsNow Insight는 실제 데이터 분석 프레임워크와 LLM, 내부 데이터셋, 그리고 분석 엔진을 조합한 하이브리드 구조로 개발되었습니다.

OpsNow Insight 핵심 기술

OpsNow Insight의 핵심은 데이터를 읽어 그 의미를 전달하는 것입니다. 이를 위해 OpsNow는 LLM을 활용하여 사람이 대화하는 것처럼 NLU 엔진을 통해 자연스럽게 질문과 답을 주고받을 수 있도록 서비스를 구현했습니다.

특히, 데이터 분석과 결과 추론은 OpsNow가 오랜 시간에 걸쳐 축적한 데이터를 기반으로 분석 내용을 제공합니다.

아키텍처 구성

아키텍처 상세

주요 컴포넌트

* OpsNow Insight Service

OpsNow Insight Service는 LLM Query를 이용하여 데이터 시각화와 채팅 대화 핸들러 기능을 제공합니다.

* OpsNow AI Engine

• Data Analytics(Insight Dataframe): 주어진 데이터를 기계와 사람 모두가 이해할 수 있도록 분석 및 처리하는 기능을 담당합니다.
• Prompt Design Skills: few-shot 및 function calling 방법론을 적용하며, Insight Dataframe은 최신 AI 기술 트렌드에 기반한 Retrieval-Augmented Generation(RAG) 방식을 사용합니다. RAG는 대용량의 정보에서 필요한 데이터를 신속히 찾아내고 그 정보를 바탕으로 의미 있는 내용을 생성하는 메커니즘을 갖추고 있습니다. 이에 따라 Insight Dataframe은 사용자의 다양한 질의에 대해 최적화된 답변을 신속하고 정확하게 제공할 수 있습니다.

* Data Modeling & LLM Prompt Library 

내부에서 관리하는 클라우드 비용, 자산 사용량 등의 다양한 자산 데이터를 의미 있게 처리하기 위한 모델링을 담당합니다. 예컨대 “비용” 데이터는 숫자, 화폐 단위 및 시간 범위와 같은 요소를 포함할 수 있습니다. 그에 비해 “비용 비교” 데이터는 특정 기간의 평균 금액 등의 다른 정보 요구사항이 있을 수 있습니다. 따라서 각 데이터 유형의 특성에 맞추어 적절한 프롬프트 설계가 필요합니다.

* LLM(Generative Models)

현재 LLM은 GPT 3.5 및 4.0 버전만을 지원하고 있으나, 2024년 1분기에는 LLAMA2 기반의 Fine-tuned 모델이 출시될 예정입니다.

Data Flow 예시

* 질의: “최근 1주일 비용과 1달 평균 비용 비교해 줘”

1. 쿼리 분석: 사용자로부터 받은 질의인 “최근 1주일 비용과 1달 평균 비용 비교해 줘”에 대한 프롬프트가 시스템에 전달됩니다. 시스템은 이 프롬프트의 내용을 분석하여 어떤 데이터와 정보가 필요한지 파악합니다.
2. 데이터 검색 및 가공: 쿼리 분석을 기반으로, 시스템은 자체 정의된 프롬프트와 데이터 정의에 따라 필요한 데이터를 검색합니다. 검색된 데이터는 사용자의 질의에 맞게 가공됩니다. 예를 들면, 최근 1주일의 일일 비용 데이터와 1달 동안의 평균 비용 데이터를 추출합니다.
3. 데이터 프레임 적용: 가공된 데이터는 현재의 데이터 프레임에 통합 및 적용됩니다. 이 단계에서는 데이터의 정렬, 필터링, 계산 등 다양한 처리가 이루어질 수 있습니다.
4. 결과 시각화 및 전달: 데이터 프레임에 적용된 결과는 그래프나 차트 등의 형태로 시각화됩니다. 그 후, 이 시각화된 결과와 관련 인사이트를 사용자에게 제공하게 됩니다.

OpsNow Insight의 주요 장점

1. 간편성: 사용자는 채팅창에서 클라우드 비용 및 자산 사용량에 관한 질문을 할 수 있습니다. OpsNow Insight가 클라우드 계정을 자동으로 분석하여 필요한 정보를 제공합니다.
2. 실용적인 통찰: OpsNow Insight는 클라우드 비용 및 자산 데이터 최적화에 필요한 통찰력을 제공하며, 클라우드 지출과 자산 사용량을 더욱 효과적으로 관리할 방법을 제안합니다.
3. 적극적인 의사결정: OpsNow Insight를 사용하면, 검색 데이터를 기반으로 클라우드 리소스 배정 및 지출에 대한 정보를 제공받아 필요 없는 비용을 줄이고 리소스 사용을 최적화할 수 있습니다.
4. 데이터 시각화: OpsNow Insight는 비용 및 자산 사용량 분석을 더욱 직관적으로 이해할 수 있도록 다양한 데이터 시각화 기능을 제공합니다.

OpsNow는 그동안의 기술력과 경험을 바탕으로 계속해서 혁신을 주도해 왔습니다. 최신 생성형 AI 기술을 접목한 OpsNow Insight는 클라우드 자산과 데이터 관리의 새로운 기준이 될 것입니다.

지속적인 향상과 고객 만족

OpsNow는 현재의 성과에 만족하지 않고 계속해서 발전을 추구합니다. 새로운 기술 변화와 고객의 요구에 신속하게 대응하기 위한 노력으로, OpsNow Insight가 탄생하였습니다.

저희는 고객의 변화하는 필요에 따라 끊임없이 서비스를 개선하고, 이를 통해 기술의 최전선에서 리더십을 계속 유지할 계획입니다.

OpsNow Insight 시작하기

모든 계정에서 OpsNow Insight를 무료로 사용할 수 있습니다. 다음 단계를 따라 쉽게 시작하세요!

1. 탐색 패널로 이동하여 OpsNow Insight를 클릭합니다.
2. 검색 쿼리에 답변을 원하는 클라우드 비용 및 자산 데이터 질문을 입력합니다.
3. Enter 키를 눌러 질문을 제출하고 OpsNow Insight의 답변을 확인합니다.

OpsNow Insight를 사용해 클라우드 자산 데이터를 더 효과적이고 사용자 친화적인 방식으로 관리할 수 있습니다. 클릭 한 번으로 클라우드 환경 간의 비용 및 자산 사용량에 관한 통찰을 얻고 지출 패턴과 자산 사용량의 변화 추이를 쉽게 파악할 수 있습니다.

OpsNow Insight로 완전히 새로운 비용 해석과 자산 데이터 활용을 경험해 보세요.

 OpsNow Insight 자세히 보기

저희에게는 클라우드에 대한 다양한 정보와 경험, 그리고 도구가 있습니다.

 OpsNow에 문의하기