생성형 AI 용어 모음!

RAG? STT? 생성형 AI 용어 친절히 다 모았습니다

최근에 눈이 온 적이 많이 있습니다. 이럴 때 스마트폰으로 날씨를 확인하며 출근길이 많이 막힐까 걱정하는 경우가 많이 있구요. 이럴 땐 AI 모닝 알람이 현재 날씨와 유의사항, 교통상황 등을 말해주면 좋겠다는 생각이 들었습니다.

그래서 오늘은 생성형 AI가 어플리케이션 형태로 비즈니스에 적용되는 사례와 관련 용어를 소개해 드리려고 합니다. 자, 그럼 시작하겠습니다.

김포국제공항에 옵스나우의 파트너사인 베스핀글로벌의 대화형 AI 플랫폼 ‘헬프나우(HelpNow)’ 기반 대화형 챗봇이 시범 도입되었는데요. 생성형 AI가 적용되어 공항 이용, 항공사, 출입국, 주차, 상업 시설 등 공항 이용객이 자주 묻는 질문에 대해 최적의 답변을 제공합니다.

“김포공항에는 환전소가 어디에 있나요?”와 같이 출국 전 궁금한 것을 물어보면 은행 위치뿐만 아니라 부가 정보인 운영 시간까지도 AI 챗봇이 선제적으로 답변을 해줍니다. AI 챗봇 서비스는 김포국제공항 홈페이지나 한국공항공사의 ‘스마트공항앱’에서 이용해 볼 수 있습니다.

김포국제공항 홈페이지 바로가기 

생성형 AI의 활용이 점점 더 늘어나고 있는 것이 곳곳에서 관측되고 있는데요. 다양한 LLM과 NLU 모델, 오픈 소스 파운데이션 모델 등을 오케스트레이션하고 STT/TTS 기술을 활용한 서비스들이 속속 선보이고 있습니다. 최근 동향을 보면, RAG를 활용해 할루시네이션을 효과적으로 방지해 서비스의 완성도를 높이기도 합니다.

• LLM(Large Language Model, 대규모 언어 모델): 방대한 양의 텍스트 데이터를 학습하여 인간 수준의 언어 능력을 가진 모델
• NLU(Natural Language Understanding, 자연어 이해): 인간이 사용하는 자연어를 컴퓨터가 이해하는 기술
• NLU 엔진: 자연어 처리 기능을 제공하는 소프트웨어 라이브러리. 챗봇, 가상 비서 등 자연어 처리 기능이 필요한 앱 제작을 쉽게 할 수 있도록 도와줌
• NLP(Natural Language Processing, 자연어 처리: 컴퓨터가 인간의 자연어를 이해하고 처리하는 기술을 의미
• STT/TTS (Speech to Text/Text to Speech): 음성-텍스트 변환/텍스트-음성 변환: 음성을 텍스트로 변환하거나 텍스트를 음성으로 변환하는 기술
• AUTO ML(Automatic Machine Learning): 전문 지식 없이도 쉽게 머신러닝 모델을 구축하고 학습시킬 수 있도록 도와주는 도구
• Open-Source Foundation Models(오픈 소스 파운데이션 모델): 누구나 사용하고 수정할 수 있는 생성형 AI 모델. GPT-3, LaMDA, Megatron-Turing NLG, Github Copilot  등
• Prompt Design(프롬프트 디자인): 생성형 AI 모델에게 원하는 결과를 도출하도록 지시하는 텍스트 입력. 효과적인 프롬프트 디자인은 모델 성능을 크게 향상시킴
• Hallucination(할루시네이션): AI가 실제로 존재하지 않는 정보를 만들어내는 현상. 훈련 데이터의 오류나 편향, 부족에 의해서 발생할 수 있음
• Orchestration(오케스트레이션): 여러 생성형 AI 모델을 결합해 복잡한 작업을 수행하는 과정. 대화형 시스템의 경우 검색 엔진, NLU 모델, 텍스트 생성 모델 등을 결합해 사용 가능
• RAG(Retrieval Augmented Generation, 검색 증강 생성): 검색 결과를 활용해 새로운 콘텐츠를 생성하는 기술로 외부 지식 베이스를 참조하기 때문에 더 적확하고 풍부한 정보 제공 가능. 기존 생성형 AI의 한계를 극복하고 정확도, 자연스러움, 관련성 등 답변 능력을 향상시키는데 사용됨.
• API(Application Programming Interface): 다른 소프트웨어와 상호 작용할 수 있도록 하는 인터페이스로 하나의 SW에 다른 SW를 쉽게 통합할 수 있도록 하는 표준화된 방법을 제공함. API를 사용하면 프로그래머가 처음부터 모든 기능을 구현하지 않아도 되어 개발 시간 단축
• Training-Fine Tuning(학습-미세 조정): 생성형 AI 모델을 특정 데이터나 작업에 맞게 추가 학습시켜 성능을 향상시키는 과정
• Improvement Tools(개선 도구): 모델 성능을 평가하고 개선하는데 사용되는 툴. 텍스트 생성 모델의 경우 문법 오류, 사실 오류, 일관성 부족 등을 확인하고 개선하는 도구
• Trouble-Shooting(문제 해결): 생성형 AI 모델에서 발생하는 문제를 식별하고 해결하는 과정. 오류 메시지 분석, 로그 확인, 시스템 테스트 등을 활용함
• GPU(Graphics Processing Unit, 그래픽 처리 장치): 고속 계산 처리 능력을 활용하여 AI 모델 학습 및 실행 속도를 높임
• TPU(Tensor Processing Unit, 텐서 처리 장치): 구글에서 개발한 AI 모델 학습 및 실행을 위한 특수 하드웨어로 GPU보다 빠르고 에너지 효율적인 계산 처리 가능
• Cloud Infrastructure(클라우드 인프라): 인터넷을 통해 컴퓨팅 자원, 저장 공간, 네트워킹 등을 제공하는 컴퓨팅 환경
• Intent(의도): 사용자가 챗봇과 상호 작용할 때 원하는 목적
• Agent(에이전트): 챗봇 시스템의 핵심 구성 요소; 사용자와 상호 작용하고 의도를 파악하며 응답을 제공
• Multi Agent(멀티 에이전트): 여러 개의 에이전트가 협력해 작업을 수행하는 시스템

옵스나우의 파트너사인 베스핀글로벌은 최근 고객들의 잦은 생성형 AI 활용 문의에 기반해 기업의 생성형 AI 기반 애플리케이션 구축⋅운영을 지원하는 신규 상품 B2D2 Application Stack을 선보였습니다. 실전에서 어떤 종류의 앱 개발이 가능한지 살펴볼까요? 4가지 추가 솔루션입니다.

B2D2 DocuNow ㅣ 복잡한 주제도 거뜬하게, 문서 관리 및 요약 AI 서비스
LLM과 RAG 기술을 활용해 문서 유형 분류, 분석, 요약 서비스를 제공하는 AI 지식 관리 서비스입니다. 복잡하고 다양한 주제의 문서라도 내용을 정확하게 파악해 적절한 카테고리로 분류하고 분석할 수 있으며, 대규모의 텍스트 데이터도 신속 정확하게 처리할 수 있습니다. 대량의 자료를 다루는 법률, 금융, 의료, 학술 연구, 콘텐츠 및 미디어 등의 산업에서 활용 가능합니다.

B2D2 WriteNow ㅣ LLM 기반 고품질 문서 작성 AI 서비스
강력한 언어 이해와 생성 능력을 바탕으로 고품질의 문서를 작성하는 AI 문서 생성 서비스입니다. 대규모 데이터셋(Data-set)에서 학습된 LLM을 통해 텍스트의 문맥을 이해해 적절한 내용을 생성합니다. 이 과정에서 사용자가 제공한 프롬프트에 기반해 일관된 내용과 스타일을 유지하기 때문에 기업만의 고유한 브랜드 아이덴티티를 반영할 수도 있습니다. 또한 RAG를 통해 외부 데이터베이스나 정보 소스에서 추가 데이터, 통계, 인용 등을 검색하고 통합해 문서 완성도를 높입니다. 연구 보고서, 뉴스 기사, 블로그 포스팅, 기술 설명서, 마케팅 자료 등 다양한 유형의 콘텐츠 생성에 활용할 수 있습니다.

B2D2 BizNow ㅣ 이메일, 메시지 작성부터 프로젝트 관리까지 가능한 업무용 AI 어시스턴트
다양한 업무 커뮤니케이션과 문서 작업 수행을 지원하는 업무용 AI 어시스턴트 서비스입니다. 업무 요건과 내용을 분석하고 이해해 이메일, 메시지, 문서 등의 작성을 보조하며 관련 내용을 제안하고 문맥에 맞는 표현을 추천해 보다 효과적이고 전문적인 커뮤니케이션을 할 수 있도록 돕습니다. 기존에 사용 중인 그룹웨어나 프로젝트 관리 도구에 통합되어 작업 할당, 마감일 추적, 진행 상황 감지 등을 자동화하고 프로젝트 우선 순위 설정, 필요 리소스 파악 및 업무 할당 등을 지원합니다. MS Teams, 카카오톡, 라인, Slack, 페이스북, 텔레그램, Google Assistant 등 다양한 업무용 메신저 및 AI 서비스와 연동도 가능합니다.

B2D2 EduNow ㅣ 학습교재 분석 및 추천부터 맞춤형 공부법 개발까지 가능한 AI 러닝메이트
학습 교재를 저장, 분석, 활용함으로써 교육자와 학습자 모두에게 맞춤형 학습 경험을 제공하는 교육용 AI 서비스입니다. 방대한 양의 교육 콘텐츠와 자료를 분석해 핵심 개념과 정보를 추출함으로써 학습자가 복잡한 주제에 대해서도 더욱 깊고 체계적으로 학습할 수 있도록 돕습니다. 교육자는 개개인의 학습 스타일과 선호도, 학습 진도와 이해도, 성취도 등을 파악할 수 있기 때문에 자료 준비나 수업 계획 조정 등 개별 학습자에 맞는 교육 방법을 개발해 학습 효과를 높일 수 있습니다.

B2D2 Application Stack – Helpnow AI 더 살펴보기

어떠셨나요? 생성형 AI의 활용법이 생각보다 더 다양하고 빠른 시일 내에 우리 일상에 깊이 파고들 것 같습니다. 분야를 막론하고 개인화와 맞춤형 서비스도 확대되며 보다 편리하고 세심해진 고객서비스도 기대가 됩니다. 이전에는 상상만 했던 것들을 실현할 수도 있을 텐데요. 예전에 읽었던 SF소설 몇 편이 떠오릅니다. 다시 한번 읽어봐야겠습니다^^ .

IT 시스템 장애 알림 관리 솔루션: AlertNow(얼럿나우)

못 본 사이 쌓인 스마트폰 앱 알림을 지우며 이 알림은 제때 봤어야 했는데 하며 후회한 경험 누구나 있으실 텐데요. IT 인프라 운영 관리 전문가의 경우, 알림이 더욱 중요합니다. ​​​​알림을 관리하지 못하면 인프라 오류에 제때 대응하지 못해 웹이나 애플리케이션 중단 등 심각한 상황이 발생할 수 있기 때문이죠.​​

옵스나우의 스마트 인시던트 관리 솔루션 ‘​​​​​얼럿나우(AlertNow)’는 서비스에서 발생하는 장애를 IT 관리자가 효율적으로 대응할 수 있도록 지원합니다. 접속 불량, 속도 지연 특정 메뉴 진입 불가 등 서비스가 정상적으로 작동하지 않을 때 발생하는 모든 IT 알림을 통합 관리할 수 있고요. 3중 필터링으로 중복을 없애 불필요한 알림을 80%까지 제거해줍니다.

뿐만 아니라 ‘에스컬레이션’을 통해 사전에 설정된 규칙 기반으로 적절한 담당자가 빠르게 알림을 받을 수 있도록 도와줌으로써 서비스 다운타임을 최소화할 수 있습니다. 클라우드 기본 모니터링 도구는 물론, 다양한 3rd Party 모니터링 도구와 연동되며 사용중인 메신저와의 결합도 가능합니다!

인프라 관리를 위한 가장 스마트한 인시던트 솔루션, 얼럿나우를 통해 효율적이고 빠르게 생산성을 높여보세요!

얼럿나우 더 자세히 알아보기

그리고 클라우드나 SaaS와 관련하여 다른 궁금한 점이 있으시면 언제든지 저희에게 문의해 주세요.

 OpsNow에 문의하기

본 내용은 베스픽 뉴스레터를 통해서 제공되는 내용입니다.

클라우드에 대한 최신 트렌드 정보가 필요하시면 뉴스레터를 구독해 주세요.