ModelOps(모델옵스)!

ModelOps

얼마 전에 이 블로그에서 AI TRiSM에 대해서 공유해 드린 적이 있습니다.

 AI TRiSM(AI의 신뢰, 리스크, 보안 관리)!

그 내용 중 AI TRiSM의 5가지 기본 요소에 대해서도 공유해 드렸습니다.

Explainability(설명 가능성), ModelOps(모델옵스), Data Anomaly Detection(데이터 이상 감지), Adversarial Attack Resistance(적대적 공격 방어), Data Protection(데이터 보호), 이 5가지 말이죠.

그 중에서 오늘은 ModelOps(모델옵스)에 대해서 공유해 드릴까 합니다.

다른 요소들도 중요하긴 하지만, ModelOps라는 개념 자체가 새롭기도 하고 앞으로 중요한 개념이 될 것 같아서 말이죠.

ModelOps(모델옵스)란?

모델옵스는 주로 머신러닝, 지식 그래프, 규칙, 최적화 및 언어를 포함한 광범위한 AI 및 의사 결정 모델의 거버넌스 및 수명주기 관리에 중점을 두는 것이고, AI 모델의 재조정, 재학습 또는 재구축을 지원하여 AI 기반 시스템 내에서 모델의 개발, 운영 및 유지 관리 사이에 중단 없는 프로세스를 제공하는 것입니다.

모델옵스는 모든 예측 분석, 기계 학습 및 인공 지능 모델을 운영하는 구조화된 방식으로, 데이터 전문가가 모델의 확장성을 보장하면서 데이터 모델을 모니터링하고 관리할 수 있는 프레임워크입니다.

모델옵스는 CI/CD 통합, 모델 테스트, 버전 관리를 제공하고, 지속적인 운영 주기를 보장하면서 전체 수명 주기를 중심으로 진화하고 있습니다.

ModelOps 프로세스!

모델옵스의 기본적인 플로우는 다음과 같습니다.

ModelOps Flow

Source

위 그림의 내용은 다음과 같습니다.

비즈니스 문제를 위한 데이터 수집/갱신 > 데이터 준비 및 정제 > 알고리즘을 사용하여 비즈니스 문제 해결을 위한 모델링 학습 > 학습된 모델링 릴리즈 > 모델을 모니터링하여 효율성을 측정하고 드리프트 및 편향 테스트 > 성능 향상을 위한 모델 재학습 > 반복

DevOps와 같이 ModelOps도 다음과 같은 프로세스가 있습니다.

Build(빌드)

ModelOps의 빌드 단계는 문제에 대한 솔루션을 설계하는 데 필요한 데이터 수집으로부터 시작됩니다. 그 후에 데이터를 정제하고 이 단계에서 구축된 알고리즘 모델을 학습시킬 준비를 합니다.

Manage(관리)

관리 단계에서는 모델을 사용 가능한 데이터로 학습한 후 테스트, 버전 관리 및 승인과 같은 관리 프로세스가 중앙 리포지토리에서 수행됩니다.

Deploy(배포)

관리 단계에서 모델을 테스트하고 버전을 지정한 후 파이프라인을 통하여 개발 환경과 유사한 프로덕션 환경에 배포하게 됩니다.

Monitor(모니터링)

배포 후 모델의 효율성과 정확성을 보장하기 위해 지속적으로 모니터링하게 됩니다. 기본 데이터가 더 이상 유효하거나 정확하지 않은 경우 모니터링을 통해 이를 신속하게 확인하고 재학습을 진행하게 될 수 있습니다.

ModelOps의 이점!

개선 및 혁신을 위한 시간 확보 가능

ModelOps를 통해 프로세스가 정리되고 R&R이 정리되면 데이터 분석가나 모델 엔지니어가 비즈니스 및 고객 경험을 개선하고 혁신적인 솔루션을 개발할 수 있는 시간을 확보할 수 있게 해 줍니다.

협업 개선 및 역할 지정

ModelOps를 통해 각 전문가에게 명확한 역할을 지정하고, DevOps 및 소프트웨어 엔지니어링 팀이 모델 패키징에 덜 관여하도록 합니다. 그리고 이를 통해 각 분야 전문가 간의 생산적인 협업을 촉진하게 됩니다.

업무 효율성 최적화

ModelOps를 적용하게 되면 운영 팀이 모든 모델에 대해 새롭고 고유한 배포 환경을 만들 필요가 없습니다. 여러 모델에서 동일한 데이터 파이프라인 구성을 사용, 유지 및 제어할 수 있게 됩니다. 이렇게 하면 인프라 및 리소스 프로비저닝을 최적화할 수 있습니다.

지속적인 모니터링

MdelOps를 통해 데이터 전문가가 모델을 지속적으로 모니터링하여 데이터 품질, 모델 정확도 및 성능을 보장해 줄 수 있습니다.

지속적인 개선

지속적인 모니터링을 통해 모델을 정기적으로 평가, 재학습 및 수정하여 지속적인 개선이 가능합니다.

자동화

ModelOps를 통해 시간이 걸리는 모델 워크플로우를 자동화하고 각 단계에 대한 가시성을 확보할 수 있습니다. 그리고 모델 검토, 테스트 및 승인과 같은 프로세스는 모두 자동화되어 워크플로우를 보다 더 빠르고 효율적으로 만들 수 있습니다.

오늘은 ModelOps에 대해서 간략히 공유해 드렸습니다.

ModelOps란 일반적인 DevOps 프로세스와 유사합니다. 하지만, DevOps의 경우 한 번 개발한 기능은 버그가 없다면 큰 문제가 없을 수 있습니다. 하지만, ModelOps의 경우는 데이터에 민감하고 시시각각으로 데이터가 변하기 때문에 DevOps보다 더 정기적이고 지속적으로 확인할 필요가 있습니다.

잘못된 모델링을 통한 잘못된 결과나 잘못된 판단을 하지 않으려면 말이죠. 그래서 가트너에서 ModelOps의 중요성을 얘기했다는 생각도 듭니다.

 

클라우드나 SaaS와 관련하여 다른 궁금한 점이 있으시면 언제든지 저희에게 문의해 주세요.

저희에게는 클라우드에 대한 다양한 정보와 경험, 그리고 도구가 있습니다.

 OpsNow에 문의하기