AI 비용 관리는 98%가 합니다. 문제는 예산을 정하는 쪽입니다
■ 문제: AI 지출을 들여다보는 조직은 2년 만에 거의 전부가 됐지만, 얼마까지 써도 되는지 정하는 일은 여전히 누구의 몫인지 불분명합니다.
■ 해결: 측정 체계와 별개로 예산 한도·집행 통제·그 사이의 번역을 누가 맡을지 나누고, 예측 주기를 짧게 가져가야 합니다.
■ 효과: “이번 달 얼마 나왔나”를 확인하는 회의가 “다음 분기에 얼마까지 쓸 것인가”를 정하는 회의로 바뀝니다.
분기 계획 회의에서 임원이 묻습니다. “내년 AI에 얼마 잡으면 됩니까.” 대시보드에는 지난달 GPU 사용량이 시간 단위로 찍혀 있습니다. 화면을 띄운 담당자는 스크롤을 두 번 내리고 멈춥니다. 데이터가 없어서가 아닙니다. 그 숫자를 내년 예산으로 바꾸는 규칙이 없어서입니다.
AI 비용 관리는 이미 보편화됐습니다
FinOps Foundation의 State of FinOps 2026은 응답자 1,192명, 연간 830억 달러가 넘는 클라우드 지출을 대표하는 조사입니다. 여기서 AI 지출을 관리한다고 답한 비율은 98%였습니다. 2024년 31%를 지나 2년 만에 도달한 숫자입니다.
FinOps가 다루는 범위도 같이 넓어졌습니다. SaaS 90%, 라이선싱 64%. 데이터센터와 인건비까지 목록에 올라와 있습니다.
그러니까 “AI에 돈이 얼마나 나가는지 모른다”는 단계는 끝났습니다. 태그를 붙이고 팀별로 쪼개 보는 일은 이제 기본에 가깝습니다.
그런데 예측은 다섯 번째 우선순위입니다
같은 조사에서 2026년 우선순위는 워크로드 최적화와 낭비 절감, 기술 범위 확장, 거버넌스와 정책, 조직 정렬 순으로 꼽혔습니다. 예측(Forecasting)은 그 다음입니다.
앞의 네 가지는 이미 쓰고 있는 돈을 다루고, 예측만 앞으로 쓸 돈을 다룹니다.
FinOps Foundation은 AI 지출의 예측 지평이 길어야 12개월 정도로 짧아졌다고 봅니다. 모델과 가격 체계가 자주 바뀌고, 과제 상당수가 아직 실험 단계에 있기 때문입니다.
AI 예산은 총액이 늘지 않습니다
부서들은 인건비와 소프트웨어, 인프라 예산을 이미 쥐고 있습니다. AI는 총액을 키우는 대신 그중 하나를 깎아서 조달하라는 요구를 받습니다. 그래서 AI 예산 회의는 얼마 못 가 배분 회의가 됩니다. 근거가 약하면 목소리 큰 쪽이 가져갑니다.
FinOps Foundation이 내놓은 정리는 자리를 나누는 것입니다. 재무가 한도와 허용 오차를 정하고, 엔지니어링이 그것을 집행 가능한 통제로 바꾸고, FinOps가 둘 사이를 번역합니다.
조직도도 변수입니다. FinOps 조직의 78%는 CTO·CIO에게 보고했고, CFO에게 보고하는 곳은 8%였습니다.
다만 임원급이 참여하는 조직은 그렇지 않은 곳보다 의사결정 영향력이 두세 배로 나타났습니다. 보고선보다 참여 여부입니다.
지금 할 수 있는 세 가지
- 총액보다 단위를 먼저 정합니다. “AI에 월 얼마”가 아니라 추론 1천 건당 얼마, 활성 사용자당 얼마입니다.
- 예산은 분기로 쪼갭니다. 예측 지평이 12개월이라면 연 단위로 확정한 숫자는 대부분 추정입니다.
- 기준을 정하는 회의에 임원을 부르십시오. 완성된 보고서를 들고 가는 것과 같지 않습니다.
OpsNow는 어디를 돕나
OpsNow FinOps에는 결정 쪽에 쓰는 기능이 모여 있습니다. Budgets는 AI 예측으로 예산 수준을 제안하고, 조직 계층별 예산을 80/90/100% 임계치에서 알립니다. Cost Allocation은 Shared Cost Rule로 공통비까지 배분해 100% 비용 귀속을 맞추고, GPU 클라우드 통합 관리는 활용률과 사용량 기반 미터링, 팀별 쿼터를 다룹니다. 앞서 말한 단위를 만들 재료가 여기서 나옵니다.
AWS·Azure·GCP·OCI·Naver Cloud 5개 CSP를 한 기준으로 묶기 때문에, 환경이 나뉘어 있어도 예산 논의를 한 테이블에서 합니다.
분기 계획 회의로 돌아가 보겠습니다. 그 자리에 필요한 것은 지난달 사용량 화면이 아니라, 다음 분기 한도와 그 선을 넘었을 때 울릴 경보입니다.
자주 묻는 질문(FAQ)
Q. AI 비용은 클라우드 비용과 따로 관리해야 하나요?
따로 볼 필요는 없지만 따로 셀 수는 있어야 합니다. 예산 주체가 다른 경우가 많기 때문입니다. 같은 플랫폼에서 관리하되 GPU·추론처럼 AI에 귀속되는 항목을 구분해 집계할 수 있으면 충분합니다.
Q. 예측이 어렵다는데 예산은 어떻게 잡나요?
기간을 줄이십시오. FinOps Foundation은 AI 지출의 예측 지평을 길어야 12개월 정도로 봅니다. 연 단위로 확정하는 대신 분기 한도를 정하고, 임계치 경보로 조정하는 방식이 현실적입니다.
Q. AI 비용의 단위 경제성은 어떻게 정하나요?
비즈니스가 이미 세고 있는 것에 붙이십시오. 추론 건수, 활성 사용자 수, 처리한 문서나 티켓 수처럼 현업이 이해하는 수량이면 됩니다. 완벽한 단위를 찾기보다 하나를 정해 분기마다 추이를 보는 편이 빠릅니다.
Q. FinOps 조직이 CTO 산하에 있으면 예산 논의에 불리한가요?
보고선보다 참여 여부가 중요합니다. State of FinOps 2026에서도 78%가 CTO·CIO에게 보고했고, 임원급이 실제로 참여하는 조직이 의사결정 영향력에서 두세 배 앞섰습니다.
