생성형 AI 시대의 IT 지출에 대한 재고

오늘날 CIO들이 가장 궁금해하는 질문은 IT 예산을 어디에 사용하느냐는 것입니다.

클라우드 비용은 이미 큰 부담이었는데, 최근 설문조사에 따르면 응답자의 24%가 소프트웨어 지출을 낭비하고 있다고 답했습니다. 생성형 AI의 폭발적인 증가으로 인해 조직이 모든 기술 지출에 대한 가시성과 책임성을 확보하기 위해 FinOps 및 기술 비즈니스 관리(TBM)와 같은 프레임워크를 고려하는 것이 매우 중요해졌습니다.

하지만 이 모든 것이 실제로는 무엇을 의미할까요? 조직이 IT 지출에 대해 보다 체계적이고 가치 중심적인 접근 방식으로 전환하려면 어떻게 해야 할까요? 이 분야에서 생성형 AI가 미치는 영향은 무엇인가요?

이러한 질문에 대한 답을 얻기 위해 IBM의 클라우드 및 기술 자문 부문 파트너인 Declan Coombs에게 도움을 요청했습니다. Declan Coombs는 20년 이상 조직이 기술 및 클라우드 혁신 노력을 통해 더 큰 가치를 창출할 수 있도록 지원한 경험이 있습니다.

CIO는 어디에 지출하기를 원할까요?

CIO는 항상 기업 운영과 기업 변화 사이의 균형을 맞추기 위해 고심하고 있습니다. 이것이 비즈니스 혁신과 수익 창출 측면에서 바늘을 움직일 것이기 때문입니다.

이들은 단순히 기능을 유지하는 것이 아니라 새로운 능력을 구축하기를 원합니다.

무엇이 조직의 길을 가로막고 있는 것일까요?

너무 많은 조직이 여전히 매년 예산 프로세스를 실행하고 있습니다. 대개는 전년도의 내용을 복사하여 붙여넣기하고 숫자에 약간의 수정을 가하는 방식으로 이루어집니다.

그러나 기술과 비즈니스의 빠른 변화 속도를 고려할 때, 기존의 예산 책정 주기로는 충분하지 않습니다. 이 프로세스를 통해 IT 팀은 적절한 곳에 비용을 지출하고 있는지 비판적이고 동적으로 평가할 수 없습니다.

FinOps란 무엇입니까?

FinOps는 근본적으로 문화 및 운영 모델 변경입니다. 이는 재무 기능뿐만 아니라 비즈니스 전략 및 계획 기능의 핵심에 도달합니다. 인력, 프로세스 및 기술을 조직에 실제로 포함시키고 비용 소유권과 책임을 엣지로 전환하려면 인력, 프로세스 및 기술에 대해 생각해야 합니다.

이러한 노력의 대부분은 사람들이 더 현명한 결정을 내릴 수 있도록 돈을 어디에 지출하고 있는지에 대한 가시성과 이해를 제공하는 것입니다.

클라우드 비용에 대한 것만인가요?

대부분의 초점은 퍼블릭 클라우드에 맞춰져 있었지만 모든 클라우드 및 기술 지출로 확대되고 있습니다.

TBM과 결합하면 하드웨어, 소프트웨어, 휴먼웨어 등 더 광범위한 기술 스택으로 시야를 넓혀 기술 소비와 이것이 비즈니스 성과로 어떻게 연결되는지 보다 명확하고 포괄적으로 파악할 수 있습니다. 이를 통해 비즈니스에 가장 적합한 방식으로 투자할 수 있는 최적의 위치와 기술을 배포하는 방법을 알 수 있습니다.

FinOps는 생성형 AI에 어떤 영향을 미칠까요?

이는 특히 생성형 AI 사용 사례가 증가하고, 이를 구동하는 데 필요한 GPU의 양이 엄청나게 늘어나며, 그로 인해 비용이 천문학적으로 커지는 상황에서 매우 중요한 역할을 합니다. 조직은 가치를 입증하는 데 어려움을 겪을 것입니다. FinOps는 팀이 비용 효율적인 방식으로 생성형 AI를 활용하고 확장하는 것은 물론, ROI를 추적하고 측정하는 데 도움을 줄 수 있습니다.

생성형 AI는 FinOps에 어떤 영향을 미칠까요?

생성형 AI는 FinOps를 가속화합니다. 데이터를 더 잘 활용하고 패턴 발견 및 컨텍스트화를 개선하는 데 도움이 됩니다. 데이터 기반 의사 결정을 지원하고 프로세스를 간소화하며 작업을 자동화하는 데 필요한 인사이트와 권장 사항을 제공할 수 있습니다.

하지만 진정한 게임 체인저는 생성형 AI를 사용하여 애플리케이션 및 코드 현대화 속도를 높이는 것입니다. 이는 한 차원 높은 비용 최적화를 달성하여 효율성과 비즈니스 가치를 높이는 데 도움이 될 것입니다.

성공의 핵심은 무엇일까요?

엔지니어가 비용 최적화 권장 사항에 따라 조치를 취하도록 하는 것이 가장 큰 과제입니다. 이러한 비용 절감 연습에서는 정말 쉽게 모든 것을 취하고, 취하고, 취하는 것처럼 느껴질 수 있습니다. 올바른 행동을 취한 사람들에게 이점을 보여주고 보상하는 것이 중요합니다.

FinOps를 올바른 방식으로 수행하면 사람들이 변화를 가져올 수 있습니다. 올바른 도구와 가시성, 인센티브를 제공하면 직원들은 올바른 일을 하고 싶어 할 것입니다.