IBM 최고 정보 책임자 조직
생성형 AI(Gen AI)의 출현으로 전 세계 기업은 AI를 기본 인프라, 시스템 및 프로세스에 직접 통합하여 업무 방식을 혁신할 수 있게 되었습니다. IBM도 마찬가지입니다. IBM 최고 정보 책임자(CIO) 조직은 AskIBM으로 알려진 생성형 AI 환경을 구축하여 직원들의 일상적인 비즈니스 활동을 지원함으로써 직원들이 보다 전략적인 업무에 집중할 수 있도록 하고자 했습니다. 목표는 모든 IBM 직원에게 이메일 초안 작성, 문서 번역 또는 정보 검색과 같은 일상적인 비즈니스 작업을 자동화할 수 있는 AI 우선 디지털 어시스턴트를 제공하는 것이었습니다.
생성형 AI 공간이 얼마나 빠르게 진화하고 있는지를 감안하여 CIO 조직은 신속한 조치를 취하고 IBM의 자체 AI 기술을 활용하여 신속한 개발 및 온보딩 접근 방식을 사용해 단 60일 만에 AskIBM의 알파 릴리스를 구축했습니다. 60일 기간 동안 IBM watsonx를 프로덕션에 전달하고, 권장되는 AI 표준 및 보호 규정을 충족하기 위한 중요한 법률, 개인정보 보호, 사이버 보안 및 AI 윤리 검토 과정이 완료되었습니다. 이 과정에서 CIO 조직은 IBM Software 및 IBM Research와 협력하여 엔터프라이즈 릴리스에 바로 사용할 수 있는 애플리케이션을 제공했습니다. 그 결과, 2024년 1월 초에 전 세계 280,000명 이상의 IBM 직원들이 알파 릴리스에 액세스할 수 있게 되었습니다.
AskIBM 파운데이션은 watsonx.ai 및 IBM Granite 수준의 대규모 언어 모델(LLM)1로 구축되었으며, IBM 기밀 정보, 민감한 개인 정보 및 고객 정보를 제외한 전략적인 IBM 내부 콘텐츠로 보강되었습니다. 개발 및 배포의 일환으로, IBM 직원들의 협조를 구하여 AI 파운데이션 모델을 테스트하여 훈련하고 조정하는 데 도움을 받았습니다. 또한 IBM 직원들은 전 세계 IBM 엔터프라이즈 고객을 위해 확장하려면 watsonx를 어떻게 개선해야 하는가에 대해 제품 팀에 피드백을 제공하도록 요청을 받았습니다. AskIBM은 생성형 AI를 사용하여 고객 이메일 초안 작성, 제품 요약 작성 또는 회의, 통화 또는 기타 필요에 대비하기 위해 긴 문서를 빠르게 요약하는 등의 일반적인 활동을 자동화하도록 설계되었습니다.
AskIBM의 내부 알파 릴리스에서는 Granite 수준의 LLM을 훈련하기 위해 여러 언어로 된 약 5,000개의 문서가 수집되었으며, 이 숫자는 2024년 7월 현재 30,000개 이상으로 증가했습니다. 검색 증강 생성(RAG) 기술을 통해 AskIBM은 수집된 콘텐츠를 사용하여 가장 관련성이 높은 정보에서 새로운 답변을 생성함으로써 IBM 직원에게 맞춤형의 적절한 답변을 제공할 수 있습니다. AskIBM 답변 흐름은 그림 1을 참조하세요.
CIO 조직은 IBM Software 및 IBM의 다른 AI 팀과 계속 협력하여 watsonx Orchestrate를 사용해 기타 작업들을 자동화하고 복잡한 워크플로를 단순화함으로써 통합 사용자 경험을 더욱 향상시킬 계획입니다.
1 watsonx.ai에는 IBM Granite이라고 불리는 IBM이 구축한 기초 모델이 포함되어 있습니다. 이러한 여러 규모의 파운데이션 모델은 언어와 코드 모두에 생성형 AI를 적용합니다.
AskIBM 베타 릴리스는 2024년 5월에 출시되었습니다. 베타 릴리스를 통해 CIO 조직은 모든 IBM 직원이 단일 진입 지점에서 작업을 자동화하여 생산성을 높일 수 있는 통합 사용자 환경을 제공했습니다. 이제 사용자는 한 곳에서 콘텐츠 요약, 번역 및 작성, 문서 초안 작성, 문서와 채팅, 정보 검색, 기타 전략적 디지털 어시스턴트에 액세스를 할 수 있습니다. 이러한 유형의 작업을 AskIBM에 맡기면 직원들은 더 가치 있는 활동에 집중할 수 있습니다.
흥미롭게도 초기 결과에서는 AskIBM의 성과가 좋은 것으로 나타났지만, 추가적인 성공을 가로막는 장애물은 행동이었습니다. AskIBM을 최대한 활용하기 위한 핵심은 자연어를 사용하여 효과적인 답변을 생성하는 데 필요한 컨텍스트를 제공하는 명확하고 의도적인 프롬프트를 만드는 것입니다. 그러나 처음에는 많은 IBM 직원들이 자연어 쿼리가 아닌 단일 또는 이중 키워드 기반 쿼리를 사용하여 검색했습니다. 실제로 출시 당시에는 자연어 쿼리가 전체 질문의 2-4%에 불과했지만, 교육과 훈련을 통해 2024년 1월 말에는 이 수치가 약 10%로 증가했습니다. IBM 직원들은 지속적인 교육과 훈련, 실습을 통해 이 새로운 업무 방식에 꾸준히 적응해 나가고 있습니다.
AskIBM을 설계, 개발 및 배치한 CIO 조직은 이 경험을 통해 전 세계 IBM 고객과 공유할 수 있는 귀중한 교훈을 얻었습니다. 여기에는 다음이 포함됩니다.
- 개발 중에 승인된 변경 사항을 관리하고 통합할 수 있는 적응력과 개방성을 갖춥니다.
- 의사 결정 속도를 높이고 협업적인 팀워크를 조성하여 확장된 엔터프라이즈 이니셔티브를 지원할 수 있도록, 적합한 인력을 참여시킴으로써 효과적인 의사 결정을 내립니다.
- 더 광범위한 이니셔티브를 계획하고, 성능 결과 및 스트레스 테스트를 기반으로 개발 및 사용자 온보딩에 대한 관리 가능한 단계별 접근 방식을 사용하여 확장 가능한 솔루션을 만듭니다.
- 처음부터 조직의 변화 관리를 우선시하여 사용자가 새로운 AI 기술과 업무 방식을 채택할 수 있도록 교육 및 훈련을 계획합니다.
IBM 최고 정보 책임자(CIO) 조직은 IBM의 내부 IT 전략을 이끌며 IBM 직원, 고객 및 파트너가 매일 업무를 수행하는 데 사용하는 IT 솔루션을 제공, 보안, 현대화 및 지원하는 업무를 담당합니다. CIO 조직의 전략에는 기업 전체에서 IT 도구, 애플리케이션 및 시스템에 보다 쉽게 액세스할 수 있도록 하고, 문제 해결 속도를 높이며, IBM의 혁신 엔진 역할을 하여 비즈니스 성장을 촉진하는 적응형 IT 플랫폼을 구축하는 것이 포함됩니다.
법률
© Copyright IBM Corporation 2024. IBM, IBM 로고, Granite, IBM Research, watsonx, watsonx.ai, watsonx Orchestrate는 미국 및/또는 기타 국가에서 IBM Corp.의 상표 또는 등록 상표입니다. 이 문서는 최초 발행일을 기준으로 최신 상태로 업데이트된 문서로, 내용은 언제든지 IBM에 의해 변경될 수 있습니다. IBM이 현재 영업 중인 모든 국가에서 모든 제품이 제공되는 것은 아닙니다.
고객 사례는 해당 고객이 IBM 제품을 사용한 방법과 달성한 결과에 대한 예시로서 제공됩니다. 다른 운영 환경에서는 실제 성능, 비용, 절감 또는 그 외 결과가 다르게 나타날 수 있습니다.