IBM의 AI 플랫폼은 엔터프라이즈급 모델의 기능을 다루는 포괄적인 툴 제품군을 제공합니다. 이 섹션에서는 아래에 표시된 기능-제품 매핑을 안내하고, IBM 플랫폼이 생성형 AI 아키텍처의 기능을 구현하는 방식을 설명합니다.
이 섹션에서는 IBM AI 제품 포트폴리오가 엔터프라이즈 모델 내 기능 그룹별 기능 그룹에 어떻게 부합하는지 설명합니다.
모델 허브
IBM® watsonx.ai는 모델 허브 기능 그룹의 전체 기능 세트를 제공합니다. watsonx.ai는 클라우드 기반 서비스 및 온프레미스 배포 패키지로 사용할 수 있습니다. 이를 통해 온프레미스와 클라우드 기반 기능을 결합하는 하이브리드 배치 접근 방식을 지원합니다. 아키텍처에 대한 큰 절충 없이도 생성형 AI 솔루션의 기능 및 비기능 요구 사항을 충족하는 데 필요한 유연성을 아키텍트에게 제공합니다.
모델 호스팅
IBM watsonx.ai는 모델 호스팅 기능 그룹의 모델 라이프사이클 관리, 모델 추론, 모델 액세스 정책 관리 기능을 제공합니다. 모델 추론의 경우 watsonx.ai는 기업이 공통 API를 사용하여 생성형 AI 모델을 REST 서비스로 배포할 수 있는 기능을 제공합니다. 이를 통해 생성형 AI 솔루션 개발자는 애플리케이션 내에서 모델을 쉽게 통합하고 액세스할 수 있으며, 데이터 과학자는 사용 중인 애플리케이션에 영향을 주지 않고 시간이 지남에 따라 모델을 업데이트할 수 있습니다.
watsonx.ai는 모델 액세스 정책 관리 기능을 처리하기 위한 배포 공간을 제공합니다. 배포 공간은 기업이 생성형 AI 모델을 관리하고 해당 자산에 대한 액세스를 제어하는 데 사용할 수 있는 배포 가능한 모델, 데이터 및 환경의 액세스 제어 컬렉션입니다.
모델 라이프사이클 관리를 위해 watsonx.ai는 기업이 시간 경과에 따라 모델을 배포, 업데이트, 폐기/삭제할 수 있는 기능을 제공합니다.
모델 맞춤형 설정
IBM watsonx.ai는 모델 맞춤형 그룹 내에서 모델 미세 조정 및 임베딩 생성 기능을 제공합니다. 모델 튜닝은 컴패니언 솔루션인 Red Hat Openshift AI에서 지원합니다.
모델 및 데이터 거버넌스
IBM watsonx.governance는 모델 및 데이터 거버넌스 그룹에서 대부분의 기능을 제공합니다. 구체적으로 watsonx.governance는 모델 및 데이터 카드 관리, 모델 카탈로그 관리, 모델 리스크 거버넌스, 법률 및 규정 준수 관리를 제공합니다. 데이터 카탈로그 관리는 IBM watsonx.data에서 제공합니다.
모델 모니터링
모델 모니터링은 모델 및 데이터 거버넌스의 운영 측면입니다. 따라서 IBM watsonx.governance는 제공되는 모델 및 데이터 거버넌스 기능을 보완하기 위해 모델 모니터링 그룹에 많은 기능을 제공합니다. 구체적으로 watsonx.governance는 이 그룹 내에서 HAP 감지, 모델 드리프트 감지, 모델 피드백 및 개선, 설명 가능성 및 모델 평가 기능을 제공합니다.
생성형 AI 엔지니어링
IBM watsonx.ai는 생성형 AI 엔지니어링 그룹 내에서 프롬프트 엔지니어링 및 프롬프트 튜닝 기능을 제공합니다. 모델 튜닝은 컴패니언 솔루션인 Red Hat OpenShift AI에서 지원합니다.
IBM watsonx Orchestrate는 자연어 처리를 사용하여 기본 및 고급 기술 카탈로그에서 컨텍스트에 맞게 올바른 순서로 요청을 실행합니다.