MIG 지원 클러스터에 사용자 정의 파운데이션 모델 배포하기

전제조건

MIG 지원 클러스터에 사용자 지정 파운데이션 모델을 배포하려면 시스템 관리자가 하드웨어 요구 사항을 검토하고 클러스터에서 MIG 지원을 구성해야 합니다. 자세한 내용은 MIG 지원 클러스터에 사용자 지정 파운데이션 모델을 배포하기 위한 요구 사항 ( IBM Software Hub 문서)을 참조하세요.

시스템 관리자가 MIG 지원을 구성한 후 MLOps 엔지니어와 Prompt 엔지니어는 MIG 지원 클러스터에 사용자 지정 파운데이션 모델을 배포할 수 있습니다. 배포를 생성하고 테스트하기 전에 요구 사항을 검토하세요.

MIG 지원 클러스터에 사용자 정의 파운데이션 모델을 배포하는 작업

MIG 지원 클러스터에 사용자 지정 기초 모델을 배포하려면 다음 작업을 따라야 합니다.

1. 요구 사항을 검토합니다: 하드웨어 및 소프트웨어 요구 사항과 지원되는 모델 아키텍처를 검토하여 MIG 지원 클러스터에 사용자 지정 기초 모델을 배포하세요.
2. 사용자 지정 기초 모델 자산 생성: Watson Machine Learning 사용자 지정 기초 모델에 대한 리포지토리 자산을 생성합니다.
3. 사용자 지정 하드웨어 사양을 만듭니다: 사용자 지정 하드웨어 사양을 만들어 사용자 지정 파운데이션 모델을 배포합니다.
4. 사용자 지정 기초 모델 자산 배포: 사용자 지정 기초 모델 자산을 온라인 또는 일괄 배포로 배포합니다.
5. 사용자 지정 기초 모델 배포를 테스트합니다: 배포된 AI 서비스를 온라인 추론 또는 일괄 채점용으로 테스트하세요.
6. 사용자 지정 파운데이션 모델 배포를 관리합니다: 배포 세부 정보에 액세스하고 업데이트합니다. 배포를 확장하거나 삭제할 수도 있습니다.