배포 확장

배포 공간에서 또는 프로그래밍 방식으로 모델, 함수 또는 Shiny 앱에 대한 온라인 배포를 생성할 경우, 기본적으로 해당 자산의 단일 사본이 배포됩니다. 확장성과 가용성을 높이기 위해 배포 설정을 수정하여 복제본(replica)의 수를 늘릴 수 있습니다. 복사본이 많을수록 더 많은 채점 요청을 처리할 수 있습니다.

배포는 다음과 같은 방법으로 확장할 수 있습니다:

  • 배포 공간 내 배포에 대한 구성을 업데이트합니다.
  • 프로그래밍 방식으로, Watson Machine Learning Python 클라이언트 라이브러리나 Watson Machine Learning REST API를 사용하여.
중요:

UI를 사용하여 최대 10개까지 복제할 수 있습니다. 더 많은 복사본이 필요한 경우 API를 사용하여 배포를 확장하십시오.

스페이스에서 온라인 배포의 복사본 수 변경

  1. 배포 공간의 배포 탭을 클릭하세요.
  2. 배포 이름의 작업 메뉴에서 편집을 클릭하세요.
  3. 배포 편집 대화 상자에서 복사본 수를 변경한 후 저장을 클릭합니다.

배포의 복제본 수를 프로그래밍 방식으로 증가시키기

배포를 프로그래밍 방식으로 확장하는 작동 예제를 확인하거나 실행하려면, 배포의 메타데이터에서 복제본 수를 늘리면 됩니다.

Python 예시

이 예제에서는 Python 클라이언트를 사용하여 복제본 수를 3개로 설정합니다.

change_meta = {
                client.deployments.ConfigurationMetaNames.HARDWARE_SPEC: {
                                       "name":"S",
                                       "num_nodes":3}
            }

client.deployments.update(<deployment_id>, change_meta)

해당 HARDWARE_SPEC 값에는 이름이 포함됩니다. API가 이름 또는 ID를 제공하도록 요구하기 때문입니다. 그러나 다음 프레임워크를 사용하는 온라인 배포의 경우 이 주장은 적용되지 않습니다: Spark, PMML, Scikit-learn(사용자 정의 이미지 제외), XGBoost(사용자 정의 이미지 제외), PyTorch (사용자 정의 이미지 제외).

REST API 예시

curl --request PATCH \ --url 'https://<HOSTNAME>/ml/v4/deployments/<DEPLOYMENT_ID>?version=2024-01-29&space_id=<SPACE_ID>' \ --header 'Authorization: Bearer $token' \ --header 'Content-Type: application/json' \ --data '[ { "op": "replace", "path": "/hardware_spec", "value": { "num_nodes": 1, "name": "WX-S" } } ]'

값의 hardware_spec 이름을 지정해야 하지만, 이 인수는 스케일링에 적용되지 않습니다.