Analytics Engine Powered by Apache Spark 의 서비스 및 인스턴스 수준 구성 관리
Analytics Engine powered by Apache Spark 서비스를 설치한 후, IBM Cloud Pak for Data 관리자는 Analytics Engine 사용자 정의 리소스에서 다음 속성을 편집하거나 추가하여 특정 서비스 수준 기본값을 구성할 수 있습니다. 예를 들어, Spark 드라이버 및 실행기의 최대 CPU 코어 수와 메모리 값을 업데이트할 수 있습니다. 관리자는 Spark 애플리케이션이 요청할 수 있는 최대 워커 수를 변경할 수도 있습니다.
Spark 애플리케이션 작업이 제출되면 Spark 런타임이 시작되고, 각 Spark 워커는 하나의 익스큐터에서 실행됩니다. 따라서 실행자(executor)의 수는 항상 Spark 애플리케이션 페이로드에서 요청된 워커(worker)의 수와 일치해야 합니다.
현재 서비스 수준 구성을 확인하려면 다음 명령을 사용하십시오:
kubectl get configmap spark-hb-resource-limit -o yaml -n ${PROJECT_CPD_INST_OPERANDS}
예상 출력:
apiVersion: v1
data:
resource-limit-properties: |-
max_driver_cpu_cores=5
max_executor_cpu_cores=5
max_driver_memory=40g
max_executor_memory=40g
max_num_workers=50
default_instance_cpu_quota=20
default_instance_memory_quota=80
kind: ConfigMap
서비스 수준 구성 업데이트
서비스 수준 기본 설정을 변경하려면:
Cloud Pak for Data 에 로그인하세요.
Analytics Engine powered by Apache Spark 을 설정하는 데 사용된 Analytics Engine 사용자 정의 리소스(CR) YAML 파일의 해당 속성을 업데이트하십시오. 추가 설치 옵션을 참조하십시오. 그런 다음 다음 명령어를 사용하여 기존에 배포된 CR에 변경 사항을 적용합니다:
oc apply -f analyticsengine-cr.yaml -n ${PROJECT_CPD_INST_OPERANDS}Analytics Engine 의 CR이 다음
Completed상태가 될 때까지 기다립니다:oc get analyticsengine -n ${PROJECT_CPD_INST_OPERANDS}
설정 변경 사항은 몇 분 내에 적용됩니다. 사용자가 이후에 제출하는 모든 Spark 애플리케이션은 변경된 구성 값을 사용하게 됩니다.
서비스 인스턴스 수준 구성 업데이트
프로젝트 관리자가 Analytics Engine powered by Apache Spark 인스턴스를 생성하면, 각 인스턴스에 CPU 및 메모리 사용량에 대한 기본 리소스 할당량이 적용됩니다.
프로젝트 관리자는 인스턴스 생성 시 기본 리소스 할당량을 변경할 수 있지만, 서비스 인스턴스 수준에서는 IBM Cloud Pak for Data 관리자가 한 번만 변경할 수 있으며, 이 변경 사항은 이후에 생성되는 모든 인스턴스에 적용됩니다.
서비스 인스턴스 default_instance_memory_quota 수준에서 및 을 default_instance_cpu_quota 변경하려면:
Cloud Pak for Data 에 로그인하세요.
Analytics Engine powered by Apache Spark 을 설정하는 데 사용된 Analytics Engine CR YAML 파일의 및
default_instance_memory_quotadefault_instance_cpu_quota속성을 업데이트하십시오. 추가 설치 옵션을 참조하십시오. 그런 다음 다음 명령어를 사용하여 기존에 배포된 CR에 변경 사항을 적용합니다:oc apply -f analyticsengine-cr.yaml -n ${PROJECT_CPD_INST_OPERANDS}Analytics Engine 의 CR이 다음
Completed상태가 될 때까지 기다립니다:oc get analyticsengine -n ${PROJECT_CPD_INST_OPERANDS}이후 프로젝트 관리자가 생성하는 Analytics Engine powered by Apache Spark 인스턴스들은 변경된 구성 값을 사용하게 됩니다.