Ativando diversos pods do condutor (tempo de execução PX) no DataStage

É possível aumentar a disponibilidade de cálculo e melhorar o balanceamento de carga de trabalho, aumentando o número de pods do condutor de tempo de execução do DataStage PX

Sobre esta tarefa

Seu limite de recursos atual (mais comumente CPU) pode restringir o número de trabalhos simultâneos que podem ser executados, o que pode fazer com que os trabalhos fiquem na fila. Você pode aumentar a escala dos pods do condutor para melhorar o desempenho da computação. O dimensionamento também pode aumentar a disponibilidade de computação para compilar simultaneamente um grande número de transformadores.

Os pods de cálculo podem escalar horizontalmente e verticalmente, com o gerenciamento de carga de trabalho dinâmico distribuindo a carga de trabalho entre os pods de cálculo disponíveis. Por padrão, as instâncias de tempo de execução são criadas com um pod condutor de tempo de execução do DataStage PX. Cada tarefa é executada por um pod do condutor em vários pods de computação É possível aumentar a disponibilidade de cálculo aumentando o número de pods do condutor de tempo de execução PX. Novas tarefas podem ser enviadas enquanto um pod do condutor estiver disponível. Vários pods do mesmo serviço evitarão a implementação no mesmo nó do trabalhador

Procedimento

  1. Configure o número de réplicas para px-runtime (condutor da instância PXDataStage ) para 2 com o comando a seguir. É possível escalar as réplicas para 2 ou mais.
    oc scale deploy <px-runtime-deployment> --replicas=2
    Exemplo:
    oc scale deploy px-instance-ibm-datastage-px-runtime --replicas=2
  2. Modifique o recurso customizado (CR) da instância de tempo de execução do DataStage PX para atualizar o padrão... Caso contrário, a próxima atualização do CR reverterá a mudança.
    # retrieve pxruntime cr
    oc get pxruntime
    
    # edit pxruntime cr
    oc edit pxruntime <cr-name>
    
    spec:
      ignoreForMaintenance: false  # set to true to ignore refresh
      scale:                                        # override the t-shirt size
        pxcompute:           
          replicas: 2
          resources:
            limits:
              cpu: 3
              memory: 8Gi
            requests:
              cpu: 1
              memory: 2Gi
        pxruntime:
          replicas: 2
          resources:
            limits:
              cpu: 2
              memory: 4Gi
            requests:
              cpu: 500m
              memory: 2Gi