Aceleração da inferência do PyTorch no IBM Z e no IBM LinuxONE
Na última década, vimos uma transformação drástica nas empresas liderada pela IA. A ascensão do big data e do hardware especializado tornou acessíveis às massas modelos de IA que antes eram limitados a equipes de pesquisa de elite em universidades de alto nível. As redes neurais profundas impulsionaram essa democratização, e estruturas de deep learning, como o PyTorch e TensorFlow, ajudaram no desenvolvimento desses modelos. O PyTorch se tornou um participante importante no cenário da IA, oferecendo vantagens exclusivas que levaram à sua ampla utilização e adoção.
As últimas notícias e insights sobre IA
Descubra insights selecionados por especialistas e notícias sobre IA, nuvem e outros assuntos no boletim informativo semanal Think.
Os recentes avanços nos aceleradores de IA de hardware forneceram a potência necessária para usar efetivamente frameworks de deep learning como o PyTorch. Essas melhorias no hardware aceleram a computação de modelos mais complexos em grandes conjuntos de dados, acelerando significativamente a experimentação e a implementação. Com a mais recente atualização de entrega contínua do AI Toolkit para IBM Z e LinuxONE, estamos adicionando a compatibilidade com o PyTorch por meio de um novo contêiner: IBM Z Accelerated for PyTorch. Contém um ambiente de desenvolvimento e inferência para o PyTorch. Ele usará novos recursos de aceleração de inferência que visam de forma transparente o IBM Integrated IA Accelerator e fornecem aceleração significativa para o aprendizado de máquina tradicional e deep learning, bem como para os modelos Encoder LLMs. Esses recursos ajudam a acelerar a experimentação com PoCs rápidos e a criar soluções de IA no IBM Z e no LinuxONE.
O PyTorch é um framework de aprendizado de máquina de código aberto que fornece uma plataforma flexível para a criação de modelos de deep learning. Lançado pelo laboratório de pesquisa de IA do Facebook em 2016, o PyTorch permite que os desenvolvedores criem e modifiquem modelos facilmente por meio de sua estrutura dinâmica, que oferece feedback imediato. Essa adaptabilidade o torna particularmente atraente para pesquisadores e desenvolvedores que desejam experimentar novas ideias.
O PyTorch ganhou ampla popularidade no ecossistema de IA. Sua interface fácil de usar e recursos poderosos tornaram-no o framework preferido para pesquisas acadêmicas e aplicações de negócios. O PyTorch desempenhou um papel crucial no avanço do deep learning, ao fornecer ferramentas que simplificam o processo de construção e treinamento de modelos complexos. Sua flexibilidade permite que os desenvolvedores experimentem diferentes arquiteturas e técnicas, levando a soluções mais inovadoras. Recursos como diferenciação automática e manipulação intuitiva de tensores facilitaram a implementação de algoritmos avançados, resultando em um progresso mais rápido na pesquisa e na aplicação.
Uma das áreas mais significativas onde o PyTorch causou impacto é no desenvolvimento de grandes modelos de linguagem (LLMs). Esses modelos, que podem entender e gerar textos semelhantes aos humanos, revolucionaram o processamento de linguagem natural. Frameworks como o PyTorch facilitaram a criação e o ajuste fino desses modelos, permitindo que os pesquisadores explorem novas arquiteturas e métodos de treinamento de forma mais eficiente.
Notavelmente, muitos dos modelos de linguagem de última geração mais recentes, incluindo aqueles desenvolvidos por grandes empresas de tecnologia, foram implementados usando o PyTorch. A capacidade do framework de lidar com grandes quantidades de dados e sua compatibilidade com treinamento distribuído permitiram o escalonamento para cima de modelos que podem compreender o contexto e as nuances da linguagem.
Com o IBM Z Accelerated for PyTorch fornecido por meio do AI Toolkit para IBM Z e LinuxONE, nossos clientes podem usar implementações do modelo PyTorch com a confiabilidade, disponibilidade e escalabilidade do IBM Z, juntamente com os recursos de aceleração de inferência do acelerador on-chip Telum. Essa aceleração de inferência é transparente para os clientes, pois os contêineres são projetados para aproveitar as instruções do Neural Network Processing Assist (NNPA) da Telum de forma transparente e automática.
Agora, os clientes podem usar esse recurso para casos de uso de alto valor, como detecção de fraudes, processamento de sinistros, processamento de linguagem natural, detecção de imagens e muito mais. Esses modelos podem ser implementados no formato nativo do PyTorch ou exportados para formatos como ONNX, que são altamente otimizados para inferência.
Independentemente de os modelos PyTorch serem implementados no z/OS ou em um ambiente Linux no IBM Z, a colocalização desses modelos com os dados e aplicações de missão crítica do cliente os ajuda a obter insights de negócios em escala e a continuar e, ao mesmo tempo, continuar a cumprir até mesmo os acordos de nível de serviço mais rigorosos.
O AI Toolkit for IBM Z e IBM LinuxONE é projetado para permitir que nossos clientes implementem e acelerem a adoção de frameworks populares de código aberto em suas plataformas z/OS e IBM LinuxONE. O AI Toolkit segue um rigoroso processo de engenharia segura da IBM, que examina e verifica estruturas de serviço de IA de código aberto e contêineres certificados pela IBM em busca de vulnerabilidades de segurança, e valida a conformidade com as regulamentações do setor. Os clientes também podem comprar o IBM Elite Support para o AI Toolkit para IBM Z e LinuxONE.