A nossa terceira geração de modelos de linguagem de IA já está aqui. Adequados à finalidade e de código aberto, esses modelos prontos para uso corporativo oferecem um desempenho excepcional em relação às referências de segurança e em uma ampla variedade de tarefas corporativas, da segurança cibernética ao RAG.
Modelos de linguagem básicos e otimizados por instruções, desenvolvidos para fluxos de trabalho com agentes, RAG, síntese de textos, análise e extração de dados textuais, classificação e criação de conteúdos.
Modelos exclusivamente decodificadores, desenvolvidos para tarefas generativas de código, incluindo geração, explicação e edição de código, treinados com códigos desenvolvidos em 116 linguagens de programação.
Leve e treinado previamente para previsão de séries temporais, otimizado para ser executado com eficiência em uma grande variedade de configurações de hardware.
Proteja a IA com o Granite Guardian, garantindo a segurança de dados corporativos e mitigando riscos em uma grande variedade de solicitações de usuários e respostas de LLM, com desempenho máximo em comparação a mais de 15 referências de segurança.
Escolha o modelo certo, de sub-bilhões a parâmetros de 34B, de código aberto inferior ao Apache 2.0.
Não sacrifique o desempenho pelo custo. O Granite supera os modelos comparáveis1 em uma grande variedade de tarefas corporativas.
Crie uma IA responsável com um conjunto abrangente de recursos de detecção de riscos e danos, transparência e proteção de IP.
Implemente os modelos de código aberto Granite em produção com Red Hat Enterprise Linux AI e watsonx, obtendo o suporte e as ferramentas necessárias para escalar a IA. Desenvolva com mais rapidez com recursos como chamada de ferramentas, 12 idiomas, adaptadores multimodais (em breve) e muito mais.
Aprenda a criar um agente de IA capaz de responder a perguntas
Neste tutorial, você usará o IBM Granite-3.0-8B-Instruct modelo agora disponível no watsonx.ai para executar chamadas de funções personalizadas.
Quantifique um modelo pré-treinado de diversas formas para demonstrar o tamanho dos modelos e comparar seu desempenho em uma tarefa específica
Use o framework Ragas para avaliação de geração aumentada por recuperação (RAG) em Python usando LangChain
Preveja o futuro com base no aprendizado com o modelo Granite TinyTimeMixer (TTM)
Converta texto em uma representação estruturada e gere SQL Query semanticamente correto
Faça o ajuste dos prompts de um modelo Granite no Python com um conjunto de dados sintético contendo avaliações positivas e negativas de clientes
Este relatório apresenta o Granite 3.0 e divulga detalhes técnicos de pré e pós-treinamento para acelerar o desenvolvimento de modelos de base abertos.
Treinados em 12 idiomas e em 116 linguagens de programação, os novos modelos Granite 3.0 8B e 2B há estão à disposição. Explore novas referências de comparação de desempenho, segurança e proteção, além dos tutoriais mais recentes.
Agora, os usuários do SAP podem aproveitar o poder do IBM watsonx e do IBM Granite, começando com o grande modelo de linguagem Granite.13b.chat, disponível por meio do hub de IA generativa no núcleo de IA do SAP na SAPBusiness Technology Platform (SAP BTP).
Um relatório do Centro de pesquisa de modelos de base da universidade de Stanford mostrou que o modelo da IBM obteve uma pontuação perfeita de 100% em várias categorias criadas para medir o grau de abertura dos modelos.
A IBM acredita na criação, na implementação e na utilização de modelos de IA que promovam a inovação responsável em toda a empresa. A plataforma de dados e IA watsonx da IBM conta com um processo completo para criação e teste de modelos de base e IA generativa. Nos modelos desenvolvidos pela IBM, procuramos e removemos duplicidades e empregamos listas de bloqueio de URL, filtros de conteúdo questionável e qualidade de documento, divisão de frases e técnicas de tokenização, tudo antes do treinamento do modelo.
Durante o processo de treinamento de dados, trabalhamos para evitar desajustes nos resultados do modelo e aplicamos ajuste fino supervisionado para melhor acompanhamento das instruções, para que o modelo possa ser utilizado em tarefas empresariais via engenharia de prompt. Continuamos desenvolvendo os modelos Granite em diversos sentidos, incluindo outras modalidades, conteúdo específico do setor e mais anotações de dados para treinamento e ainda implementamos regularmente salvaguardas de proteção de dados para os modelos desenvolvidos pela IBM.
Dado o cenário de rápida mudança da tecnologia da IA generativa, espera-se que nosso processo completo evolua e melhore constantemente. Como prova do rigor que a IBM aplica no desenvolvimento e teste de seus modelos de base, a empresa oferece indenização contratual padrão de propriedade intelectual para os modelos desenvolvidos pela IBM, semelhante àquelas que oferece para itens de hardware e software da IBM.
Além disso, ao contrário de alguns outros fornecedores de grandes modelos de linguagem e coerente com a abordagem padrão da IBM sobre indenização, a IBM não exige que seus clientes indenizem a IBM pelo uso, por parte dos clientes, de modelos desenvolvidos pela IBM. Além disso, de acordo com a abordagem da IBM em relação à sua obrigação de indenização, a IBM não limita sua responsabilidade de indenização para os modelos desenvolvidos pela IBM.
Agora, sob essas proteções, os modelos watsonx incluem:
(1) Família Slate de modelos somente para codificação.
(2) Família Granite de modelos somente para decodificação.
1Avaliação comparativa do desempenho dos modelos Granite e dos principais modelos abertos, conduzida pela IBM Research, em relação a referências acadêmicas e empresariais — https://ibm.com/new/ibm-granite-3-0-open-state-of-the-art-enterprise-models