È arrivata la terza generazione di modelli linguistici di AI. Adatti allo scopo e open source, questi modelli pensati per le imprese offrono prestazioni eccezionali rispetto ai benchmark di sicurezza e in un'ampia gamma di attività aziendali, dalla cybersecurity alla RAG.
Modelli linguistici di base e con instruction tuning progettati per workflow di agenti, RAG, riepilogo del testo, analytics ed estrazione del testo, classificazione e generazione di contenuti.
Modelli decoder-only progettati per attività di generazione di codice, tra cui generazione, spiegazione e modifica del codice, addestrati con codice scritto in 116 linguaggi di programmazione.
Leggeri e pre-addestrati per il forecasting delle serie temporali, ottimizzati per essere eseguiti in modo efficiente su diverse configurazioni hardware.
Proteggi l'AI con Granite Guardian, garantendo la sicurezza dei dati aziendali e mitigando i rischi attraverso una varietà di prompt utente e risposte LLM, con prestazioni eccellenti in oltre 15 benchmark di sicurezza.
Scegli il modello giusto, da meno di un miliardo a 34 miliardi di parametri, open source su Apache 2.0.
Non sacrificare le prestazioni per ridurre i costi. Granite supera i modelli comparabili1 in una serie di attività aziendali.
Sviluppa un'AI responsabile con un set completo di funzionalità di rilevamento dei rischi e dei danni, trasparenza e protezione della proprietà intellettuale.
Distribuisci i modelli open source Granite in produzione con Red Hat Enterprise Linux AI e watsonx, che offrono l'assistenza e gli strumenti necessari per implementare l'AI con sicurezza su larga scala. Sviluppa più velocemente con funzionalità quali tool-calling, 12 lingue, adattatori multimodali (disponibili a breve) e molto altro.
Scopri come costruire un agente AI in grado di rispondere alle domande
In questo tutorial, utilizzerai IBM Granite-3.0-8B-Instruct Il modello è ora disponibile su watsonx.ai per eseguire processi di function calling personalizzati.
Esegui la quantizzazione di un modello pre-addestrato con diverse modalità per mostrare le dimensioni dei modelli e confrontarne le prestazioni in un'attività
Usa il framework Ragas per la valutazione del RAG (Retrieval-Augmented Generation) su Python utilizzando LangChain
Prevedi il futuro in base all'apprendimento con il modello TinyTimeMixer (TTM) Granite
Converti il testo in una rappresentazione strutturata e genera una SQL Query semanticamente corretta
Esegui il prompt tune di un modello Granite in Python utilizzando un set di dati sintetici contenente recensioni dei clienti positive e negative
Questo report presenta Granite 3.0 e svela i dettagli tecnici del pre e post addestramento per accelerare lo sviluppo di foundation model aperti.
Sono ora disponibili i nuovi modelli Granite 3.0 8B e 2B, addestrati su 12 lingue e 116 linguaggi di programmazione. Esplora i nuovi benchmark su prestazioni, sicurezza e protezione e gli ultimi tutorial.
Gli utenti SAP possono ora sfruttare la potenza di IBM watsonx e IBM Granite, a partire dal modello linguistico di grandi dimensioni Granite.13B.Chat, disponibile tramite l'hub di AI generativa su SAP AI core sulla SAPBusiness Technology Platform (SAP BTP).
Un report dal Center for Research on Foundation Models della Stanford University ha mostrato che il modello di IBM ha ottenuto un punteggio perfetto del 100% in diverse categorie progettate per misurare quanto siano realmente aperti i modelli.
IBM si impegna a creare, distribuire e utilizzare modelli AI che stimolano l'innovazione in tutta l'azienda in modo responsabile. La piattaforma dati e AI IBM watsonx dispone di un processo end-to-end per la creazione e il test dell'AI generativa e dei foundation model. Per i modelli sviluppati da IBM, cerchiamo ed eliminiamo duplicati e utilizziamo liste di blocco degli URL, filtri per contenuti discutibili e qualità dei documenti, tecniche di suddivisione delle frasi e di tokenizzazione, il tutto prima di un modello di formazione.
Durante il processo di addestramento dei dati, lavoriamo per evitare disallineamenti nei risultati dei modelli e utilizziamo la messa a punto supervisionata per migliorare il seguito delle istruzioni in modo che il modello possa essere utilizzato per completare le attività aziendali attraverso l'ingegneria dei prompt. Continuiamo a sviluppare modelli Granite in diverse direzioni, tra cui altre modalità, contenuti specifici di settore e più annotazioni di dati per la formazione, implementando al contempo misure di protezione dei dati periodica e in corso per i modelli sviluppati da IBM.
Data la rapida evoluzione della tecnologia AI generativa, dobbiamo continuare a sviluppare e migliorare i nostri processi end-to-end. A testimonianza del rigore con cui sviluppa e testa i suoi foundation model, IBM offre da contratto un indennizzo standard per la proprietà intellettuale per tutti i modelli da essa sviluppati, così come per i suoi prodotti hardware e software.
Inoltre, in linea con l'approccio IBM e contrariamente ad altri fornitori di modelli linguistici di grandi dimensioni, IBM non richiede ai suoi clienti un indennizzo per l'utilizzo dei modelli sviluppati da IBM da un cliente. Inoltre, in linea con l'approccio IBM al proprio obbligo di indennizzo, IBM non limita la propria responsabilità di indennizzo per i modelli sviluppati da IBM.
I modelli watsonx che beneficiano di questo indennizzo includono al momento:
(1) Famiglia Slate di modelli solo encoder.
(2) Famiglia Granite di un modello solo decoder.
1Prestazioni dei modelli Granite condotti da IBM Research rispetto ai principali modelli aperti nei benchmark accademici e aziendali - https://ibm.com/new/ibm-granite-3-0-open-state-of-the-art-enterprise-models