Cosa sono gli assistenti di AI Coding?

Gli LLM sono, da soli, in grado di assorbire codice, contesto e istruzioni come input e output di nuovo codice o modifiche di codice in cambio. Ma un LLM autonomo non può aprire file, utilizzare strumenti e applicazioni esterni, accedere al terminale o eseguire comandi, attività essenziali per creare e mantenere una base di codice pronta per la produzione. Sebbene un LLM sia effettivamente un'AI che può assisterti nella codifica, un LLM puro non è ciò che si intende con il termine "assistente di AI Coding" nel linguaggio settoriale moderno.

Un vero assistente di AI Coding è, al contrario, un prodotto software più robusto e completo che utilizza un LLM (o più LLM) come motore. Può essere inteso come un'applicazione che abbina un "cervello" di un LLM a un toolkit che funge da braccia e gambe, il tutto accessibile tramite un'unica interfaccia utente e gestita tramite logica e workflow accuratamente elaborati.

Sebbene gran parte delle funzionalità di un assistente di codifica possa essere ottenuta tramite logica codificata manualmente e prompt laboriosamente costruiti, gli assistenti di AI Coding sono progettati per automatizzare e semplificare quel lavoro. Ad esempio, le pipeline di recupero integrate forniscono la consapevolezza del contesto senza richiedere l'inserimento dell'intera base di codice in ogni prompt di input, consumando l'intera finestra di contesto dell'LLM. I server MCP, che operano tramite il Model Context Protocol (MCP) originariamente introdotto da Anthropic, facilitano la comunicazione con servizi e strumenti esterni come API, database e file. I workflow strutturati consentono a un assistente AI di utilizzare strumenti specializzati per apportare modifiche precise e localizzate al codice, mentre un LLM autonomo deve riscrivere un intero file o blocco di codice per apportare una singola modifica.

Meno realizzabili tramite workflow orchestrati manualmente sono la collaborazione tra i team di sviluppo e l'integrazione con piattaforme di codifica essenziali che gli assistenti di AI Coding possono offrire. La maggior parte degli assistenti di codifica moderni può essere incorporata direttamente in ambienti di sviluppo integrati (IDE) comuni, come Visual Studio Code (VS Code) o PyCharm. Alcuni, come GitHub Copilot, sono plugin nativi o estensioni per IDE di rilievo. Alcuni, come IBM Bob, possono funzionare sia come shell - un'interfaccia da riga di comando (CLI), come Bob Shell, che può essere gestita indipendentemente o integrata con IDE tramite un semplice wrapper - sia come IDE autonomo con strumenti integrati e completi per il debug, il controllo versioni, la rifattorizzazione e la generazione di test.

La semantica della differenziazione tra assistenti di AI Coding e agenti di AI può creare confusione. Quando si parla di strumenti di AI Coding, la terminologia è guidata tanto dal marketing quanto da caratteristiche e capacità distinte, ben definite e universalmente accettate.

L'aspetto più importante da notare è che questi concetti non si escludono a vicenda. Di fatto, il settore ha progressivamente confuso i due termini, al punto che a volte vengono usati in modo intercambiabile. Forse è molto utile intendere ognuno di essi come una descrizione di dimensioni diverse di uno strumento di AI Coding, piuttosto che come una descrizione di tipi separati di prodotti.

• L'assistente descrive il rapporto del prodotto con l'utente umano. È un termine informale, orientato all'UX, che definisce fondamentalmente la descrizione del lavoro dello strumento: usare l'AI per assistere un umano nei compiti di codifica. In teoria, questo potrebbe descrivere correttamente qualsiasi cosa, da un semplice strumento per il completamento del codice e altre semplici funzionalità basate sul completamento automatico a una suite end-to-end complessa e completa per l'ingegneria del software basata sull'AI.

• L'agente descrive l'architettura tecnica del prodotto. In breve, qualsiasi software che circonda un LLM con strumenti, ambienti, linee guida, guardrail e framework di ragionamento per pianificare ed eseguire autonomamente compiti di codifica potrebbe giustamente essere chiamato "Agente di AI Coding", nella misura in cui è un Agente AI progettato per compiti di codifica.

La maggior parte degli assistenti di codifica moderni costituiscono l'agentic AI: ricevono istruzioni in linguaggio naturale, quindi formulano i passaggi specifici necessari per eseguire tali istruzioni, eseguono comandi, valutano i risultati e iterano sull'output finale prima di presentarlo all'utente. È quindi generalmente accurato, a livello tecnico, usare entrambi i termini per descriverli.

In pratica, però, si userebbe in modo più appropriato il termine "Agente di AI Coding" (o semplicemente "agente di codifica") per descrivere un singolo agente, programmato per svolgere un compito o una responsabilità specifici. Ad esempio, un ingegnere del software potrebbe utilizzare un assistente di AI Coding per costruire un agente autonomo il cui scopo è inserire nuovi ticket Jira e risolvere in modo proattivo piccoli problemi. Potrebbe creare un altro agente per monitorare le modifiche alla base di codice e aggiornare la documentazione di conseguenza. In sostanza, questi agenti di codifica sarebbero creati e opererebbero all'interno del tuo assistente di codifica.

Sebbene ogni assistente di codifica sul mercato offra i propri workflow, logica, caratteristiche e aree di interesse uniche, un assistente di codifica generalmente comprenderà i seguenti componenti essenziali.

Un assistente di codifica deve avere un'interfaccia attraverso la quale l'utente possa interagire con esso. Quell'interfaccia può essere una semplice interfaccia a riga di comando (CLI) basata su testo o, nel caso degli assistenti basati su IDE, un'interfaccia grafica utente (GUI). Quest'ultima poteva includere sia una GUI dedicata per l'assistente di codifica sia un'estensione o un plugin all'interno dell'interfaccia grafica dell'IDE principale.

La scelta appropriata dipenderà solitamente da una combinazione tra il livello di competenza dell'utente, il caso d'uso, l'ambiente operativo e il budget dei token.

Assistenti basati su CLI come Bob Shell, Aider o Pi permettono agli sviluppatori di dirigere il proprio assistente di codifica dall'interno del terminale nativo della macchina (o dal terminale di terze parti preferito). Per gli ingegneri del software che lavorano principalmente tramite il terminale, questo offre l'esperienza più semplice, veloce, efficiente in termini di token e personalizzabile. Per gli assistenti alla codifica che devono operare in ambienti "headless" in cui le GUI (e gli schermi dei monitor, del resto) non sono disponibili, come i servizi di integrazione continua/distribuzione continua (CI/CD), gli strumenti basati su CLI sono spesso l'unica opzione.

Gli assistenti di codifica CLI forniscono un controllo più preciso su strumenti e processi, consentendo agli sviluppatori di scrivere esplicitamente i workflow invece di essere vincolati alle astrazioni e alla logica del workflow integrata di un IDE. L'output di un comando di sistema, di un test o di un workflow può essere inviato direttamente al successivo prompt di input dell'assistente AI, consentendo agli sviluppatori di concatenare i comandi senza problemi.

Gli assistenti basati su CLI richiedono competenze e conoscenze di sviluppo significativamente maggiori per essere utilizzati, tutti aspetti che li rendono una scelta inadatta per i principianti e per chi si avvicina al mondo della programmazione. Gli utenti devono essere a proprio agio nell'orientarsi in ambienti terminali, percorsi di file e altri elementi architettonici che di solito sono nascosti sotto astrazioni dell'interfaccia utente nell'informatica quotidiana. L'interfaccia utente essenziale esclude anche alcune delle funzionalità offerte dagli assistenti basati su IDE, come pulsanti inline, barre laterali della chat, recensioni in tempo reale o suggerimenti per il completamento del codice click-to-accept.

Gli assistenti di AI Coding basati su IDE offrono un'esperienza più robusta e user-friendly tramite una classica interfaccia grafica. Per gli sviluppatori che lavorano principalmente tramite un IDE o per i principianti che non conoscono i comandi terminali, gli strumenti basati su IDE offriranno un'esperienza più snella e a basso attrito.

Gli strumenti basati su IDE permettono un ambiente più ricco di funzionalità, poiché ci sono più modi e luoghi in cui opzioni e informazioni possono essere presentate e assimilate all'interno di una GUI tramite un cursore mobile e cliccabile. Ad esempio, la GUI di un assistente di codifica basato su IDE può fornire confronti di file affiancati e differenze in linea codificate a colori per comunicare chiaramente le modifiche proposte. Le barre laterali e i menu contestuali offrono l'opportunità di visualizzare suggerimenti di refactoring. L'assistente può rispondere in tempo reale alla posizione del cursore di testo e i suggerimenti di modifica contestuali possono essere accettati o rifiutati con un solo clic.

Questa funzionalità avviene a scapito del controllo e, in alcuni casi, dell'efficienza dei costi. Gli assistenti basati su IDE sono intrinsecamente più token-hungry rispetto ai loro corrispettivi basati su CLI, poiché un IDE deve costantemente inserire una vasta gamma di informazioni contestuali in ogni prompt che invia all'LLM dietro le quinte. Lavorare con l'insieme di astrazioni dell'IDE invece che con comandi espliciti è più accessibile e intuitivo per la maggior parte degli utenti, ma comporta un sacrificio nelle capacità di personalizzazione.

Gli LLM sono fondamentali per ogni assistente di AI Coding: l'assistente può forse essere meglio inteso come una struttura software che consente all'utente di estrarre le massime prestazioni e utilità da un LLM. La scelta di un LLM specifico da utilizzare è quindi una decisione architetturale essenziale per qualsiasi strumento di AI Coding.

Alcuni assistenti di codifica sono indipendenti dal modello, ma molti limitano l'utente a specifici LLM. Claude Code, ad esempio, opera esclusivamente tramite i modelli Claude di Anthropic. Cursor utilizza il suo modello proprietario "Composer" per la generazione del codice.

Nella maggior parte dei casi, un assistente di codifica basato su un approccio a modello unico è inefficiente sia dal punto di vista dei costi che della latenza: alcune attività richiedono la precisione e il ragionamento di un modello di frontiera di grandi dimensioni, ma molte altre sono meglio servite da un LLM più piccolo, più veloce e meno esigente in termini di token. IBM Bob, ad esempio, utilizza un'orchestrazione multi-modello che si basa su un mix di modelli proprietari di frontiera (incluso Claude), modelli Mistral open source e modelli IBM Granite, insieme a modelli specializzati di messa a punto per la sicurezza e la previsione delle modifiche successive. Bob indirizza ogni attività al modello più adatto: le attività semplici vanno ai modelli più leggeri, mentre la pianificazione centrale e le attività complesse vanno ai modelli più grandi.

La logica di ragionamento agentico è il modo in cui il "cervello" LLM dell'assistente alla codifica digerisce un macro obiettivo (come "capire perché l'accesso continua a bloccarsi sui dispositivi mobili") e lo scompone in fasi pratiche di esecuzione. Strategie di ragionamento diverse si prestano a diversi tipi di compiti: un assistente di codifica viene spesso programmato per implementare una varietà di strategie in base alle esigenze della richiesta dell'utente. 

Gli strumenti sono le "braccia e le gambe" di un assistente di codifica, che gli consentono di interagire con il suo ambiente e di fare molto di più che modificare o generare frammenti di codice isolati nel vuoto. Gli strumenti integrati comunemente offerti dai moderni assistenti di codifica consentono attività come:

• Estrarre informazioni pertinenti e intraprendere azioni all'interno di servizi esterni, come software di gestione delle attività, documentazione interna, database, calendari o altre applicazioni  

• Apportare modifiche precise e localizzate al codice di parti specifiche di un file invece di una riscrittura completa

• Eseguire comandi terminale e shell

• Eseguire verifiche di sicurezza

• Eseguire azioni basate su regole in scenari predefiniti

• Convalidare gli output (e applicare) le linee guida e i guardrail del sistema

Ad esempio, l'assistente di codifica potrebbe chiamare uno strumento integrato che esplora i canali Slack dell'organizzazione per trovare il contesto rilevante per il compito da svolgere. Informato da quel contesto, potrebbe richiedere un altro strumento per apportare una modifica chirurgica a un'area specifica del codice e un terzo strumento per generare ed eseguire un test unitario.

Le azioni che coinvolgono file system, database e servizi esterni sono generalmente mediate dai server MCP. L'emergere e la diffusione del Model Context Protocol (MCP), che fornisce uno standard universale per la comunicazione tra LLM e API esterne, ha aumentato in modo significativo la facilità di interoperabilità tra Code Assistant, gli LLM che li supportano e i numerosi servizi con cui devono interagire.

La funzione di questi strumenti è spesso identificare, recuperare e agire sul contesto essenziale per il compito che un assistente di codifica viene incaricato di svolgere, ma che non sarebbe stato incluso nei dati di addestramento di un LLM.

• Database vettoriali: un assistente alla codifica deve distinguere ripetutamente quale manciata di file, tra migliaia di documenti o milioni di righe di codice, contiene il contesto necessario per informare ogni fase di un'attività. Memorizzare i singoli file in un database di embedding vettoriali (rappresentazioni matematiche di ogni documento come un array di numeri) permette di identificare i documenti rilevanti tramite ricerca semantica. Il contesto dei file recuperati può quindi essere iniettato nel workflow dell'LLM tramite la Retrieval-augmented generation (RAG).

• File delle regole: invece di richiedere all'utente di fornire costantemente e ripetutamente una lista di istruzioni dettagliate per ogni compito, i code assistant di solito si affidano a file di regole, comeClaude.md file in Claude Code o regole personalizzate e modalità personalizzate in IBM Bob. Si tratta di file markdown standardizzati che dettano esplicitamente gli standard di codifica, i comportamenti desiderati e le considerazioni architettoniche per l'LLM.

• Memoria tra sessioni: gli LLM sono, per impostazione predefinita, stateless. Oltre la finestra contestuale della sessione corrente, un LLM non ha accesso alle informazioni delle sessioni precedenti. Gli assistenti alla codifica archiviano quindi i registri delle sessioni e le cache persistenti di metadati che consentono all'assistente di "ricordare" importanti aspetti, schemi, ostacoli (come i difetti del codice e le strategie di debug utilizzate per porvi rimedio) e le configurazioni di build specifiche del progetto. Questo è ciò che consente all'assistente di codifica di "apprendere" nel tempo.

La potente autonomia degli assistenti di codifica (e degli agenti di codifica che creano per implementare un compito) può essere un'arma a doppio taglio. Se non monitorato e non controllato, un assistente di codifica potrebbe potenzialmente attuare aggiornamenti di vasta portata che compromettono la funzionalità, espongono le credenziali e altri segreti o abilitano codici dannosi nei sistemi dell'organizzazione.

Gli assistenti di codifica di alta qualità facilitano quindi guardrail e schemi di checkpoint automatizzati per garantire che eventuali azioni conseguenti siano state esaminate e approvate da un umano prima di essere eseguite. IBM Bob, ad esempio, richiede di default il permesso umano per la maggior parte delle azioni: qualsiasi eccezione deve essere esplicitamente impostata come auto-approvazione dall'utente.

Molte impostazioni di configurazione degli assistenti di codifica permettono all'utente di allestire una sandbox per un determinato agente o un progetto, mantenendola contenuta in ambienti appositamente approvati per motivi di sicurezza o rilevanza. In IBM Bob, file e directory specifiche possono semplicemente essere aggiunti a un file .bobignore per impedire a Bob di interagire con essi. Quando utilizza la Bob Shell basata su CLI in cartelle che non sono state aggiunte a "cartelle attendibili", Bob viene eseguito in modalità sicura con restrizioni per ridurre al minimo le vulnerabilità.

Molti assistenti di codifica moderni offrono un checkpointing automatizzato, per facilitare la sperimentazione con modifiche al codice e un facile rollback degli aggiornamenti con conseguenze indesiderate.

Quando più agenti secondari (creati all'interno dell'assistente di codifica o costruiti altrove) sono stati impiegati per un determinato compito, la maggior parte degli assistenti di codifica utilizza il protocollo Agent2Agent (A2A) per coordinare la comunicazione tra di essi.

Per assistenti di codifica come Bob che utilizzano più LLM, un sistema di routing consapevole delle attività delega dinamicamente ogni compito secondario al modello appropriato in base alla complessità, alle esigenze computazionali e ai budget dei token.

Gli assistenti di AI Coding consentono una vasta gamma di schemi d'uso, dal vibe coding (guidato interamente dai prompt in linguaggio naturale e output dei modelli, con un coinvolgimento minimo con il codice stesso) all'agentic coding più deliberato e strategico (o ingegneria agentica).

Il vibe coding è generalmente appannaggio di utenti senza formazione o esperienza nello sviluppo software, molti dei quali non hanno una conoscenza di base anche di linguaggi di programmazione comuni come Python o JavaScript, o (per mano di sviluppatori più esperti) di sperimentazione e prototipazione. L'utente delega essenzialmente l'intero processo all'assistente di programmazione, evitando la maggior parte degli input manuali, delle revisioni e dei test oltre a qualsiasi istruzione e correzione fornita dalle istruzioni in linguaggio naturale dell'utente. Se i progetti in vibe coding devono essere utilizzati in scenari reali, occorre prestare molta attenzione per evitare problemi di qualità del codice o rischi per la sicurezza.

L'ingegneria agentica, al contrario, è più simile alla programmazione di abbinamento, in cui l'assistente di codifica è in realtà un assistente che lavora fianco allo sviluppatore (che guida attivamente il progetto e il codice) come un paio di mani e occhi in più. Questa pratica più sofisticata di agentic coding sblocca tutte le capacità e il potenziale degli assistenti di AI Coding, consentendo un uso più sostenibile e produttivo degli strumenti di codifica AI negli ambienti di produzione.