AI AGENTICA E I LIMITI DEL SOFTWARE: QUANDO IL CODICE ESEGUE, L’AGENTE INTERPRETA E IL GIUDIZIO RESTA UMANO

Il software tradizionale esegue istruzioni esplicite, ma non comprende l’intenzione di chi le scrive. L’AI agentica prova a colmare quel divario pianificando, usando strumenti e correggendosi. Il limite però non scompare: si sposta dalla scrittura del codice alla fiducia in ciò che viene generato e alla sua verifica

In questo articolo si parla di:

Dal primo programma “Hello World”, scritto all’inizio degli anni Settanta da Brian Kernighan, informatico dei Bell Labs, il software ha mantenuto una caratteristica costante: fa esattamente ciò che gli viene scritto. È la sua forza e il suo limite. Un programma non sa che cosa intendessimo, conosce solo ciò che abbiamo formalizzato, e nello spazio tra le due cose si accumulano errori, arretrati di manutenzione e requisiti fraintesi.

Il divario tra istruzione e intenzione

Abhik Roychoudhury, professore alla National University of Singapore, osserva che l’ingegneria del software è molto più della programmazione e che la sua difficoltà centrale è decifrare l’intenzione di chi sviluppa. Nella sua ricostruzione degli ultimi cinquant’anni il settore ha vissuto due svolte vere. La prima, alla fine degli anni Novanta, è il Software as a Service, il modello in cui l’applicazione risiede in rete e viene erogata come servizio: cambiava il luogo in cui il software vive. La seconda è l’AI agentica, che cambia il modo in cui il software viene prodotto, perché ne automatizza in larga parte l’ingegneria stessa.

Dal suggerimento all’azione

Un assistente di completamento propone una riga di codice e attende. Un agente di intelligenza artificiale pianifica una sequenza di azioni, usa strumenti esterni come API e database e adatta il proprio comportamento in base al feedback. La documentazione di Google Cloud descrive gli agenti come singoli attrezzi di una cassetta e l’AI agentica come il loro uso coordinato per costruire un’intera casa. Nei sistemi multi-agente, come i flussi per la prototipazione di interfacce di cui abbiamo scritto sul blog, c’è perfino un agente critico che rivede il lavoro degli altri e innesca una nuova iterazione.

I nostri approfondimenti riportano effetti misurabili: una riduzione del tempo necessario per implementare nuove funzionalità intorno al 35% e del tasso di difetti vicino al 30% in contesti controllati. Il linguaggio naturale diventa l’interfaccia. È l’idea del vibe coding, espressione coniata nel febbraio 2025 da Andrej Karpathy, ricercatore tra i fondatori di OpenAI, che sposta l’attenzione dallo scrivere codice al descrivere un’intenzione.

“Definire i confini entro cui un agente può agire da solo e dove serve l’intervento umano, la cosiddetta governance degli agenti, diventa una competenza di progetto.”

Il limite si sposta, non scompare

Roychoudhury descrive il passaggio come quello dal programming in the large al programming with trust: più il codice si produce in fretta, più diventa centrale chiedersi se ci si possa fidare. Il limite non scompare, si sposta dalla scrittura del codice alla fiducia in ciò che viene generato. L’aumento del codice prodotto complica la verifica, e la sua integrazione con quello scritto da persone può introdurre errori sottili, come ricorda l’interruzione mondiale del 2024 causata da un difetto nel sistema di sicurezza di CrowdStrike, azienda di cybersicurezza.

Una risposta è usare gli agenti anche per controllare. AutoCodeRover, integrato in SonarQube, strumento che analizza qualità e sicurezza del codice, ripara i problemi segnalati cercando di ricavare dalla struttura del programma il comportamento atteso. Non si limita a superare i test: evita così correzioni che funzionano sui casi noti e falliscono altrove. Poter spiegare le proprie azioni è ciò che rende un agente utilizzabile in contesti più critici di quelli del vibe coding.

Resta il rovescio della velocità. Sul blog abbiamo parlato di “ipertrofia del codice”, cioè soluzioni funzionanti ma ridondanti e difficili da mantenere, e del rischio che il software diventi una scatola nera. Nel vibe coding lo sforzo si sposta dalla creazione alla convalida e al debug, in un ciclo di generazione, test e modifica che richiede di capire ciò che si è ottenuto.

Dallo scrittore al curatore

Il programmatore, allora, passa da scrittore a curatore critico. Definire i confini entro cui un agente può agire da solo e dove serve l’intervento umano, la cosiddetta governance degli agenti, diventa una competenza di progetto. Ritorna così il tema che attraversa molti nostri pezzi, il rapporto tra automazione e comprensione. Delegare la produzione non significa delegare la responsabilità: l’agente colma una parte della distanza tra istruzione e intenzione, ma chi legge, verifica e decide che cosa vale la pena tenere resta una persona.

Altri argomenti che ti potrebbero interessare

Advanced Intelligence Digital Innovation Industry & Tech Job_post newsletter Skills Availability The Science Lapse

Author: Claudia Sistelli

© Riproduzione Riservata

Rispondi


Investech Blog è la piattaforma di riferimento dell’azienda Investech Spa per comunicare con i nostri utenti ed avere feedback importanti per mettere a punto strategie sempre migliori, fornire informazioni utili sul nostro lavoro e su quello che riguarda la tecnologia e la scienza.

Contatti

Scrivici

Telefono: +39 0645650030