Due ingegneri coinvolti nel progetto OpenClaw, noto anche come 'Lobster', hanno lanciato l'allarme: gli strumenti di IA possono accelerare lo sviluppo, ma possono anche sfornare codice di bassa qualità e potenzialmente pericoloso direttamente in produzione. La loro preoccupazione non è l'IA in sé, ma la velocità con cui le aziende fanno affidamento su questi strumenti senza un adeguato controllo.
Mario Zekner, il creatore di Pi, il framework interno per agenti di OpenClaw, afferma che l'infrastruttura è già sotto forte pressione e che il software diventa ogni giorno più vulnerabile. Aggiunge che l'industria potrebbe far finta di niente per un po', ma alla fine pagherà per gli errori accumulati. Il collega ingegnere Armin Ronacher sostiene che l'IA dovrebbe aiutare gli sviluppatori esperti a muoversi più velocemente. Invece, molte aziende la usano come una scorciatoia per risparmi immediati, sacrificando la qualità a lungo termine.
Il vero problema è che generare codice non è la stessa cosa che fare ingegneria vera e propria. L'IA può produrre rapidamente bozze, funzioni standard e prototipi. Ma senza revisione, test e supervisione architetturale, quel codice crea spesso più problemi di quanti ne risolva. I casi peggiori si verificano quando snippet generati finiscono direttamente in prodotti live, saltando controlli di sicurezza, test di carico, analisi di compatibilità e pianificazione della manutenzione futura.
Gli ingegneri avvertono che inseguire la produttività a breve termine potrebbe portare a una carenza di talenti junior, a un debito tecnico in crescita, a nuove falle di sicurezza e a guasti di servizio più frequenti. Quando le aziende sostituiscono la formazione e la crescita degli sviluppatori con la generazione automatizzata di codice, ottengono velocità immediata oggi, ma domani perdono stabilità del team e qualità del prodotto.
Il Wall Street Journal chiama questo fenomeno 'vibe slop' — un mix di 'vibe coding', dove lo sviluppo si basa su prompt rapidi e risultati approssimativi, e un'ondata di spazzatura generata dall'IA. Per le aziende, il messaggio è chiaro: questi strumenti possono essere potenti aiutanti, ma non eliminano la necessità di solide pratiche ingegneristiche. I sistemi critici richiedono ancora sviluppatori esperti, revisioni del codice, refactoring, test e audit di sicurezza.
Alla fine, il tempo risparmiato all'inizio si trasforma spesso in una spesa maggiore in seguito. Se l'IA produce codice di bassa qualità, il vero costo dello sviluppo viene semplicemente rinviato nel futuro, in bug fix, indagini su guasti, patch di vulnerabilità e ricostruzione della fiducia degli utenti.