Danny Weber
Inženýři z OpenClaw varují: AI generování kódu bez dohledu vytváří nekvalitní a nebezpečný software. Firmy riskují technický dluh a bezpečnostní díry.
Dva inženýři zapojení do projektu OpenClaw, známého také jako „Lobster“, bijí na poplach: nástroje umělé inteligence sice mohou urychlit vývoj, zároveň ale dokážou vyrobit nekvalitní a potenciálně nebezpečný kód, který končí přímo v produkci. Jejich výhrada nesměřuje proti AI jako takové, ale proti tomu, jak rychle se na tyto nástroje firmy spoléhají bez dostatečného dohledu.
Mario Zekner, tvůrce interního agentního rámce Pi v rámci OpenClaw, tvrdí, že infrastruktura je už nyní pod obrovským tlakem a software je den ode dne zranitelnější. Podle něj může průmysl na chvíli přivírat oči, ale dříve či později za nahromaděné chyby zaplatí. Kolega inženýr Armin Ronacher dodává, že AI by měla pomáhat zkušeným vývojářům pracovat rychleji. Místo toho ji mnoho firem bere jako zkratku k okamžitým úsporám, přičemž obětují dlouhodobou kvalitu.
Skutečný problém spočívá v tom, že generování kódu není totéž co řádné inženýrství. AI dokáže rychle vyplivnout návrhy, standardní funkce a prototypy. Bez kontroly, testování a architektonického dohledu však takový kód často nadělá víc škody než užitku. Nejhorší případy nastávají, když vygenerované útržky putují rovnou do ostrých produktů – vynechávají se bezpečnostní prověrky, zátěžové testy, analýza kompatibility i plánování budoucí údržby.
Inženýři varují, že honba za krátkodobou produktivitou může vést k nedostatku juniorních talentů, narůstajícímu technickému dluhu, novým bezpečnostním děrám a častějším výpadkům služeb. Když firmy nahradí školení a růst vývojářů automatickým generováním kódu, získají sice okamžitou rychlost – ale ztratí stabilitu týmu a kvalitu produktu.
Wall Street Journal tento jev nazývá „vibe slop“ – směsí „vibe coding“, kdy vývoj stojí na rychlých promptech a hrubých výsledcích, a záplavy AI generovaného odpadu. Pro firmy z toho plyne jasné poselství: tyto nástroje mohou být mocnými pomocníky, ale nenahrazují potřebu solidních inženýrských postupů. Kritické systémy stále vyžadují zkušené vývojáře, code review, refactoring, testování a bezpečnostní audity.
Nakonec se čas ušetřený na začátku často promění ve větší náklady později. Pokud AI produkuje nekvalitní kód, skutečná cena vývoje se jen posouvá do budoucnosti – do oprav chyb, vyšetřování výpadků, záplatování zranitelností a obnovy důvěry uživatelů.
© RusPhotoBank