An AI industry of more than $1 trillion that can’t ship any functional production code Una indústria d'IA de més d'un bilió de dòlars que no pot enviar cap codi de producció funcional Si estàs preocupat per l'anomenat apocalipsi de la IA que tothom continua plorant, pensa en això: després de cremar centenars de milers de milions, encara no podem enviar codi fiable amb les joguines d'IA que ens van vendre. a) El (Veure aquí per a més detalls sobre l'esclat de la bombolla d'IA Compta les promeses del CEO. Ara compta el desordre: una pujada exponencial de codi d'escombraries, impulsada per la (No, no hi ha “hallucinacions”, això és màrqueting, no ciència) que ningú hagi fixat. same four errors Després anirem a través d'exemples reals i verificables, de manera que podeu trobar-los instantàniament en el vostre propi codi generat per la IA. Realment són tan decisius? Els vaixells oberts Els mateixos quatre errors. Google torna a sortir Els mateixos quatre errors. Antropòlegs desconeguts Els mateixos quatre errors. Microsoft en veu alta En tot, no hi ha cap sorpresa, oi? GPT-5 Gemini 2.5 Claude Sonnet 4.5 Copilot 
 
 I en pocs dies, les històries s'acumulen: codis d'espagueti confusos, forats de seguretat frescos i la mateixa trista punxada: el codi d'IA sembla intel·ligent, es comporta estúpid i encara necessita humans per netejar el desordre. I en pocs dies, les històries s'acumulen: codis d'espagueti confusos, forats de seguretat frescos i la mateixa trista punxada: el codi d'IA sembla intel·ligent, es comporta estúpid i encara necessita humans per netejar el desordre. Els números són dolorosament esgarrifosos 
 
 
 
 
 El crèdit a curt termini va augmentar aproximadament un 100% respecte al 2021. Els desenvolupadors que utilitzen IA escriuen un 40% més de vulnerabilitats de seguretat Els desenvolupadors experimentats són un 19% més lents amb les eines d'IA Els enginyers d'un grup seleccionat d'empreses significatives rebutgen al voltant del 70% de les suggerències de codi d'IA. La rosa al 100% La rosa al 100% Un 40% més de vulnerabilitats de seguretat Un 40% més de vulnerabilitats de seguretat 19% més ràpid 19% més ràpid Amb les eines Aproximadament el 70% Aproximadament el 70% Moltes empreses estaven apostant tot sobre la promesa de “10x productivitat”, una impossibilitat matemàtica que ara està a punt de crear una crisi a diferència de qualsevol cosa que la indústria del programari hagi vist mai. No estem construint el futur més ràpid, estem construint A una escala sense precedents, amb una confiança sense precedents i una ceguesa sense precedents per la catàstrofe que estem creant. Here’s what’s really happening: tomorrow’s minus two trillion dollars of code Deixeu-me mostrar-vos com aquests Estem convertint la base de codi global en un desastre insostenible. I si vostè és un enginyer de programari, estigui preparat, aviat la seva bústia estarà inundada amb correus electrònics fràgils de les empreses que suplicen que els equips d'enginyeria complets per rescatar les seves bases de codi trencades. Four Horsemen of Bad Code Ja veuràs per què aviat les empreses Després de prendre el bat de la La fantasia. desperately rehiring the same human programmers they replaced “we won’t need programmers in a few months” "No necessitarem programadors d'aquí a uns mesos" Els quatre cavallers a cavall sobre tones de codi d'escombraries Com es va esmentar, els quatre errors que veus en el gràfic anterior ara plagen la majoria del codi generat per la IA. Les empreses els estan patxant a la seva màxima velocitat, però el desastre només està sent retardat. No és una automatització. autocomplete on steroids Per entendre l'escala de la devastació aquests errors són desencadenants, hem de classificar-los en dues categories. Tots sabem que els dos últims , nascut de la mecànica de la pròpia IA, de les quals ningú parla. , una paraula inventada per al màrqueting, no per a l'enginyeria. classic statistical errors new cognitive errors “Al·lucinacions” Els dos errors clàssics que tothom coneix Type II Errors : The “Obvious” Mistakes La cosa senzilla va anar malament.El llamp va rodar els ulls. What it means (in code): # AI generates (wrong parameter use; forgot to apply discount)
def calculate_discount(price, customer_id, discount_rate):
    return price * discount_rate  # Oops—no discount applied

# Should have been
def calculate_discount(price, customer_id, discount_rate):
    return price * (1 - discount_rate)  # Apply the discount properly
 Altres exemples que es veuen freqüentment en el codi generat per AI inclouen: 
 
 
 
 
 
 Gestió d'errors perduts (blocs de prova / captura) Operadors incorrectes (utilitzant = en lloc de == en condicions) Errors off-by-one en els circuits Noms de mètodes equivocats (string.contains() en Python en comptes d'operador) Un llarg etc. Type II Errors (Logic/Causal): Wrong Business Logic, Perfect Syntax Corre perfectament; fa la cosa equivocada; o, per dir-ho amb més claredat, arriba El encant. What it means (in code): right on time… at the wrong station. Cas en punt - i podeu escalar això al vostre propi negoci: l'IA va notar que el 80% dels usuaris premium en les seves dades de formació vivien a les grans ciutats, de manera que va concloure erròniament que Determinació . city location shipping rates # AI generates (correlation != causation)
def determine_shipping_cost(user):
    # AI saw premium users often live in cities with free shipping
    if user.is_premium:
        return 0  # Free shipping for premium
    elif user.city in ['New York', 'Los Angeles']:
        return 0  # AI incorrectly learned cities get free shipping
    else:
        return 9.99

# Should have been based on actual business rules
def determine_shipping_cost(user, order_total):
    if order_total > 50 or user.is_premium:
        return 0
    return 9.99
 Els dos nous errors cognitius que ningú parla Els següents dos errors són de naturalesa cognitiva. No els trobaràs en els llibres de text clàssics de probabilitat. Semblen ser nadius als sistemes d'IA, sorgint de com els models moderns comprimeixen el significat i enganxen els conceptes junts durant l'entrenament i la generació. Falten de diferents maneres: un com de les representacions, l’altre com Com es recorden i es recorden les memòries. entanglement collisions Type III Errors (Spaghetti/Entanglement): When Everything Gets Tangled Aquesta és la primera veritable confusió cognitiva. parts separades del sistema acaben enganxades: ajusteu un correu electrònic i es trenquen els pagaments; canvieu auth, i el registre s'esvaeix. Res funciona aïllat, de manera que cada petita correcció es converteix en un recorregut complet de la base de codi. És el que passa quan la IA barreja representacions i et deixa amb una bola gegantina d'espagueti arquitectònic. # AI generates - everything tangled together
def process_user_action(user, action_type, data):
    # User validation, logging, auth, payment, and email ALL mixed
    if not user.is_authenticated:
        log_event("auth_failed", user.id)
        send_email(user.email, "Login attempt failed")
        return False
    
    if action_type == "purchase":
        # Purchase logic mixed with user verification
        if user.email_verified and user.age > 18:
            payment = process_payment(data['amount'])
            log_event("purchase", user.id, payment.id)
            update_inventory(data['item_id'])
            send_email(user.email, "Purchase confirmed")
            update_user_points(user, data['amount'] * 10)
            check_fraud(payment)  # Why is fraud check AFTER payment?
            return payment
    
    elif action_type == "login":
        # Login mixed with analytics and recommendations
        update_last_login(user)
        log_event("login", user.id)
        recommendations = get_recommendations(user)  # Why here?
        send_email(user.email, "Welcome back!")  # Email on EVERY login?
        return {"success": True, "recommendations": recommendations}
 Summing up, you can’t: 
 
 
 
 
 Canviar la lògica del correu electrònic sense afectar els pagaments Modificar l'autenticació sense trencar el registre Actualitzar el flux de compra sense tocar la verificació de l'usuari Provar qualsevol component en aïllament Aquest error explica la Ha de ser totalment Perquè és simplement insostenible. 100% increase in code rewritten within 2 weeks Reescriure en dues setmanes Type IV Errors (Memory / Collision Cascades): Unrelated behaviors share the same “address” Com es va esmentar, no el trobareu en els manuals de probabilitat, però és, de fet, amagat en el vostre codi generat per la IA. 
 
 La simple imatge d'aquest error: dos vestits en un pegat; un cau quan agafes l'altre. La simple imatge d'aquest error: dos vestits en un pegat; un cau quan agafes l'altre. Apareix quan les representacions comprimides col·loquen idees diferents massa a prop. En el temps d'execució, recordar un silenciosament desperta l'altre. Resetant una contrasenya, i etiquetes de neteja de compte al llarg. Exportar dades, i un pagament estrany s'executa. Res sembla trencat aïllat, però els efectes secundaris segueixen ressorgint perquè el model emmagatzema veïns en el mateix armari mental. # AI generates — password reset collides with account cleanup
def reset_password(user_email):
    user = find_user(email=user_email)
    if user:
        token = generate_reset_token()
        send_reset_email(user.email, token)
        
        # From a different flow, yet here we are
        if user.last_login < 30_days_ago:
            user.status = "inactive"
            cleanup_user_data(user)
        
        return token
    return None

# Another function unexpectedly handles payments
def export_user_data(user_id):
    data = get_user_data(user_id)
    
    # Payment processing in a data export—what could go wrong?
    if data.outstanding_balance > 0:
        process_payment(data.outstanding_balance)
    
    return create_export_file(data)
 Real-world echoes (reported in research): 
 
 
 
 
 Funcions de cerca que modifiquen els registres DB Fluxos d'Auth que desencadenen l'anàlisi "Veure" els terminis que exporten a registres API que barregen múltiples operacions no relacionades L'objectiu de la correcció és clar: donar als comportaments espais de noms separats i límits explícits, a continuació, redirigir qualsevol cosa estatal a través d'un camí dedicat que es pot provar per si mateix. 
 
 Sí, ho sé, i també sento el dolor d’haver reelaborat alguna cosa que havíem fet manualment abans i millor. Sí, ho sé, i també sento el dolor d’haver reelaborat alguna cosa que havíem fet manualment abans i millor. Com afecten aquests errors el programari de producció? El gràfic 3 anterior mostra els errors més comuns reportats pels desenvolupadors de tot el món i com s'alineen amb els quatre tipus d'error (tres dels quals són els més importants en la pràctica). El gràfic 2 anterior i el gràfic 4 següent mostren el que realment passa quan els desenvolupadors porten els assistents d'IA al flux de treball. , Tipus d'errors I-II són majoritàriament atrapats per humans o eines. Vostè rep una productivitat modesta colpejar - tipos espatllat, les importacions fixades, l'ús habitual de la llar. autocomplete on steroids Després veniu — spaghetitització i col·lisions semàntiques. És quan surten les rodes. Els conceptes es desplacen a través dels mòduls, les responsabilitats es buiden i els ajudants “innocents” comencen a malinterpretar el significat. El resultat? Codi fràgil que fracassa en la integració, resisteix a les proves i infla els costos de manteniment. Molts equips acaben aprenent que és més ràpid - i més segur - esborrar les parts generades per la IA que retallar-les per sempre. Types III–IV I, per descomptat, es pot veure clarament com s'enterra el somni de l'automatització de 10x, que ha invertit completament el ROI i ens recorda que, a partir del 2025, la veritable automatització de la generació de codi, i qualsevol augment significatiu de la productivitat per als desenvolupadors humans, no són més que una llunyana fantasia èpica. Així que, per resumir-ho: com a desenvolupador de programari, no necessiteu pànic cada vegada que algun cartell de condemna bufa un nou oli de serp "banda de codi d'IA." Com mostra el gràfic 4 anterior, l'únic cop real de ROI és petit, i només apareix quan utilitzeu l'IA per a les coses avorrites i de baix risc que són fàcils de difondre, lintar i tornar. No és a . power-autocomplete robot engineer 
 
 
 
 
 
 Boilerplate / scaffolding: manejadors CRUD, DTOs, filferro Adhesions de prova: punys, proves guiades per taula, dades de fixació Edicions mecàniques: refactors repetitius; renom/move ops Contingut lleuger: documents/comentaris, regexes, SQL simple, plantilles de migració Manteniment de l'habitatge: pistes de lint/format; config i fragments de YAML Aquí hi ha la bona notícia per a cada desenvolupador que se sent una mica desesperat: tota la fantasia “10× amb AI” ja està col·lapsant en la producció. per deslligar les espaguetes, corregir la lògica i reconstruir els sistemes que realment funcionen. Així que segueix nivellant les teves habilitats. real programmers — lots of them — you’re on the call list. Notes postals Els lectors de les nostres històries passades ja saben que l’antídot existeix. Però, per descomptat, això significaria ralentitzar, redirigir el sistema, i admetre que l'hipe no és investigació. Una veritable cura matemàtica per a la plaga dels quatre errors Una veritable cura matemàtica per a la plaga dels quatre errors

Read My Stories

Aquest àudio és produït a l'idioma original de la història!

Les empreses aviat seran obligades a reclutar programadors humans reals i deixar de cremar diners en IA

About Author

COMENTARIS

Etiquetes penjant

AQUEST ARTICLE VA SER PRESENTAT A

Related Stories

Startups of The Year: Meet the Emerging Tech Industry

On Taxes

Startups of The Year: Meet the Business Industry

Startups of The Year: Meet the AI Industry

Startups of The Year: Meet the Emerging Tech Industry

On Taxes

Startups of The Year: Meet the Business Industry

Startups of The Year: Meet the AI Industry

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps