An AI industry of more than $1 trillion that can’t ship any functional production code Una industria de IA de más de 1 billón de dólares que no puede enviar ningún código de producción funcional Si usted está preocupado por el llamado apocalipsis de la IA que todo el mundo sigue anhelando, considere esto: después de quemar cientos de miles de millones, todavía no podemos enviar código confiable con los juguetes de IA que nos vendieron. ) de (Vea aquí para más detalles sobre la explosión de la burbuja de la IA Cuenta los anuncios de “rebote”.Cuenta las promesas del CEO.Ahora cuenta la confusión: un aumento exponencial de código de basura, impulsado por la (No, no “hallucinaciones”, eso es marketing, no ciencia) que nadie realmente ha fijado. same four errors Luego caminaremos a través de ejemplos reales, verificables, para que puedas detectarlos instantáneamente en tu propio código generado por IA. ¿Realmente son tan decisivos? Naves abiertas Los mismos cuatro errores. Google se desvía Los mismos cuatro errores. Antropólogos desvelan Los mismos cuatro errores. Microsofto Vírgenes En todo —no hay sorpresa allí, ¿verdad? GPT-5 Gemini 2.5 Claude Sonnet 4.5 Copilot 
 
 Y en días, las historias se acumulan: código de spaghetti confundido, agujeros de seguridad frescos y la misma triste punchline: el código de IA parece inteligente, se comporta estúpido y todavía necesita a los humanos para limpiar el desorden. Y en días, las historias se acumulan: código de spaghetti confundido, agujeros de seguridad frescos y la misma triste punchline: el código de IA parece inteligente, se comporta estúpido y todavía necesita a los humanos para limpiar el desorden. Los números son dolorosamente asombrosos 
 
 
 
 
 El desempleo a corto plazo aumentó aproximadamente un 100% en comparación con 2021. Los desarrolladores que usan IA escriben un 40% más de vulnerabilidades de seguridad Los desarrolladores experimentados son un 19% más lentos con herramientas de IA Los ingenieros de un grupo seleccionado de empresas significativas rechazan alrededor del 70% de las sugerencias de código de IA. La rosa casi al 100% La rosa casi al 100% Un 40% más de vulnerabilidades Un 40% más de vulnerabilidades Un 19% más lento Un 19% más lento Con las herramientas El 70% rechazó El 70% rechazó Muchas empresas estaban apostando todo por la promesa de “productividad 10x”, una imposibilidad matemática que ahora está a punto de crear una crisis a diferencia de cualquier cosa que haya visto la industria del software. No estamos construyendo el futuro más rápido, estamos construyendo En una escala sin precedentes, con una confianza sin precedentes y una ceguera sin precedentes ante la catástrofe que estamos creando. Here’s what’s really happening: tomorrow’s minus two trillion dollars of code Te mostramos exactamente cómo estos están convirtiendo la base de código global en un desastre insostenible. Y si eres un ingeniero de software, prepárate, pronto tu carpeta de entrada estará inundada de correos electrónicos frenéticos de compañías que suplican a equipos de ingeniería completos para rescatar sus bases de código rotas. Four Horsemen of Bad Code Sí, verás por qué las empresas pronto serán Después de tomar el bastón de la La fantasía. desperately rehiring the same human programmers they replaced “No necesitaremos programadores en unos meses” “No necesitaremos programadores en unos meses” Los cuatro caballos montados en toneladas de código de basura Como se mencionó, los cuatro errores que ves en el gráfico de arriba ahora plagan la mayoría del código generado por la IA. Las empresas los están patching a plena velocidad, pero el desastre sólo se está retrasando. No a la automatización. autocomplete on steroids Para comprender la escala del desastre estos errores son desencadenantes, necesitamos clasificarlos en dos categorías. Todo el mundo sabe; los otros dos son , nacido de la mecánica de la propia IA, de las que nadie está hablando. Un buzzword inventado para el marketing, no para la ingeniería. classic statistical errors new cognitive errors “Hallucinaciones” Los dos errores clásicos que todos conocemos Type II Errors : The “Obvious” Mistakes La simple cosa se equivocó.El linternero rodó sus ojos. What it means (in code): # AI generates (wrong parameter use; forgot to apply discount)
def calculate_discount(price, customer_id, discount_rate):
    return price * discount_rate  # Oops—no discount applied

# Should have been
def calculate_discount(price, customer_id, discount_rate):
    return price * (1 - discount_rate)  # Apply the discount properly
 Otros ejemplos frecuentemente vistos en el código generado por AI incluyen: 
 
 
 
 
 
 Gestión de errores perdidos (blocos de prueba / captura) Operadores incorrectos (utilizando = en lugar de == en condiciones) Errores Off-By-One en los circuitos Nombres de método equivocados (string.contains() en Python en lugar de en el operador) Un largo etc. Type II Errors (Logic/Causal): Wrong Business Logic, Perfect Syntax Corre perfectamente; hace la cosa equivocada; o, para decirlo más vivamente, llega El encantador. What it means (in code): right on time… at the wrong station. Caso en punto – y puedes escalar esto a tu propio negocio: la IA notó que el 80% de los usuarios premium en sus datos de capacitación vivían en las principales ciudades, por lo que concluyó erróneamente que Determinación . city location shipping rates # AI generates (correlation != causation)
def determine_shipping_cost(user):
    # AI saw premium users often live in cities with free shipping
    if user.is_premium:
        return 0  # Free shipping for premium
    elif user.city in ['New York', 'Los Angeles']:
        return 0  # AI incorrectly learned cities get free shipping
    else:
        return 9.99

# Should have been based on actual business rules
def determine_shipping_cost(user, order_total):
    if order_total > 50 or user.is_premium:
        return 0
    return 9.99
 Los nuevos errores cognitivos de los que nadie habla Los siguientes dos errores son de naturaleza cognitiva. No los encontrarás en los manuales de probabilidad clásicos. Parecen ser nativos de los sistemas de IA, surgiendo de cómo los modelos modernos comprimen el significado y colgan los conceptos juntos durante el entrenamiento y la generación. Fracasan de diferentes maneras: uno como de las representaciones, el otro como En la forma en que los recuerdos son tratados y recordados. entanglement collisions Type III Errors (Spaghetti/Entanglement): When Everything Gets Tangled Esta es la primera verdadera confusión cognitiva.Las partes separadas del sistema terminan coladas juntas: ajuste un correo electrónico y los pagos se rompen; cambie auth, y el logging se extraña.Nada funciona aislado, por lo que cada pequeña corrección se convierte en un recorrido completo de la base de código.Es lo que sucede cuando la IA mezcla representaciones y te deja con una gigantesca bola de spaghetti arquitectónico. # AI generates - everything tangled together
def process_user_action(user, action_type, data):
    # User validation, logging, auth, payment, and email ALL mixed
    if not user.is_authenticated:
        log_event("auth_failed", user.id)
        send_email(user.email, "Login attempt failed")
        return False
    
    if action_type == "purchase":
        # Purchase logic mixed with user verification
        if user.email_verified and user.age > 18:
            payment = process_payment(data['amount'])
            log_event("purchase", user.id, payment.id)
            update_inventory(data['item_id'])
            send_email(user.email, "Purchase confirmed")
            update_user_points(user, data['amount'] * 10)
            check_fraud(payment)  # Why is fraud check AFTER payment?
            return payment
    
    elif action_type == "login":
        # Login mixed with analytics and recommendations
        update_last_login(user)
        log_event("login", user.id)
        recommendations = get_recommendations(user)  # Why here?
        send_email(user.email, "Welcome back!")  # Email on EVERY login?
        return {"success": True, "recommendations": recommendations}
 Summing up, you can’t: 
 
 
 
 
 Cambiar la lógica del correo electrónico sin afectar a los pagos Modificar la autenticación sin romper el registro Actualizar el flujo de compra sin tocar la verificación del usuario Probar cualquier componente en aislamiento Este error explica la Debe ser totalmente Porque es simplemente insostenible. 100% increase in code Reescrito en dos semanas Reescrito en dos semanas Type IV Errors (Memory / Collision Cascades): Unrelated behaviors share the same “address” Como se mencionó, no lo encontrarás en los manuales de probabilidad, pero es, de hecho, escondido en tu código generado por IA. 
 
 La simple imagen de este error: dos cascos en un pegado; uno cae cuando tomas el otro. La simple imagen de este error: dos cascos en un pegado; uno cae cuando tomas el otro. Aparece cuando las representaciones comprimidas ponen diferentes ideas demasiado cerca juntas. En el tiempo de ejecución, recordar uno despierta silenciosamente al otro. Usted reseta una contraseña, y las etiquetas de limpieza de la cuenta junto. Usted exporta los datos, y un pago extraviado se ejecuta. Nada parece roto en aislamiento, pero los efectos secundarios siguen resurgiendo porque el modelo almacena a los vecinos en el mismo cajero mental. # AI generates — password reset collides with account cleanup
def reset_password(user_email):
    user = find_user(email=user_email)
    if user:
        token = generate_reset_token()
        send_reset_email(user.email, token)
        
        # From a different flow, yet here we are
        if user.last_login < 30_days_ago:
            user.status = "inactive"
            cleanup_user_data(user)
        
        return token
    return None

# Another function unexpectedly handles payments
def export_user_data(user_id):
    data = get_user_data(user_id)
    
    # Payment processing in a data export—what could go wrong?
    if data.outstanding_balance > 0:
        process_payment(data.outstanding_balance)
    
    return create_export_file(data)
 Real-world echoes (reported in research): 
 
 
 
 
 Funciones de búsqueda que modifican los registros DB Flujos de Auth que desencadenan el análisis “Ver” los endpoints que exportan a los registros API que mezclan múltiples operaciones no relacionadas El objetivo de la corrección es claro: dar a los comportamientos espacios de nombres separados y límites explícitos, a continuación, orientar cualquier cosa estatal a través de un camino dedicado que puede probar por sí mismo. 
 
 Sí, lo sé, y también siento el dolor de haber reformulado algo que habíamos hecho manualmente antes y mejor. Sí, lo sé, y también siento el dolor de haber reformulado algo que habíamos hecho manualmente antes y mejor. ¿Cómo afectan estos errores al software de producción? El gráfico 3 de arriba muestra los errores más comunes reportados por los desarrolladores en todo el mundo y cómo se alinean con los cuatro tipos de errores (tres de los cuales son más importantes en la práctica). El gráfico 2 arriba y el gráfico 4 abajo muestran lo que realmente sucede cuando los desarrolladores traen a los asistentes de IA al flujo de trabajo. , Tipos I-II errores son principalmente capturados por humanos o herramientas. Usted obtiene un golpe de productividad modesto - tipos esbozado, importaciones fijas, el mantenimiento habitual. bueno, pero apenas una revolución. autocomplete on steroids Entonces ven - Spaghettization y colisiones semánticas. Es cuando las ruedas salen. Los conceptos se entrelazan en módulos, las responsabilidades se desvanecen y los ayudantes "inofensivos" comienzan a malinterpretar el significado. El resultado? código frágil que falla la integración, resiste la prueba y inflama los costos de mantenimiento. Muchos equipos finalmente aprenden que es más rápido - y más seguro - para arrancar las partes generadas por la IA que para patcharlas para siempre. Types III–IV Y, por supuesto, se puede ver claramente cómo el sueño de la “10× automatización” se ha enterrado, ha invertido completamente el ROI y nos recuerda que, a partir de 2025, la auténtica automatización de la generación de código, y cualquier aumento significativo de la productividad para los desarrolladores humanos, no son más que una lejana fantasía épica. Por lo tanto, para resumirlo: como desarrollador de software, no tienes que entrar en pánico cada vez que algún cartel de asesinato invade un nuevo aceite de serpiente “banda de código de IA.” Como muestra el gráfico 4 anterior, el único impacto real en el ROI es pequeño, y solo aparece cuando usas IA para las cosas aburridas y de bajo riesgo que son fáciles de difundir, pegar y volver. Pero no a . power-autocomplete robot engineer 
 
 
 
 
 
 Boilerplate / scaffolding: manejadores CRUD, DTOs, cables Adhesivo de prueba: stubs, pruebas de tabla, datos de fijación Ediciones mecánicas: refactores repetitivos; renombre/move ops Contenido ligero: docs/comments, regexes, SQL simple, plantillas de migración Mantenimiento de la casa: pistas de cinta/formato; config y snippets de YAML Aquí está la buena noticia para que cada desarrollador se sienta un poco desesperado: toda la fantasía de “10× con AI” ya está colapsando en la producción. para deshacer los espaguetes, arreglar la lógica y reconstruir los sistemas que realmente funcionan. Así que continúen nivelando sus habilidades. real programmers — lots of them — you’re on the call list. Notas postales Los lectores de nuestras historias pasadas ya saben que el antídoto existe. Pero, por supuesto, eso significaría ralentizar, reiniciar el sistema y admitir que el hype no es investigación.Se llevarán años, sin duda, si alguien pone los frenos y comienza a hacer más ciencia en silencio y menos marketing. a real mathematical cure for the four-error plague Una verdadera cura matemática para la plaga de cuatro errores

Keep Reading: The Real Tech Narrative continues here

Este audio es producido en el idioma original de la historia!

Las empresas pronto serán obligadas a reclutar a programadores humanos reales y dejar de quemar dinero en IA

About Author

COMENTARIOS

ETIQUETAS

ESTE ARTÍCULO FUE PRESENTADO EN

Related Stories

Las capas invisibles: por qué las entrevistas con los usuarios son un activo irremplazable

Crecimiento de las criptomonedas: creación de perfiles de usuarios eficaces

La fuga rápida del sistema Claude Sonnet 3.5: un análisis forense

¿Quieres ganar un concurso de redacción de HackerNoon? Esto es lo que recomiendan los ganadores del concurso #crypto-api

Las capas invisibles: por qué las entrevistas con los usuarios son un activo irremplazable

Crecimiento de las criptomonedas: creación de perfiles de usuarios eficaces

La fuga rápida del sistema Claude Sonnet 3.5: un análisis forense

¿Quieres ganar un concurso de redacción de HackerNoon? Esto es lo que recomiendan los ganadores del concurso #crypto-api

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps