An AI industry of more than $1 trillion that can’t ship any functional production code O industrie de AI de peste 1 trilion de dolari care nu poate trimite niciun cod de producție funcțional Dacă sunteți îngrijorat de așa-numita apocalipsă AI pe care toată lumea continuă să o sufere, luați în considerare acest lucru: după ce am ars sute de miliarde de dolari, încă nu putem livra cod fiabil cu jucăriile AI pe care le-am vândut. a) (Vezi aici pentru mai multe detalii despre explozia bulei AI Numărați anunțurile de „descoperire”. numărați promisiunile CEO. Acum numărați dezordinea: o creștere exponențială a codului de gunoi, condusă de (Nu, nu „halucinații”, asta este marketing, nu știință) pe care nimeni nu le-a fixat de fapt. same four errors Apoi vom merge prin exemple reale, verificabile, astfel încât să le puteți localiza instantaneu în propriul dvs. cod generat de AI. Sunt ele cu adevărat atât de decisive? Nave deschise Aceleaşi patru greşeli. Google se retrage Aceleaşi patru greşeli. Dezvăluiri antropice Aceleaşi patru greşeli. Microsoft se întoarce Totul se întâmplă, nu e nicio surpriză, nu? GPT-5 Gemini 2.5 Claude Sonnet 4.5 Copilot 
 
 Și în câteva zile, poveștile se acumulează: cod spaghetti încurcat, găuri de securitate proaspete și aceeași linie tristă - codul AI arată inteligent, se comportă prost și încă are nevoie de oameni pentru a curăța dezordinea. Și în câteva zile, poveștile se acumulează: cod spaghetti încurcat, găuri de securitate proaspete și aceeași linie tristă - codul AI arată inteligent, se comportă prost și încă are nevoie de oameni pentru a curăța dezordinea. Cifrele sunt dureroase 
 
 
 
 
 Churn pe termen scurt a crescut cu aproximativ 100% comparativ cu 2021. Dezvoltatorii care folosesc AI scriu cu 40% mai multe vulnerabilități de securitate Dezvoltatorii cu experiență sunt cu 19% mai încet cu instrumentele AI Inginerii dintr-un grup select de companii semnificative resping aproximativ 70% din sugestiile de cod AI. Trandafiri de aproape 100% Trandafiri de aproape 100% 40% mai multe vulnerabilități de securitate 40% mai multe vulnerabilități de securitate 19% mai puțin 19% mai puțin Cu ajutorul instrumentelor Refuzul este de aproximativ 70% Refuzul este de aproximativ 70% Multe companii au pariat totul pe promisiunea de „productivitate de 10 ori”, o imposibilitate matematică care este acum pe cale să creeze o criză, spre deosebire de orice industria software a văzut vreodată. Nu construim viitorul mai repede, construim La o scară fără precedent, cu încredere fără precedent şi o orbire fără precedent faţă de catastrofa pe care o creăm. Here’s what’s really happening: tomorrow’s minus two trillion dollars of code Vă voi arăta exact cum transformă codul global într-o catastrofă insuportabilă. Și dacă sunteți un inginer de software, pregătiți-vă, în curând cutia dvs. de corespondență va fi copleșită de e-mailuri frenetice de la companii care cer echipelor de inginerie complete să-și salveze bazele de coduri rupte. Four Horsemen of Bad Code Da, veți vedea de ce companiile vor fi După ce a luat butonul de la de fantezie. desperately rehiring the same human programmers they replaced “we won’t need programmers in a few months” „Nu vom avea nevoie de programatori în câteva luni” Cei patru călăreți călare pe tone de cod de gunoi După cum sa menționat, cele patru erori pe care le vedeți în graficul de mai sus plâng acum cea mai mare parte a codului generat de AI. Companiile le patchează la viteză maximă, dar dezastrul este doar întârziat. Nu cu automatizarea. autocomplete on steroids Pentru a înțelege amploarea dezastrului, aceste erori sunt dezlănțuitoare, trebuie să le clasificăm în două categorii. Toată lumea știe; următoarele două sunt , născut din mecanica AI în sine, despre care nimeni nu vorbește. , un cuvânt buzz inventat pentru marketing, nu inginerie. classic statistical errors new cognitive errors „Halucinații” Cele două greșeli clasice pe care toată lumea le știe Type II Errors : The “Obvious” Mistakes Ceea ce s-a întâmplat a fost greşit. „Linerul îşi roteşte ochii. What it means (in code): # AI generates (wrong parameter use; forgot to apply discount)
def calculate_discount(price, customer_id, discount_rate):
    return price * discount_rate  # Oops—no discount applied

# Should have been
def calculate_discount(price, customer_id, discount_rate):
    return price * (1 - discount_rate)  # Apply the discount properly
 Alte exemple frecvent văzute în codul generat de AI includ: 
 
 
 
 
 
 Gestionarea erorilor lipsă (blocuri de încercare / prindere) Operatori incorecți (utilizând = în loc de == în condiții) Erori off-by-one în circuite Numele metodelor greșite (string.contains() în Python în loc de în operator) O lungime etc. Type II Errors (Logic/Causal): Wrong Business Logic, Perfect Syntax Funcționează perfect; face lucrul greșit. sau, pentru a spune mai viu, vine cu farmec. What it means (in code): right on time… at the wrong station. Caz în punct - și puteți scala acest lucru la propria afacere: AI a observat că 80% dintre utilizatorii premium din datele sale de formare trăiau în orașele mari, deci a concluzionat în mod greșit că determină . city location shipping rates # AI generates (correlation != causation)
def determine_shipping_cost(user):
    # AI saw premium users often live in cities with free shipping
    if user.is_premium:
        return 0  # Free shipping for premium
    elif user.city in ['New York', 'Los Angeles']:
        return 0  # AI incorrectly learned cities get free shipping
    else:
        return 9.99

# Should have been based on actual business rules
def determine_shipping_cost(user, order_total):
    if order_total > 50 or user.is_premium:
        return 0
    return 9.99
 Cele două noi erori cognitive despre care nimeni nu vorbește Următoarele două erori sunt de natură cognitivă. Nu le veți găsi în manualele clasice de probabilitate. Ei par să fie nativi sistemelor AI, apărând din modul în care modelele moderne comprimă semnificația și lipesc conceptele împreună în timpul instruirii și generației. Ei eșuează în moduri diferite: unul ca de reprezentare, celălalt ca modul în care amintirile sunt abordate și amintite. entanglement collisions Type III Errors (Spaghetti/Entanglement): When Everything Gets Tangled Aceasta este prima adevărată confuzie cognitivă. părți separate ale sistemului ajung să fie lipite împreună: ajustați un e-mail și plățile se rupe; schimbați auth și înregistrarea se freacă. Nimic nu funcționează în izolare, așa că fiecare fixare mică se transformă într-o călătorie completă a bazei de cod. Asta se întâmplă atunci când AI amestecă reprezentări și vă lasă cu o minge uriașă de spaghete arhitecturale. # AI generates - everything tangled together
def process_user_action(user, action_type, data):
    # User validation, logging, auth, payment, and email ALL mixed
    if not user.is_authenticated:
        log_event("auth_failed", user.id)
        send_email(user.email, "Login attempt failed")
        return False
    
    if action_type == "purchase":
        # Purchase logic mixed with user verification
        if user.email_verified and user.age > 18:
            payment = process_payment(data['amount'])
            log_event("purchase", user.id, payment.id)
            update_inventory(data['item_id'])
            send_email(user.email, "Purchase confirmed")
            update_user_points(user, data['amount'] * 10)
            check_fraud(payment)  # Why is fraud check AFTER payment?
            return payment
    
    elif action_type == "login":
        # Login mixed with analytics and recommendations
        update_last_login(user)
        log_event("login", user.id)
        recommendations = get_recommendations(user)  # Why here?
        send_email(user.email, "Welcome back!")  # Email on EVERY login?
        return {"success": True, "recommendations": recommendations}
 Summing up, you can’t: 
 
 
 
 
 Modificarea logicii de e-mail fără a afecta plățile Modificați autentificarea fără a rupe logarea Actualizarea fluxului de cumpărare fără a atinge verificarea utilizatorului Testarea oricărei componente în izolare Această eroare explică Aceasta trebuie să fie complet Pentru că este pur și simplu insuportabil. 100% increase in code rewritten within 2 weeks Redescris în două săptămâni Type IV Errors (Memory / Collision Cascades): Unrelated behaviors share the same “address” Așa cum am menționat, nu o veți găsi în manuale de probabilitate, dar este, de fapt, ascuns în codul generat de AI. 
 
 Imaginea simplă a acestei greșeli: două haine pe o pătură; una cade când o iei pe cealaltă. Imaginea simplă a acestei greșeli: două haine pe o pătură; una cade când o iei pe cealaltă. Apare atunci când reprezentările comprimate pun idei diferite prea aproape unul de celălalt. La timpul de rulare, reamintirea unuia trezește în liniște pe celălalt. Resetați o parolă și etichetele de curățare a contului împreună. Exportați date, iar o plată rătăcită rulează. Nimic nu pare rupt în izolare, totuși efectele secundare continuă să reapare deoarece modelul a stocat vecinii în aceeași cutie mentală. # AI generates — password reset collides with account cleanup
def reset_password(user_email):
    user = find_user(email=user_email)
    if user:
        token = generate_reset_token()
        send_reset_email(user.email, token)
        
        # From a different flow, yet here we are
        if user.last_login < 30_days_ago:
            user.status = "inactive"
            cleanup_user_data(user)
        
        return token
    return None

# Another function unexpectedly handles payments
def export_user_data(user_id):
    data = get_user_data(user_id)
    
    # Payment processing in a data export—what could go wrong?
    if data.outstanding_balance > 0:
        process_payment(data.outstanding_balance)
    
    return create_export_file(data)
 Real-world echoes (reported in research): 
 
 
 
 
 Funcții de căutare care modifică înregistrările DB Fluxurile Auth care declanșează analiza „Vizualizare” punctele finale care exportă în jurnal API-uri care amestecă mai multe operațiuni nelegate Scopul corecției este clar: dați comportamentelor spații de nume separate și limite explicite, apoi direcționați orice static printr-un traseu dedicat pe care îl puteți testa pe cont propriu. 
 
 Da, știu, și simt și durerea de a fi reproiectat ceva pe care l-am făcut manual mai devreme și mai bine. Da, știu, și simt și durerea de a fi reproiectat ceva pe care l-am făcut manual mai devreme și mai bine. Cum afectează aceste erori software-ul de producție? Diagrama 3 de mai sus arată cele mai frecvente bug-uri raportate de dezvoltatori din întreaga lume și modul în care acestea se aliniază cu cele patru tipuri de erori (trei dintre care contează cel mai mult în practică). Diagrama 2 de mai sus și Diagrama 4 de mai jos arată ce se întâmplă cu adevărat atunci când dezvoltatorii aduc asistenți AI în fluxul de lucru. Erorile de tip I-II sunt în cea mai mare parte capturate de oameni sau de unelte. Veți obține o lovitură modestă de productivitate - tipurile sunt stricate, importurile sunt fixate, gospodăria obișnuită. autocomplete on steroids Apoi veniți — spaghettizarea și coliziunile semantice. Atunci când roțile se opresc. Concepte se agită în module, responsabilitățile se estompează și ajutoarele „inofensive” încep să denatureze semnificația. Rezultatul? Cod fragil care eșuează integrarea, rezistă testării și umflă costurile de întreținere. Multe echipe învață în cele din urmă că este mai rapid - și mai sigur - să rupă părțile generate de AI decât să le patcheze pentru totdeauna. Types III–IV Și, bineînțeles, puteți vedea în mod clar cum visul "10× automatizare" este îngropat, a inversat complet ROI-ul și ne amintește că, începând cu 2025, adevărata automatizare a generării de coduri și orice creștere semnificativă a productivității pentru dezvoltatorii umani, rămân nimic mai mult decât o fantezie îndepărtată, epică. Deci, pentru a rezuma: ca un dezvoltator de software, nu aveți nevoie să vă panicați de fiecare dată când un poster de dărâmare lovește un nou șarpe-ulei "pânză de cod AI".Așa cum arată graficul 4 de mai sus, singurul impact real al ROI este mic și apare numai atunci când utilizați AI pentru lucrurile plictisitoare, cu risc scăzut care sunt ușor de difuzat, înfășurat și răsucit. Nu a . power-autocomplete robot engineer 
 
 
 
 
 
 Boilerplate / scaffolding: manipulatoare CRUD, DTO, cabluri Testarea adezivului: tulpini, teste bazate pe masă, date de fixare Modificări mecanice: refactori repetitivi; renume/move ops Conținut ușor: docs/comentarii, regexe, SQL simplu, șabloane de migrare Îngrijirea casei: sugestii de bandă/format; config & YAML snippets Iată vestea bună pentru fiecare dezvoltator care se simte un pic fără speranță: întreaga fantezie „10× cu AI” se prăbușește deja în producție. pentru a dezasambla spaghete, a repara logica și a reconstrui sistemele care funcționează de fapt. Deci continuați să vă nivelarea abilitățile. Echipele de curățare se formează, și ghiciți ce, yup, real programmers — lots of them — you’re on the call list. Notă post Cititorii poveștilor noastre trecute știu deja că antidotul există – Dar, desigur, asta ar însemna încetinirea, reîncărcarea sistemului și recunoașterea faptului că hype-ul nu este cercetare. O adevărată vindecare matematică pentru ciuma cu patru greșeli O adevărată vindecare matematică pentru ciuma cu patru greșeli

Read My Stories

Acest audio este produs în limba originală a poveștii!

Companiile vor fi în curând forțate să recruteze programatori umani reali și să nu mai ardă bani pe AI

About Author

COMENTARII

Etichete suspendate

ACEST ARTICOL A FOST PREZENTAT IN

Related Stories

The #bitcoin Writing Contest by Rootstock and HackerNoon: Round 1 Results 🎉

Intel Stuns Employees By Cutting Free Office Fruit (And Staff)

The Robots Are Taking Over

The TechBeat: Apple Customers Return Vision Pro By The Droves (2/26/2024)

The #bitcoin Writing Contest by Rootstock and HackerNoon: Round 1 Results 🎉

Intel Stuns Employees By Cutting Free Office Fruit (And Staff)

The Robots Are Taking Over

The TechBeat: Apple Customers Return Vision Pro By The Droves (2/26/2024)

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps