An AI industry of more than $1 trillion that can’t ship any functional production code 一个超过1万亿美元的AI行业无法发送任何功能生产代码 如果你担心所谓的AI终结,每个人都一直在渴望,考虑一下:在烧掉数十亿美元之后,我们仍然无法与我们出售的AI玩具一起提供可靠的代码。 (一) (请参阅这里有关人工智能泡沫爆炸的更多细节 数出“突破”的公告,数出首席执行官的承诺,现在数出混乱:垃圾代码的指数激增。 (不,不是“幻觉”,那就是营销,不是科学)没有人真正修复过。 same four errors 然后,我们将通过真实的,可验证的示例,这样你就可以在你自己的AI生成的代码中立即发现它们。 他们真的这么决定性吗?是的。 开放的船只 相同的四个错误 谷歌滚出 相同的四个错误 人类揭示 相同的四个错误 微软网络 一切都在那里 - 没有惊喜,对吧? GPT-5 Gemini 2.5 Claude Sonnet 4.5 Copilot 
 
 每一次发射都带有AGI的粉丝们,几天后,故事就会累积起来:混乱的香蕉代码,新鲜的安全漏洞和同样悲伤的打击线 - 人工智能代码看起来很聪明,行为很愚蠢,仍然需要人类来清理混乱。 每一次发射都带有AGI的粉丝们,几天后,故事就会累积起来:混乱的香蕉代码,新鲜的安全漏洞和同样悲伤的打击线 - 人工智能代码看起来很聪明,行为很愚蠢,仍然需要人类来清理混乱。 数字是痛苦的震撼 
 
 
 
 
 短期支出比2021年增加了大约100%。 使用人工智能的开发人员编写了40%更多的安全漏洞 经验丰富的开发人员使用人工智能工具 19% 更慢 一些大公司的工程师拒绝了大约70%的AI代码建议。 玫瑰花百分之百 玫瑰花百分之百 百分之四十的安全漏洞 百分之四十的安全漏洞 19% 更慢 19% 更慢 AI 工具 拒绝约70% 拒绝约70% 许多公司都在投注“10倍生产率”的承诺,这是一个数学不可能的可能性,现在正准备创造一个危机,与软件行业所见过的任何事情不同。 我们不是在建设更快的未来,我们正在建设 以前所未有的规模,以前所未有的信心,以前所未有的盲目看待我们正在创造的灾难。 Here’s what’s really happening: tomorrow’s minus two trillion dollars of code 让我告诉你,这些 正在把全球代码库变成一个无法维持的灾难。 如果你是一个软件工程师,准备好,你的收件箱很快就会充满来自公司恳求完整的工程团队来拯救他们破碎的代码库的狂热电子邮件。 Four Horsemen of Bad Code 是的,你会看到为什么公司很快就会 然后,在接收了该 幻想 desperately rehiring the same human programmers they replaced “我们不需要程序员几个月后” “我们不需要程序员几个月后” 四匹马骑着大量垃圾代码 正如上面提到的,你在上面的图表中看到的四个错误现在困扰了大多数AI生成的代码。公司正在以完全的速度修补它们,但灾难只是被推迟了。 不是自动化。 autocomplete on steroids 要了解这些错误的破坏程度,我们需要将它们分为两类。 大家都知道,接下来的两 ,生于AI本身的机械学,没有人谈论这些,两组仍然被懒惰地标记为 ,一个为营销而发明的口号,而不是工程。 classic statistical errors new cognitive errors “幻觉” 经典的两个错误每个人都知道 Type II Errors : The “Obvious” Mistakes 简单的东西错了,灯塔的眼睛滚动了。 What it means (in code): # AI generates (wrong parameter use; forgot to apply discount)
def calculate_discount(price, customer_id, discount_rate):
    return price * discount_rate  # Oops—no discount applied

# Should have been
def calculate_discount(price, customer_id, discount_rate):
    return price * (1 - discount_rate)  # Apply the discount properly
 AI生成的代码中常见的其他例子包括: 
 
 
 
 
 
 错误处理(试用/捕捉块) 错误的操作员(在条件中使用 =而不是 ==) 环节中的一个错误 错误的方法名称(在Python中,而不是在操作员中) 长度等 Type II Errors (Logic/Causal): Wrong Business Logic, Perfect Syntax 运行完美;做错事;或者说更生动地说,它到来。 魅力 What it means (in code): right on time… at the wrong station. 案例 - 您可以将此扩展到自己的业务:AI注意到其培训数据中的高级用户的80%生活在主要城市,因此错误地得出结论 决定 . city location shipping rates # AI generates (correlation != causation)
def determine_shipping_cost(user):
    # AI saw premium users often live in cities with free shipping
    if user.is_premium:
        return 0  # Free shipping for premium
    elif user.city in ['New York', 'Los Angeles']:
        return 0  # AI incorrectly learned cities get free shipping
    else:
        return 9.99

# Should have been based on actual business rules
def determine_shipping_cost(user, order_total):
    if order_total > 50 or user.is_premium:
        return 0
    return 9.99
 新的两种认知错误没有人谈论 接下来的两个错误是认知性质的,你不会在经典的概率教科书中找到它们,它们似乎是AI系统的本土,从现代模型如何压缩含义和在训练和生成过程中粘合概念中产生出来。 代表性,另一个作为 记忆是如何被提及和回忆的。 entanglement collisions Type III Errors (Spaghetti/Entanglement): When Everything Gets Tangled 这是第一个真正的认知混乱。系统的单独部分最终粘合在一起:调整电子邮件,并打破付款;更改auth,并登录吓坏了。 # AI generates - everything tangled together
def process_user_action(user, action_type, data):
    # User validation, logging, auth, payment, and email ALL mixed
    if not user.is_authenticated:
        log_event("auth_failed", user.id)
        send_email(user.email, "Login attempt failed")
        return False
    
    if action_type == "purchase":
        # Purchase logic mixed with user verification
        if user.email_verified and user.age > 18:
            payment = process_payment(data['amount'])
            log_event("purchase", user.id, payment.id)
            update_inventory(data['item_id'])
            send_email(user.email, "Purchase confirmed")
            update_user_points(user, data['amount'] * 10)
            check_fraud(payment)  # Why is fraud check AFTER payment?
            return payment
    
    elif action_type == "login":
        # Login mixed with analytics and recommendations
        update_last_login(user)
        log_event("login", user.id)
        recommendations = get_recommendations(user)  # Why here?
        send_email(user.email, "Welcome back!")  # Email on EVERY login?
        return {"success": True, "recommendations": recommendations}
 Summing up, you can’t: 
 
 
 
 
 更改电子邮件逻辑而不会影响付款 更改身份验证而不打破日志 更新购买流程而不触及用户验证 在隔离中测试任何组件 这个错误解释了 这必须是完全 因为它只是无法维持的。 100% increase in code 两周内重写 两周内重写 Type IV Errors (Memory / Collision Cascades): Unrelated behaviors share the same “address” 正如你所提到的,你不会在概率教科书中找到它,但它实际上是在你的AI生成的代码中隐藏。 
 
 这个错误的简单图像:一根夹克上有两个夹克;当你拿起另一根夹克时,一个会掉下来。 这个错误的简单图像:一根夹克上有两个夹克;当你拿起另一根夹克时,一个会掉下来。 它出现时,压缩的表示把不同的想法太接近在一起. 在运行时,回忆一个静静地唤醒另一个. 你重置一个密码,和帐户清理标签一起。 # AI generates — password reset collides with account cleanup
def reset_password(user_email):
    user = find_user(email=user_email)
    if user:
        token = generate_reset_token()
        send_reset_email(user.email, token)
        
        # From a different flow, yet here we are
        if user.last_login < 30_days_ago:
            user.status = "inactive"
            cleanup_user_data(user)
        
        return token
    return None

# Another function unexpectedly handles payments
def export_user_data(user_id):
    data = get_user_data(user_id)
    
    # Payment processing in a data export—what could go wrong?
    if data.outstanding_balance > 0:
        process_payment(data.outstanding_balance)
    
    return create_export_file(data)
 Real-world echoes (reported in research): 
 
 
 
 
 修改 DB 记录的搜索函数 启动分析的Auth流 “查看”端点将导出到日志 混合多个无关操作的API 修复的目标是明确的:给行为单独的名称空间和明确的界限,然后通过专门的路径路由任何国家,您可以自行测试。 
 
 是的,我知道,而且我也感觉到重新处理我们早些时候和更好地手动做的事情的痛苦。 是的,我知道,而且我也感觉到重新处理我们早些时候和更好地手动做的事情的痛苦。 这些错误如何影响生产软件? 上图3显示了全球开发人员报告的最常见错误,以及它们如何与四种错误类型(其中三种在实践中最重要)相匹配。 上图2和下图4显示,当开发人员将人工智能助理纳入工作流时,实际发生了什么。 , I-II 类型的错误主要是由人类或工具捕获的. 你得到一个温和的生产力冲击 - 台式压缩,进口固定,通常的家务. 不错,但几乎没有革命。 autocomplete on steroids 然后来 这是轮子出现时。概念在模块上混乱,责任模糊,“无害”的助手开始误导意义。结果? Brittle 代码失败了整合,抵御了测试,并增加了维护成本。 Types III–IV 当然,你可以清楚地看到“10×自动化”的梦想是如何被埋葬的,它彻底扭转了回报率,并提醒我们,到2025年,真正的代码生成自动化,以及人类开发人员的任何显著生产力提高,都只不过是遥远的,史诗般的幻想。 因此,要总结一下:作为一个软件开发人员,你不需要每当某些命运海报浪费一个新的蛇油“AI代码棒”时,恐慌。 不是 a . power-autocomplete robot engineer 
 
 
 
 
 
 锅炉板 / 轴承: CRUD 处理器, DTOs, 电线 测试粘合物:,表驱动测试,固定数据 机械编辑:重复性反反应器;重命名/移动操作 轻量级内容: docs/comments、regexes、简单的SQL、迁移模板 家务: 线条/格式提示; config 和 YAML 片段 对于每个开发人员来说,这是一个好消息:整个“10×与AI”的幻想已经在生产中崩溃。 解开蜘蛛,修复逻辑,重建实际工作的系统,所以继续提高你的技能水平。 real programmers — lots of them — you’re on the call list. 后备注 我們過去的故事的讀者已經知道抗毒存在── 但是,当然,这意味着放缓,重新连接系统,并承认这不是研究,毫无疑问,如果有人放下刹车,开始在沉默中做更多的科学和减少营销,这将需要几年时间。 对四错瘟疫的真正数学疗法 对四错瘟疫的真正数学疗法

Read My Stories

該音頻是用故事的原始語言製作的！

公司将很快被迫重新招募真正的人类程序员,停止在AI上燃烧现金

About Author

註釋

標籤

这篇文章刊登在

Related Stories

HackerNoon Decoded: The Top 10 Countries Where HackerNoon Is the Most Active

数字游民请注意：您需要了解泰国新推出的 DTV 签证

架构师指南：构建 AI/ML 数据湖参考架构

创建以用户为中心的加密产品：客户反馈的重要性

HackerNoon Decoded: The Top 10 Countries Where HackerNoon Is the Most Active

数字游民请注意：您需要了解泰国新推出的 DTV 签证

架构师指南：构建 AI/ML 数据湖参考架构

创建以用户为中心的加密产品：客户反馈的重要性

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps