企业AI倡议往往遵循一个可预测的模式,它们以雄心勃勃的目标推出:“我们需要AI代理人,他们可以自动化工作流程,与我们的系统集成,并执行复杂的业务逻辑。 然后实施的现实就出现了。 几个月过去了,团队在与基础设施挑战作斗争,而不是专注于情报,问题不是人工智能缺乏能力,而是组织在构建基础设施时陷入困境,而不是快速地将解决方案推向市场。 大多数企业团队陷入了无休止的集成工作周期,他们编写了自定义代码来连接API,合并服务,调试脆弱的工作流程,并使一切变得更大。 为什么企业AI会陷入僵局 了解为什么有前途的AI倡议停滞不前,需要研究从概念到生产时出现的根本挑战。 它代表了最重要的瓶颈之一,在纸上看起来很简单 - 连接到现有的企业系统 - 成为数字考古学的练习,每个系统都以不同的方式沟通,使用独特的身份验证方案,并对数据流动有不同的想法。 API integration complexity 在某些情况下,API需要调整,需要增强的文档或将其转换为MCP,以便人工智能系统能够了解如何有效地使用它们。 开发和维护企业工作流程、规则和决策树需要产品经理、分析师和开发人员密切合作,将高级别的业务要求转化为可执行的代码,处理例外,并确保系统一致性需要大量努力。 Building business logic requires significant resources 复杂的人工智能系统面临持续挑战 多步进程涉及各种服务之间的互动,但传统的企业系统对这些工作流提供了有限的见解。 Workflow orchestration visibility 在面对人工智能工作负载时暴露传统企业架构的局限性。生产系统需要处理突然的峰值 - 导致数千次同时发出警报的市场事件,或批量工作同时处理数百万份记录。 Scaling requirements 当团队意识到他们需要全面的审计路径,访问控制和合规性监测时,这些考虑往往会出现后期考虑,这不仅在技术上具有挑战性,而且在安全团队、法律部门和合规性官员之间需要协调。 Governance and compliance 企业今天如何解决这个问题 组织通常采取几种方法之一来应对这些基础设施挑战,每一种都有不同的妥协。 这种方法提供了完整的控制和与特定组织需求的完美匹配,但通常消耗整个工程团队数月。 Custom development 技术上更复杂的组织通常会选择强大的消息传输平台,如 , ,或 这些是经过验证的,战斗测试的系统,能够处理巨大的量和复杂的路由模式。 卡夫卡 兔子 NATS 挑战在于,他们正在构建块,而不是完整的解决方案。组织仍然需要重塑管制逻辑、合规监测、代理管理和全面的可观性工具。 每个方法都解决了整体挑战的部分问题,但没有一个解决方案可以让团队主要关注人工智能逻辑,而不是基础设施的复杂性。 代理信息平台 第三种(我认为最好的)选择是使用一个专门构建的代理消息平台,这将企业消息功能与AI代理所需的编排层相结合。 . integrates intelligence and workflow automation directly into the messaging foundation 该方法提供了几个关键能力: 
 
 
 
 业务逻辑可以用自然语言编写,并自动转换为可执行的工作流程。 可以上传API文档,包括全面的规范文档,以生成可用工具,代理可以立即消耗。 原始 API 的复杂性被抽象化,使其成为跨多个工作流程的可重复使用的构建块,然后可以使用这些工具组装复杂的流程,具有内置的并行性和可观察性,所有这些流程都运行在生产环境中经过验证的消息基础设施上。 专门构建的代理消息平台是完美的解决方案,可保持企业可靠性和安全性要求,同时能够实现现代商业环境所需的开发速度。 实践中的代理信息 让我们看看这一切是如何工作的一个例子,我们将看看一个代理消息工具, KubeMQ-Aiway 将工具、API、代理和流程整合到一个代理消息平台中。 工具和 API 首先是工具和API。工具仪表板允许团队注册任何服务API(例如,专有系统,合作伙伴服务,SaaS/市场源)。 火,实时 feed 或合规服务,并直接监控使用情况。平台支持同步请求/回复和流连接,所有这些连接都通过底层经纪人进行管理。 CoreBanking MarketData 代理人 Aiway 的代理面板显示了 AI 驱动的组件如何连接到工具中,每个代理都可以通过: 
 
 
 
 
 底层模型(如 GPT-5, Sonnet 4.1) 定义其作用的自然语言提示(“您是我们银行的股票交易代理......”) 灵活的消息传递模式,允许单个代理同时以不同的方式协调多个工具,例如,同一个代理可以将投资组合更新请求列在一个风险分析服务的队列中,同时还可以将实时市场数据流到监控工具中 - 所有这些都是从提示中提供的指示中编制的。 链接工具它可以在执行过程中调用 这种能力对于企业工作流程尤为重要,其中一个代理经常需要在不同系统中管理不同的通信模式,而不是在多个代理或硬编码集成中分担责任,团队可以在单个提示中定义丰富的多工具行为。 结果是更紧密的协调,更少的分裂,更容易的维护 - 同时仍然提供完整的透明度和可审计的合规性。 流动 该 乐队可以视觉设计连接API和代理的序列。 也许: Flow Editor TradingAgent 
 
 
 
 
 通过请求 / 回复从 CoreBanking 提取账户余额。 使用CustomerKYC服务验证KYC,使用缓存检查。 通过 pub/sub 通过 ComplianceAgent 进行合规性验证。 向客户更新通知服务提前结果。 所有这些都通过拖动和连接节点进行配置,由消息保证(队列, Pub / sub,流)支持。视觉界面清楚地表明数据如何流动,而消息背骨确保它永远不会丢失。 监测,成本控制和分析 艾维的 仪表板提供整个系统的操作、性能和成本的见解: Analytics 
 
 
 
 
 消息量(例如,每日交易量为 2.4M) 响应时间(例如,平均延迟43ms) 系统健康(如 99.9% 可用时间) 成本控制指标,包括每代理和每工具的使用跟踪,允许企业监控API调用量,模型消耗量和基础设施负载,这种可见性有助于团队预测成本,识别成本重大的工作流程,并在必要时优化,而不会损害可靠性。 随着深 在代理协调和系统行为方面,企业可以从端到端追踪消息流,识别分布式服务中的瓶颈,并深入探究代理执行细节。 observability 对于企业团队来说,可观察性和成本透明度往往是缺少的环节。 By using an agentic messaging platform to unify these capabilities in one platform, we can shorten mean time to detect and resolve issues, prevent cost overruns, and give stakeholders the confidence that large-scale AI operations remain both sustainable and accountable. 使用案例示例:AI指数基金选择 让我们看看一个代理消息平台如何工作的例子。 假设银行希望为客户提供一个超越静态编程检查的AI驱动过滤服务,客户可能会提出更广泛的问题,例如: 我应该考虑哪个S&P 500指数基金?或目前可用的是哪些机器人型基金? 与其取代财务顾问或提供处方建议,IndexAgent通过将大量资金缩小为一个过滤的,排名列表,最符合其声明的偏好,投资组合和风险配置,来帮助客户。 该代理商为何选择某些选项提供了明确的解释,同时仍然要求客户做出最终决定. 该服务通过简化复杂的基金选择,以可理解的短期清单,以实时数据,投资组合对齐和合规性检查为基础,增加了价值。 设置所需的工具 银行将其关键服务的API规格上传到 tab. 每个工具分别注册: Tools 
 
 
 
 
 
 
 
 MarketData提供实时报价,差额和组成部分,因此代理人总是与最新的市场背景合作。 PortfolioService 提供当前持股和风险,允许与客户组合一致的个性化过滤。 RiskProfile提供适用性和风险容忍信息,以确保短期清单结果符合客户的个人资料。 CustomerKYC检查资格和居留规则,防止客户无法合法访问的选项。 BenchmarksAPI将基金绘制为基准指数,支持跨家庭的比较,如S&P 500或以行业为重点的指数。 NotificationService直接向客户端或应用程序交付短信和合理性等输出。 可选地,如果客户后来选择下订单,可以添加执行经纪 API,将短列结果连接到交易执行。 设置主代理(索引代理) IndexAgent 提示是写的,以协调所有这些工具,并确保流程保持合规性和可解释性。 你是一个 您的工作是将一大批指数基金/ETF 缩小为一个过滤的、排名的短期清单,符合客户声明的意图、投资组合和风险配置。 指数 除非客户明确同意,否则不要下订单。 当客户端请求通过 [Pattern:Queue:advisor.requests] 到达时,开始新的咨询会话,并用 advisor_session_id 和 customer_id 标记所有消息。 从 [Tool:MarketData] 通过 [Pattern:Stream:prices] 提取候选资金的实时价格、差价、ADV 和组成部分。 从 [Tool:PortfolioService] 通过 [Pattern:Request/Reply] 获取控股、行业曝光和浓度限制。 查找风险范围和适用性限制从 [工具:RiskProfile] 通过 [模式:请求/回复]。 通过 [Pattern:Cache:5min] 验证产品资格和限制。 查询索引家庭和基金到基准地图地图从 [工具:基准API] 通过 [模式:请求/回复)。 根据支出比率、流动性(ADV/差距)、跟踪错误、多样化(前10个重量级)、历史推移、税收效率以及适合投资组合和风险限制的候选人得分。 通过 [Pattern:Pub/Sub:compliance] 向 [Agent:ComplianceAgent] 发布合规性摘要以进行审查。 如果客户点击BUY,发出一个命令意图事件,并通过 [Pattern:Queue:trading.orders]进行执行。 此单个代理提示示范了多种工具、子代理和不同的消息模式如何在一个凝聚力的流中统一。 IndexAgent 协调 MarketData、PortfolioService、RiskProfile、CustomerKYC 和 BenchmarksAPI,同时也以子代理形式发布给 ComplianceAgent。 这凸显了银行如何利用代理基础设施不仅可以回答像W这样的一般问题。 但也处理具体的行业请求,如 S&P 500指数基金我应该考虑吗? 向我展示指数基金跟随机器人行业。 在这两种情况下,IndexAgent将选项的世界缩小为一个清晰、合规的短期清单,让客户控制最终的决定。 集成代理在消息平台顶部的力量 整合方法改变了企业AI部署的基本经济学,当消息传递和编排层一起设计时,通常需要几个月的开发时间的整合问题将被消除。 组织将继续使用各种方法 - 一些基于Kafka或RabbitMQ,同时在顶部层构造和合规工具,其他人则倾向于整合平台,将代理工作流与经过验证的消息传递基础设施相结合。 KubeMQ 这样的平台具有 Kubernetes 原生架构,在现代云基础设施中自然运作,消除复杂的桥梁配置,经常引入故障点。 底层原则是根本的:代理人工智能需要企业信息传递作为核心。没有强大的消息传递基础设施,人工智能代理无法在企业规模上可靠地协调。 结论 企业人工智能的成功日益取决于快速部署可靠、可观察和可扩展的代理系统的能力,人工智能的智能能力在很大程度上已经确立,挑战在于使它们在企业环境中可靠地工作。 随着企业从概念验证到生产人工智能的过渡,成功将不太取决于代理能力,更取决于这些系统如何可靠和高效地在规模上部署。 首先建立有效的人工智能基础设施的基础设施的组织将获得显著的竞争优势,而那些不会发现自己正在重建基础设施,而竞争对手正在部署工作的人工智能解决方案。 真的有个美好的一天!

2022 - HackerNoon Contributor of the Year - Cloud Computing

2022 - HackerNoon Contributor of the Year - Design

2022 - HackerNoon Contributor of the Year - Heroku

2022 - HackerNoon Contributor of the Year - Javascript

2022 - HackerNoon Contributor of the Year - Salesforce

2022 - Hackernoons Tech Storyteller of the Year

I ♥ writing code. Find me on GitLab.

Nominated for 2022 - HackerNoon Contributor of the Year - Javascript

Nominated for 2022 - Hackernoons Tech Storyteller of the Year

Nominated for 2022 - HackerNoon Contributor of the Year - Cloud Computing

Nominated for 2022 - HackerNoon Contributor of the Year - Heroku

Nominated for 2022 - HackerNoon Contributor of the Year - Design

Nominated for 2022 - HackerNoon Contributor of the Year - Salesforce

該音頻是用故事的原始語言製作的！

太長; 讀書

隐藏的基础设施陷阱阻止企业AI

隐藏的基础设施陷阱阻止企业AI

About Author

註釋

標籤

这篇文章刊登在

Related Stories

看不见的层面：为什么用户访谈是不可替代的资产

Telegram：加密岛通往大陆的桥梁

架构师指南：构建 AI/ML 数据湖参考架构

想赢得 HackerNoon 写作比赛吗？以下是 #crypto-api 比赛获奖者的推荐

看不见的层面：为什么用户访谈是不可替代的资产

Telegram：加密岛通往大陆的桥梁

架构师指南：构建 AI/ML 数据湖参考架构

想赢得 HackerNoon 写作比赛吗？以下是 #crypto-api 比赛获奖者的推荐

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps