Santosh Praneeth Banda是开发者平台领域的高级技术领导者,他开创了加速软件交付和减少基础设施复杂性的方法。 通过专注于可扩展的开发者平台和强大的基础设施,Santosh的工作有助于帮助工程团队更快地迭代,而不会损害安全性和可靠性。 production-first, multi-tenant : 开发“生产速度”的软件听起来很理想,但也具有挑战性.在生产类似的环境中扩展软件开发的最大障碍是什么,您如何解决这些障碍? Interviewer 最大的挑战之一是,传统上,生产被视为测试新功能的风险太高。 在我的职业生涯早期,许多人认为,由于影响用户的风险,在现场系统中无法安全地测试大型应用程序(或任何复杂的代码)。 Santosh: production-scale data and compute 我第一次遇到这种情况;舞台环境只是无法模仿我们所需要的规模或现实,这减缓了我们的迭代。 超越了这些风险,我们设计了一个 这将实验与真实用户隔离,同时仍在真实环境中运行,我们利用服务网等技术来路由和 因此,即使我们“在生产中”,我们的测试是含量和安全的。 engineer our way multi-tenant, production-first testing model strict data isolation 这是不容易的;它需要深度的实验,说服利益相关者,并改变长期的习惯。一步一步,我们证明它可以起作用。 事实上,这种模式的成功激发了其他科技公司类似的做法,这段旅程教会了我,在规模化软件开发中“不可能”的东西往往可以通过技术的创造力、坚持和清晰的安全愿景来解决。 10× faster feedback loops Interviewer: How did your earlier infrastructure work influence your later innovations in developer platforms? 我的基础是大规模基础设施,确保系统能够高效扩展,容忍故障,并自动恢复。早期,我开发了优化数据库复制、故障容忍和分布在全球数据中心的基础设施。 Santosh:  构建开发者平台基于相同的原则。当系统可预测和恢复自动化时,开发者会更快地移动,因为他们信任该平台。从基础设施到开发者体验的过渡不是哲学的变化,而是延续。 Interviewer: Why move away from traditional staging environments? How does a multi-tenant, production-first workflow change the game for developer velocity and safety? 几十年来,表演环境一直是测试变化的实际方式 - 这是每个人都使用的,因为触摸生产是禁忌的。 你可能会花几天时间在舞台上进行测试,只有当你终于活着时才会遇到看不见的问题。 使用多租户隔离的工作流程,我们扭转了这个脚本。 Santosh: staging is often slow, brittle, and never truly identical to production production-first 在第一生产模型中,每个开发人员都可以在一 因为它是孤立的,它不会影响实际用户,但它就像实际产品一样行为. 对开发人员的速度的影响是戏剧性的:以前需要几天或需要完全发布的反馈现在在几分钟或几个小时内到来。 live system sandbox, 重要的是,这种方法也提高了安全性,因为你正在在现实环境中测试,所以在他们到达用户之前,你会发现一个舞台区域可能会错过的问题,如果测试中有什么不对劲的话,爆炸射线就包含在那个沙盒中。 相反,它是快速移动,不打破任何东西,因为你在负责地测试生产,它从根本上改变了软件的构建方式:开发人员花费更少的时间等待和更多的时间构建,同时相信如果它在测试沙盒中工作,它将为每个人工作。 without Interviewer: You often mention the importance of fast feedback loops and real-time observability. Why are these so critical in modern AI and software development? 快速反馈循环是创新生命的源泉,你越早知道变化是否奏效,模型是否表现良好,你就越快地可以重复和改进。 Santosh: 在我在一家大型社交网络公司期间,我亲眼目睹了即使是 当涉及到人工智能开发时,这尤其如此。你需要快速训练、调整和重新训练模型,你无法等待数周的时间来了解模型在现实环境中的行为。 small improvements in developer feedback loops 现在, 如果你要在生产附近进行测试,你必须对正在发生的一切有可见性。观察性工具和远程测量让我们监控实验,因为它们发生了。系统是用这些工具进行仪器化,以便每个测试运行,每个新模型部署,实时回流指标和痕迹。这样,如果出现异常或错误,我们会立即捕捉到它。它不仅为开发人员编写代码,而且为系统本身告诉我们如何行为创造了一个紧密的反馈循环。 real-time observability 在实践中,实时可观察性一直是我们的早期预警系统和我们的指南;它为开发人员提供了快速移动的信心,知道如果有什么东西关闭,我们会看到它,并可以立即响应。 他们将开发转化为工程师与现场系统之间的持续对话,这对于快速安全地构建复杂的人工智能系统至关重要。 fast feedback and observability work hand-in-hand Interviewer: Enabling safe, scalable experimentation at production scale requires the right infrastructure. What key architectural choices did you make to support this? 一个关键的决定是拥抱 我们从一开始就使用了Kubernetes来根据需求创建短期、孤立的环境,如果开发人员需要测试新的机器学习模型或服务更改,该平台将在几秒钟内提供该服务(以及任何依赖的组件)的集装实例。 在配置方面,但在数据和范围方面孤立。 Santosh: container orchestration replica of production 我们实施了基于背景的路由,基本上使用标识符(使用远程测量数据)来确保来自特定开发人员或会话的测试请求只被路由到该开发者的孤立实例。 它非常方便:它允许我们标记和跟踪请求,以便它们通过正确的途径流动,而不会流入主系统。 OpenTelemetry-based context propagation Data isolation was also non-negotiable. We made sure that any data generated during experiments was kept separate from real user data, often by using dummy accounts or separate databases for test runs, so even in a worst-case scenario, a rogue experiment could never affect live customer information. By combining these architectural choices—on-demand  ,多租户隔离,智能请求路由和严格的可观察性 - 我们创建了一个平台,在这个规模上可以安全地进行实验。 ephemeral environments 开发人员可以运行数以百计的实验,使用真实的工作负载,系统将自动处理编排和清理。 通过AI模型和新功能,因为基础设施有其背后,无论进行多少实验,都保持安全性和性能。 push the envelope Interviewer: What lessons have you learned from implementing these systems in large-scale engineering organizations? Any advice for teams looking to adopt production-first practices? 我学到的最伟大的教训之一是  In other words, the most impactful systems we built succeeded not because they were overly intricate, but because they  如果你想让数百名工程师采用一个新的平台或工作流程,它必须消除他们日常工作中的摩擦,我们专注于将缓慢的手动流程转化为快速的直观体验,当以前需要几分钟的时间,现在更容易完成的事情时,人们自然地接受它。 Santosh: scale doesn’t come from complexity; it comes from clarity. made life simpler for developers Another lesson is about people, not just technology. Driving a change like moving to production-first testing in a large org taught me the value of  我发现,成功来自于同情和耐心:倾听担忧,展示改进,并将变化与更好的质量和速度的共同愿景一致。 influence over authority 正如我经常说的那样,技术可能是逻辑的,但进步总是人类的。 目标应该是建立工具,系统,甚至团队,超过你。如果你创建的平台只有在你个人参与时才会工作,那么它不会扩展,但如果它使其他人能够做得更多,即使你离开,那就是真正的影响。 focus on leverage, not control Interviewer: Looking ahead, what are your thoughts on the future of developer platforms, especially as AI gets more integrated? How do you see AI influencing developer workflows and infrastructure? 我对事情的方向非常兴奋,我预料到  that seamlessly integrate AI at every level. We’re already seeing early signs – from AI-assisted coding to smart analytics in CI/CD – but I think it will go much further. In the future, your developer platform itself might have AI copilots working alongside you. Imagine an AI that can automatically configure your test environment, or suggest optimizations in your code and infrastructure based on patterns it has learned from thousands of deployments. AI could help analyze your experimental results in real time, flagging anomalies or performance regressions that a human might miss. Santosh: intelligent developer environments 基本上,软件开发和测试中的许多基础工作可以是 随着人工智能模型变得更加复杂和数据饥饿,这种整合也将是保持开发周期快速的关键。整个行业正朝着人工智能与开发人员操作的融合迈进;你可以看到,新工具正在出现,将机器学习嵌入监控,安全甚至编码过程中。 augmented by AI 我的目标是继续朝着这个方向前进:构建帮助开发人员的平台。 这是一个更广阔的转变,我很高兴成为推动实现这一目标的贡献者之一。最终,开发者平台的未来将是将人类开发者的创造力与人工智能驱动的自动化和洞察力结合在一起。 ship software at blistering speed

This story contains new, firsthand information uncovered by the writer.

該音頻是用故事的原始語言製作的！

以生产速度建设:多租户系统如何塑造软件交付

About Author

註釋

標籤

这篇文章刊登在

Related Stories

释放人工智能的力量。前沿技术的系统评价：摘要与介绍

数字游民请注意：您需要了解泰国新推出的 DTV 签证

点击赚钱：Telegram 可能会在 Solana 之前吸引下一个 100 亿加密用户

Claude Sonnet 3.5 系统提示泄漏：法医分析

释放人工智能的力量。前沿技术的系统评价：摘要与介绍

数字游民请注意：您需要了解泰国新推出的 DTV 签证

点击赚钱：Telegram 可能会在 Solana 之前吸引下一个 100 亿加密用户

Claude Sonnet 3.5 系统提示泄漏：法医分析

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps