การสร้างที่ความเร็วในการผลิต: ระบบ Multi-Tenant จะสร้างการส่งมอบซอฟต์แวร์ได้อย่างไร

Santosh Praneeth Banda เป็นผู้นําด้านเทคนิคชั้นนําในพื้นที่แพลตฟอร์มนักพัฒนาซึ่งเป็นผู้นําในการเร่งการส่งมอบซอฟต์แวร์และลดความซับซ้อนของโครงสร้างพื้นฐาน architectures that replace slow, fragile staging environments with safe, real-time testing in live systems. By focusing on scalable developer platforms and robust infrastructure, Santosh’s work has helped empower engineering teams to iterate faster without compromising safety or reliability. In this expert Q&A, Santosh Praneeth Banda, shares how innovations in isolation, orchestration, and observability are redefining how software — and the teams behind it — operate at scale. production-first, multi-tenant : การพัฒนาซอฟต์แวร์ "ที่ความเร็วในการผลิต" เสียงเหมาะ แต่ยังเป็นความท้าทาย สิ่งที่เป็นอุปสรรคที่ใหญ่ที่สุดในการพัฒนาซอฟต์แวร์ในสภาพแวดล้อมที่คล้ายกับการผลิตและวิธีที่คุณได้แก้ไขพวกเขา Interviewer หนึ่งในความท้าทายที่ยิ่งใหญ่ที่สุดคือการผลิตแบบดั้งเดิมได้รับการพิจารณาว่าเป็นความเสี่ยงเกินไปสําหรับการทดสอบคุณสมบัติใหม่ การพัฒนาซอฟต์แวร์ที่ทันสมัยโดยเฉพาะอย่างยิ่งต้องการ เพื่อยืนยันประสิทธิภาพอย่างแท้จริง แต่การใช้สภาพแวดล้อมสดสําหรับการทดลองเป็นเวลานานพิจารณาว่าไม่มีขีด จํากัด ในช่วงต้นของอาชีพของฉันหลายคนเชื่อว่ามันเป็นไปไม่ได้ที่จะทดสอบแอปพลิเคชันขนาดใหญ่ (หรือโค้ดที่ซับซ้อน) ในระบบสดเนื่องจากความเสี่ยงที่จะส่งผลกระทบต่อผู้ใช้ Santosh: production-scale data and compute ฉันพบกับสิ่งนี้จากมือแรก; สภาพแวดล้อมการจัดนิทรรศการไม่สามารถจําลองขนาดหรือความจริงที่ที่เราต้องการและที่ชะลอการทําซ้ําของเรา จุดมุ่งเน้นคือการตระหนักว่าเราสามารถ ผ่านความเสี่ยงเหล่านี้ เราออกแบบ a ซึ่งแยกการทดลองจากผู้ใช้จริงในขณะที่ยังคงทํางานในสภาพแวดล้อมจริง เราใช้เทคโนโลยีเช่นเครือข่ายบริการสําหรับการนําทางการจราจรและ เพื่อแม้ว่าเราจะ "อยู่ในการผลิต" การทดสอบของเราจะถูกเก็บไว้และปลอดภัย engineer our way multi-tenant, production-first testing model strict data isolation มันไม่ได้เป็นเรื่องง่าย มันต้องใช้การทดลองอย่างลึกซึ้งเชื่อมั่นผู้มีส่วนร่วมและเปลี่ยนนิสัยที่เก็บไว้เป็นเวลานาน ขั้นตอนตามขั้นตอนเราพิสูจน์ให้เห็นว่ามันสามารถทํางานได้ โดยการเริ่มต้นขนาดเล็กบังคับใช้การป้องกันความปลอดภัยที่แข็งแกร่งและมีความโปร่งใสเกี่ยวกับผลลัพธ์เราได้สร้างความไว้วางใจในวิธีการนี้ ในตอนท้ายเราเห็นถึงลําดับของความปลอดภัย ในความเป็นจริงความสําเร็จของรุ่นนี้สร้างแรงบันดาลใจให้กับวิธีการที่คล้ายกันใน บริษัท เทคโนโลยีอื่น ๆ การเดินทางนั้นสอนให้ฉันว่าสิ่งที่รู้สึกว่า“ ไม่สามารถ” ในการพัฒนาซอฟต์แวร์ขนาดใหญ่มักจะสามารถแก้ไขได้ด้วยความคิดสร้างสรรค์ทางเทคนิคความอดทนและวิสัยทัศน์ที่ชัดเจนเกี่ยวกับความปลอดภัย 10× faster feedback loops Interviewer: How did your earlier infrastructure work influence your later innovations in developer platforms? โครงสร้างพื้นฐานของฉันคือโครงสร้างพื้นฐานขนาดใหญ่เพื่อให้มั่นใจได้ว่าระบบสามารถปรับขนาดได้อย่างมีประสิทธิภาพทนต่อความล้มเหลวและการกู้คืนโดยอัตโนมัติ ในตอนแรกฉันได้ทํางานบนโครงสร้างพื้นฐานที่เพิ่มประสิทธิภาพการทําซ้ําฐานข้อมูลความอดทนต่อความล้มเหลวและการกระจายความสม่ําเสมอในศูนย์ข้อมูลทั่วโลก ประสบการณ์เหล่านี้ได้สอนฉันว่าความยืดหยุ่นและความสามารถในการทํางานมีความสัมพันธ์อย่างใกล้ชิดกับผลผลิตของผู้พัฒนา Santosh: การสร้างแพลตฟอร์มนักพัฒนาขึ้นอยู่กับหลักการเดียวกัน เมื่อระบบสามารถคาดการณ์ได้และการกู้คืนจะอัตโนมัตินักพัฒนาจะเคลื่อนไหวเร็วขึ้นเนื่องจากพวกเขาไว้วางใจในแพลตฟอร์ม การเปลี่ยนแปลงจากโครงสร้างพื้นฐานไปสู่ประสบการณ์นักพัฒนาไม่ได้เป็นการเปลี่ยนแปลงในปรัชญา แต่ก็เป็นการต่อเนื่อง ทั้งสองต้องการการออกแบบเพื่อขนาดความปลอดภัยและความชัดเจน Interviewer: Why move away from traditional staging environments? How does a multi-tenant, production-first workflow change the game for developer velocity and safety? For decades, staging environments were the de facto way to test changes – it’s what everyone used because touching production was taboo. The problem is that คุณอาจใช้เวลาหลายวันในการทดสอบในการจัดนิทรรศการเท่านั้นเพื่อสัมผัสกับปัญหาที่มองไม่เห็นเมื่อคุณเข้าสู่ชีวิตโดยการเปลี่ยนไปสู่ workflow with multi-tenant isolation, we flipped that script. Santosh: staging is often slow, brittle, and never truly identical to production production-first ในรูปแบบการผลิตครั้งแรกผู้พัฒนาแต่ละคนสามารถทดสอบการเปลี่ยนแปลงของพวกเขาใน เป็นส่วนหนึ่งของสภาพแวดล้อมการผลิตที่แท้จริง เนื่องจากเป็นส่วนหนึ่งจึงไม่ส่งผลกระทบต่อผู้ใช้ที่แท้จริง แต่ก็พฤติกรรมเหมือนผลิตภัณฑ์ที่แท้จริง ผลกระทบต่อความเร็วของนักพัฒนาเป็นที่น่าทึ่ง: ความคิดเห็นที่ใช้เวลาหลายวันหรือต้องการการเปิดตัวเต็มรูปแบบมาในไม่กี่นาทีหรือชั่วโมง นักวิศวกรสามารถยืนยันว่ารหัสของพวกเขาทํางานอย่างไรภายใต้เงื่อนไขที่แท้จริงทันทีซึ่งจะช่วยลดวงจรการเปิดตัวและเพิ่มความมั่นใจ live system sandbox, สิ่งสําคัญคือวิธีการนี้ยังช่วยเพิ่มความปลอดภัย เนื่องจากคุณกําลังทดสอบในสภาพแวดล้อมที่แท้จริงคุณจะจับปัญหาที่พื้นที่จัดงานอาจพลาดก่อนที่พวกเขาเข้าถึงผู้ใช้ และถ้าบางอย่างผิดพลาดในการทดสอบเส้นผ่าศูนย์กลางการระเบิดจะถูกเก็บไว้ใน sandbox ในประสบการณ์ของฉันการย้ายไปยังกระบวนการทํางานประเภทนี้ตั้งมาตรฐานใหม่สําหรับการเชื่อถือได้ เราสามารถนําเสนอคุณสมบัติได้เร็วขึ้น ความคิด "เคลื่อนไหวได้อย่างรวดเร็วและทําลายสิ่งต่างๆ" แทนนั้นมันเคลื่อนไหวได้อย่างรวดเร็วและไม่ทําลายอะไรเพราะคุณกําลังทดสอบในการผลิตอย่างรับผิดชอบ มันเปลี่ยนแปลงพื้นฐานวิธีที่ซอฟต์แวร์ถูกสร้างขึ้น: นักพัฒนาใช้เวลาการรอคอยน้อยลงและเวลาในการสร้างมากขึ้นทั้งหมดในขณะที่เชื่อว่าถ้ามันทํางานในกล่องทรายทดสอบมันจะทํางานในการผลิตสําหรับทุกคน without Interviewer: You often mention the importance of fast feedback loops and real-time observability. Why are these so critical in modern AI and software development? วงจรการตอบสนองที่รวดเร็วเป็นหลักการของนวัตกรรม เร็วกว่าคุณจะรู้ว่าการเปลี่ยนแปลงทํางานหรือรูปแบบทํางานได้ดีขึ้นคุณจะสามารถทําซ้ําและปรับปรุงได้เร็วขึ้น ฉันได้เรียนรู้บทเรียนนี้ในช่วงต้น Santosh: ในช่วงเวลาของฉันที่ บริษัท เครือข่ายสังคมขนาดใหญ่ฉันเห็นด้วยมือแรกว่าแม้ นําไปสู่การเพิ่มประสิทธิภาพอย่างมากในหลายพันวิศวกร เมื่อมันมาถึงการพัฒนา AI นี้เป็นความจริงโดยเฉพาะอย่างยิ่ง คุณต้องฝึกอบรมปรับแต่งและฝึกอบรมใหม่แบบจําลองอย่างรวดเร็วและคุณไม่สามารถใช้เวลาหลายสัปดาห์เพื่อค้นหาพฤติกรรมของรุ่นในสภาพแวดล้อมที่แท้จริง การสั้น ๆ วงจรจากความคิดไปสู่ผลลัพธ์หมายความว่าทีมงานของคุณยังคงซิงค์กับสิ่งที่เกิดขึ้นจริงซึ่งเร่งการเรียนรู้ small improvements in developer feedback loops Now, นี่คือสิ่งที่ทําให้วงจรที่รวดเร็วปลอดภัย หากคุณกําลังจะทดสอบในบางสิ่งบางอย่างใกล้กับการผลิตคุณต้องมีความเห็นได้ชัดในทุกสิ่งที่เกิดขึ้น เครื่องมือการสังเกตและโทรเมตริกช่วยให้เราสามารถตรวจสอบการทดลองในขณะที่พวกเขาเกิดขึ้น ระบบจะติดตั้งด้วยเครื่องมือเหล่านี้เพื่อให้การทดสอบทุกครั้งการใช้งานรุ่นใหม่สตรีมเมตริกและการติดตามในเวลาจริง ด้วยวิธีนี้หากเกิดความผิดปกติหรือข้อผิดพลาดเราจะจับมันทันที มันสร้างวงจรการตอบสนองที่เข้มงวดไม่เพียง แต่สําหรับนักพัฒนาที่จะเขียนโค้ด แต่สําหรับระบบเองที่จะบอกเราว่ามันจะพฤติกรรมอย่างไร real-time observability ในทางปฏิบัติการความสามารถในการสังเกตในเวลาจริงเป็นระบบการแจ้งเตือนครั้งแรกของเราและคู่มือของเรา มันช่วยให้ผู้พัฒนามั่นใจในการเคลื่อนไหวได้อย่างรวดเร็วรู้ว่าถ้ามีบางสิ่งบางอย่างปิดเราจะเห็นและสามารถตอบสนองได้ทันที ในที่สุด : พวกเขาเปลี่ยนการพัฒนาเป็นการสนทนาอย่างต่อเนื่องระหว่างวิศวกรและระบบสดซึ่งเป็นสิ่งสําคัญในการสร้างระบบ AI ที่ซับซ้อนได้อย่างปลอดภัยในความเร็ว fast feedback and observability work hand-in-hand Interviewer: Enabling safe, scalable experimentation at production scale requires the right infrastructure. What key architectural choices did you make to support this? การตัดสินใจที่สําคัญคือการถูกรวม จากจุดเริ่มต้น เราใช้ Kubernetes เพื่อสร้างสภาพแวดล้อมที่อิสระและอิสระตามความต้องการ หากผู้พัฒนาต้องการทดสอบรูปแบบการเรียนรู้เครื่องใหม่หรือการเปลี่ยนแปลงบริการแพลตฟอร์มจะให้ตัวอย่างของบริการ (และส่วนประกอบที่ขึ้นอยู่) ในไม่กี่วินาที ในแง่ของการกําหนดค่า แต่แยกออกในแง่ของข้อมูลและขอบเขต Santosh: container orchestration replica of production อีกชิ้นที่สําคัญคือวิธีที่เรานําทางการเข้าชม เราใช้การนําทางตามพื้นฐานส่วนใหญ่โดยใช้ตัวระบุ (ด้วยความช่วยเหลือของข้อมูลระยะไกล) เพื่อให้แน่ใจว่าคําขอการทดสอบจากผู้พัฒนาหรือเซสชันที่เฉพาะเจาะจงจะถูกนําทางไปยังกรณีที่แยกต่างหากของผู้พัฒนาเท่านั้น นี่คือสถานที่ที่ มันช่วยให้เราสามารถแท็กและติดตามคําขอเพื่อให้พวกเขาไหลผ่านเส้นทางที่ถูกต้องโดยไม่ต้องเลือดออกเข้าไปในระบบหลัก OpenTelemetry-based context propagation Data isolation was also non-negotiable. We made sure that any data generated during experiments was kept separate from real user data, often by using dummy accounts or separate databases for test runs, so even in a worst-case scenario, a rogue experiment could never affect live customer information. By combining these architectural choices—on-demand การฉนวนกันความร้อนหลายคนการนําทางคําขออัจฉริยะและความสามารถในการสังเกตอย่างเข้มงวด - เราได้สร้างแพลตฟอร์มที่การทดลองสามารถเกิดขึ้นได้อย่างปลอดภัยในขนาด ephemeral environments ผู้พัฒนาสามารถเรียกใช้การทดลองหลายร้อยครั้งโดยใช้ภาระงานที่แท้จริงและระบบจะจัดการกับการจัดระเบียบและการทําความสะอาดโดยอัตโนมัติ ชนิดของสถาปัตยกรรมนี้เปลี่ยนการทดลองจากเหตุการณ์ที่มีความเสี่ยงและหายากไปเป็นส่วนปกติของการพัฒนา ด้วยรุ่น AI และคุณสมบัติใหม่เนื่องจากโครงสร้างพื้นฐานมีความปลอดภัยและประสิทธิภาพโดยไม่คํานึงถึงการทดลองจํานวนมาก push the envelope Interviewer: What lessons have you learned from implementing these systems in large-scale engineering organizations? Any advice for teams looking to adopt production-first practices? หนึ่งในบทเรียนที่ยิ่งใหญ่ที่สุดที่ฉันได้เรียนรู้คือ กล่าวอีกนัยหนึ่งระบบที่มีอิทธิพลมากที่สุดที่เราสร้างขึ้นประสบความสําเร็จไม่ได้เพราะพวกเขามีความซับซ้อนมากเกินไป แต่เพราะพวกเขามีประสิทธิภาพมากเกินไป หากคุณต้องการให้วิศวกรหลายร้อยคนใช้แพลตฟอร์มหรือกระบวนการทํางานใหม่ก็ต้องลบความขัดแย้งจากการทํางานในชีวิตประจําวันของเรา เรามุ่งเน้นไปที่การเปลี่ยนกระบวนการที่ช้าและใช้งานได้ด้วยตนเองเป็นประสบการณ์ที่รวดเร็วและใช้งานง่าย เมื่อสิ่งที่ใช้เวลานานในตอนกลางวันตอนนี้ใช้เวลาไม่กี่นาทีและทําได้ง่ายขึ้นผู้คนจะยอมรับมันโดยธรรมชาติ การนวัตกรรมที่แท้จริงมักจะอยู่ในการกําจัดขั้นตอนที่ไม่จําเป็นและทําให้ความซับซ้อนรู้สึกไร้ความพยายาม Santosh: scale doesn’t come from complexity; it comes from clarity. made life simpler for developers บทเรียนอื่น ๆ เกี่ยวกับผู้คนไม่เพียง แต่เทคโนโลยี การขับเคลื่อนการเปลี่ยนแปลงเช่นการย้ายไปสู่การผลิตการทดสอบครั้งแรกในองค์กรขนาดใหญ่ได้สอนฉันถึงมูลค่าของ ฉันพบว่าความสําเร็จมาจากความเห็นอกเห็นใจและความอดทน: การฟังความกังวลแสดงให้เห็นถึงการปรับปรุงและการปรับเปลี่ยนด้วยวิสัยทัศน์ที่แบ่งปันเกี่ยวกับคุณภาพและความเร็วที่ดีขึ้น influence over authority ตามที่ฉันมักจะบอกว่าเทคโนโลยีอาจเป็นเหตุผล แต่ความก้าวหน้าเป็นมนุษย์เสมอ ในที่สุดคําแนะนําหนึ่งที่ฉันแบ่งปันกับผู้อื่นคือ . The goal should be to build tools, systems, and even teams that outgrow you. If the platform you create only works when you’re personally involved, then it won’t scale. But if it empowers others to do more even when you step away, that’s real impact. Lasting impact in large organizations isn’t about what you can accomplish alone – it’s about what you enable everyone else to accomplish because of the foundations you put in place. focus on leverage, not control Interviewer: Looking ahead, what are your thoughts on the future of developer platforms, especially as AI gets more integrated? How do you see AI influencing developer workflows and infrastructure? ฉันมีความกระตือรือร้นอย่างไม่น่าเชื่อว่าสิ่งต่าง ๆ จะไปไหน ฉันคาดหวังว่า that seamlessly integrate AI at every level. We’re already seeing early signs – from AI-assisted coding to smart analytics in CI/CD – but I think it will go much further. In the future, your developer platform itself might have AI copilots working alongside you. Imagine an AI that can automatically configure your test environment, or suggest optimizations in your code and infrastructure based on patterns it has learned from thousands of deployments. AI could help analyze your experimental results in real time, flagging anomalies or performance regressions that a human might miss. Santosh: intelligent developer environments โดยพื้นฐานการทํางานพื้นฐานจํานวนมากในการพัฒนาซอฟต์แวร์และการทดสอบสามารถ , which will let developers focus more on creative problem-solving and less on babysitting environments or crunching log data. As AI models become more complex and data-hungry, this integration will also be key to keeping development cycles fast. The industry as a whole is moving toward this fusion of AI with developer operations; you can see it in the way new tools are coming out that embed machine learning into monitoring, security, and even the coding process. I believe we’ll look back and see this period as a turning point where development became smarter and more autonomous. augmented by AI วัตถุประสงค์ของฉันคือการกระตุ้นในทิศทางนี้: สร้างแพลตฟอร์มที่ช่วยนักพัฒนา with AI quietly streamlining the path. It’s a broader shift, and I’m happy to be one of the contributors working on making it a reality. In the end, the future of developer platforms will be about marrying the creativity of human developers with the power of AI-driven automation and insight. That combination holds the promise of software and AI innovation at a pace and scale we’ve never seen before, and doing it safely, scalably, and with a whole lot less friction than in the past. ship software at blistering speed