Градење со брзина на производство: Како мулти-тенантните системи ја обликуваат испораката на софтвер

Santosh Praneeth Banda е висок технички лидер во просторот за платформи за програмери, кој пионираше начини за забрзување на испораката на софтвер и намалување на комплексноста на инфраструктурата. Архитектури кои ги заменуваат бавните, кршливите средини за поставување на сцени со безбедни, во реално време тестирања во системи во живо. Со фокусирање на скалабилните платформи на програмерите и робусната инфраструктура, работата на Сантош им помогна на инженеринг тимовите да итерираат побрзо без да ја компромитираат безбедноста или сигурноста. Во овој експерт Q&A, Сантош Пранеет Банда споделува како иновациите во изолацијата, оркестрацијата и опсервативноста го редефинираат начинот на кој софтверот - и тимовите зад него - работат на скала. production-first, multi-tenant : Развивањето на софтвер „на брзина на производството“ звучи идеално, но исто така предизвикувачки.Кои се најголемите пречки за скалирање на развојот на софтвер во средини слични на производството, и како ги решивте? Interviewer Еден од најголемите предизвици е тоа што традиционално производството се сметало за премногу ризично за тестирање на нови карактеристики. На почетокот на мојата кариера, многумина веруваа дека е невозможно безбедно да се тестираат големи апликации (или кој било сложен код) во жив систем поради ризикот од влијание врз корисниците. Santosh: production-scale data and compute Се сретнав со ова од прва рака; поставената средина едноставно не можеше да ја имитира скалата или реализмот што ни беше потребен, и тоа ги забави нашите итерации. пред овие ризици.Ние дизајниравме that isolated experiments from real users while still running in the real environment. We leveraged technologies such as service mesh for traffic routing and па дури и ако бевме „во производството“, нашите тестови беа содржани и безбедни. engineer our way multi-tenant, production-first testing model strict data isolation It wasn’t easy; it took deep experimentation, convincing stakeholders, and changing long-held habits. Step by step, we proved it could work. By starting small, enforcing strong safety guardrails, and being transparent with results, we built trust in this approach. In the end, we saw on the order of Всушност, успехот на овој модел инспирирал слични пристапи кај други технолошки компании.Тоа патување ме научи дека она што се чувствува „невозможно“ во развојот на софтвер за скалирање често може да се реши со мешавина на техничка генијалност, упорност и јасна визија за безбедност. 10× faster feedback loops Interviewer: How did your earlier infrastructure work influence your later innovations in developer platforms? Мојата основа беше во големата инфраструктура – обезбедување дека системите можат ефикасно да се скалираат, да толерираат неуспеси и да се опорават автоматски. На почетокот, работев на инфраструктура која ја оптимизирала репликацијата на базата на податоци, толеранцијата на грешките и дистрибуираната конзистентност низ глобалните центри за податоци. Santosh: Building developer platforms draws on the same principles. When systems are predictable and recovery is automated, developers move faster because they trust the platform. The transition from infrastructure to developer experience wasn’t a change in philosophy — it was a continuation. Both require designing for scale, safety, and clarity. Interviewer: Why move away from traditional staging environments? How does a multi-tenant, production-first workflow change the game for developer velocity and safety? За децении, сценирањето на животната средина беше де факто начин да се тестираат промените - тоа е она што секој го користеше, бидејќи допирањето на производството беше табу. Можеби ќе поминете денови тестирање на сценирање само за да ги погодите невидливите проблеми кога конечно ќе одите во живо. работниот тек со изолација на повеќе вработени, го свртивме тој сценарио. Santosh: staging is often slow, brittle, and never truly identical to production production-first In a production-first model, every developer can test their changes in a Поради тоа што е изолиран, тоа не влијае на вистинските корисници, но се однесува токму како вистинскиот производ. Влијанието врз брзината на програмерите е драматично: повратните информации кои некогаш траеле денови или барале целосно ослободување сега доаѓаат во минути или часови. Инженерите можат веднаш да потврдат како нивниот код работи во вистински услови, што ги намалува циклусите на ослободување и ја зголемува довербата. live system sandbox, Importantly, this approach improves safety too. Since you’re testing in the real environment, you catch issues that a staging area might miss, before they reach users. And if something does go wrong in a test, the blast radius is contained to that sandbox. In my experience, moving to this kind of workflow set a new standard for reliability; we could deliver features faster Наместо тоа, тоа се движи брзо и не се скрши ништо, бидејќи се тестира во производството одговорно. Тоа фундаментално го менува начинот на кој се гради софтвер: програмерите трошат помалку време чекање и повеќе време градење, се додека веруваат дека ако работи во тест песочна кутија, ќе работи во производството за сите. without Interviewer: You often mention the importance of fast feedback loops and real-time observability. Why are these so critical in modern AI and software development? Брзите линкови за повратна информација се животната крв на иновациите. Колку побрзо знаете дали промената функционира или дали моделот функционира добро, толку побрзо можете да итерирате и да се подобрите. Santosh: During my time at a large social networking company, I saw firsthand that even Тоа доведе до огромни придобивки во продуктивноста на илјадници инженери. Кога станува збор за развој на АИ, ова е особено точно. Потребно е брзо да ги обучувате, прилагодувате и претренирате моделите, и не можете да си дозволите да чекате недели за да го дознаете однесувањето на моделот во реална средина. Скратувањето на тој круг од идеја до резултат значи дека вашиот тим останува во синхронизација со она што всушност се случува, што го забрзува учењето. small improvements in developer feedback loops А сега, е она што ги прави оние брзи кругови безбедни. Ако ќе се тестира во нешто блиску до производството, мора да имате видливост во сè што се случува. алатки за набљудување и телеметрија ни овозможи да ги следиме експериментите како што се случуваат. Системите се инструментирани со овие алатки, така што секој тест работи, секој нов модел имплементација, фрла назад метрики и траги во реално време. На тој начин, ако се појави аномалија или грешка, ние го фаќаме веднаш. Тоа создава тесна верига за повратни информации не само за програмерите да пишуваат код, туку и за самиот систем да ни каже како се однесува. real-time observability Во пракса, набљудувањето во реално време е нашиот систем за рано предупредување и нашиот водич; тоа им дава на програмерите доверба да се движат брзо, знаејќи дека ако нешто е исклучено, ќе го видиме и можеме веднаш да одговориме. Тие го претвораат развојот во континуиран разговор помеѓу инженерите и системот во живо, што е од суштинско значење за безбедно градење на сложени системи за вештачка интелигенција на брзина. fast feedback and observability work hand-in-hand Interviewer: Enabling safe, scalable experimentation at production scale requires the right infrastructure. What key architectural choices did you make to support this? Една од клучните одлуки беше да се прегрне Ние користевме Kubernetes за да создадеме ефемерни, изолирани средини на побарувачка.Ако на програмерот му беше потребно да тестира нов модел за машинско учење или промена на услугата, платформата ќе обезбеди контејнеризирана инстанца на таа услуга (и сите зависни компоненти) во секунди. во смисла на конфигурација, но изолирани во смисла на податоци и опсег. Santosh: container orchestration replica of production Ние имплементиравме контекстуално рутирање, во суштина користејќи идентификатори (со помош на податоци за телеметрија) за да се осигура дека тестовите барања од одреден програмер или сесија ќе бидат рутирани само до изолирана инстанца на тој програмер. Тоа ни овозможи да ги означиме и да ги следиме барањата, така што тие течеа низ вистинските патеки без крварење во главниот систем. OpenTelemetry-based context propagation Data isolation was also non-negotiable. We made sure that any data generated during experiments was kept separate from real user data, often by using dummy accounts or separate databases for test runs, so even in a worst-case scenario, a rogue experiment could never affect live customer information. By combining these architectural choices—on-demand , изолација на повеќе вработени, интелигентно рутирање на барањата и ригорозна набљудуваност - создадовме платформа каде што експериментите може безбедно да се случуваат на скала. ephemeral environments Програмерите би можеле да извршуваат стотици експерименти, користејќи вистински работни оптоварувања, а системот автоматски ќе се справи со оркестрацијата и чистењето.Оваа архитектура го претвора експериментот од ризичен, редок настан во рутински дел од развојот. со моделите на вештачка интелигенција и новите карактеристики, бидејќи инфраструктурата има своја позадина, одржувајќи ја безбедноста и перформансите без оглед на тоа колку експерименти се во тек. push the envelope Interviewer: What lessons have you learned from implementing these systems in large-scale engineering organizations? Any advice for teams looking to adopt production-first practices? Една од најголемите лекции што ги научив е дека In other words, the most impactful systems we built succeeded not because they were overly intricate, but because they Ако сакате стотици инженери да прифатат нова платформа или работен тек, тоа мора да го отстрани триењето од нивната секојдневна работа. Ние се фокусиравме на претворање на бавни, рачни процеси во брзи, интуитивни искуства. Кога нешто што некогаш траеше попладне, сега трае неколку минути, и е полесно да се направи, луѓето природно го прифаќаат. Santosh: scale doesn’t come from complexity; it comes from clarity. made life simpler for developers Друга лекција е за луѓето, а не само за технологијата.Возењето промена како преминување на производството-прво тестирање во голем орган ме научи на вредноста на Не можете едноставно да им наложите на инженерите да ги променат своите навики; треба да ги заработите нивните купувања.Успехот дојде од емпатија и трпение: слушање загрижености, демонстрирање подобрувања и усогласување на промените со заедничка визија за подобар квалитет и брзина. influence over authority As I often say, technology may be logical, but progress is always human. Finally, a piece of advice I share with others is to . The goal should be to build tools, systems, and even teams that outgrow you. If the platform you create only works when you’re personally involved, then it won’t scale. But if it empowers others to do more even when you step away, that’s real impact. Lasting impact in large organizations isn’t about what you can accomplish alone – it’s about what you enable everyone else to accomplish because of the foundations you put in place. focus on leverage, not control Interviewer: Looking ahead, what are your thoughts on the future of developer platforms, especially as AI gets more integrated? How do you see AI influencing developer workflows and infrastructure? Неверојатно сум возбуден за тоа каде се движат работите. Ние веќе гледаме рани знаци – од кодирање со помош на вештачка интелигенција до паметна анализа во CI/CD – но мислам дека тоа ќе оди многу подалеку. Во иднина, самата платформа на вашиот развивач може да има копроботи за вештачка интелигенција кои работат покрај вас. Замислете вештачка интелигенција која автоматски може да ја конфигурира вашата средина за тестирање или да предложи оптимизација во вашиот код и инфраструктура врз основа на обрасците што ги научи од илјадници распоредувања. Santosh: intelligent developer environments Essentially, a lot of the grunt work in software development and testing can be , што ќе им овозможи на програмерите да се фокусираат повеќе на креативно решавање на проблеми, а помалку на животните средини за чување деца или кршење на log податоци. Како што моделите на АИ стануваат покомплексни и гладни за податоци, оваа интеграција исто така ќе биде клучна за одржување на развојните циклуси брзо. индустријата како целина се движи кон ова спојување на АИ со операциите на програмерите; можете да го видите во начинот на кој се појавуваат нови алатки кои вградуваат машинско учење во мониторинг, безбедност, па дури и процесот на кодирање. augmented by AI Мојата цел е да продолжам да се движам во таа насока: да градам платформи кои им помагаат на програмерите. Тоа е поширока промена, и јас сум среќен да бидам еден од придонесените за да го направам тоа реалност. На крајот, иднината на платформите за програмери ќе биде за спојување на креативноста на човечките програмери со моќта на автоматизација и увид управувана од АИ. Оваа комбинација ги држи ветувањата за софтвер и ИИ иновации во темпо и скала што никогаш не сме ги виделе порано, и го прави тоа безбедно, скалирано и со многу помалку триење отколку во минатото. ship software at blistering speed