Santosh Praneeth Bandaは、ソフトウェア配信を加速し、インフラの複雑さを減らす方法を先駆けてきた開発者プラットフォームスペースの高級技術リーダーです。 スローで脆弱なステージ環境を安全でリアルタイムのテストで置き換えるアーキテクチャで、スケーラブルな開発者プラットフォームと強力なインフラストラクチャに焦点を当てることによって、Santoshの仕事は、エンジニアリングチームが安全性や信頼性を損なうことなくより速くリターンを可能にするのに役立ちました。 production-first, multi-tenant : 「生産速度で」ソフトウェアを開発することは理想的ですが、また挑戦的です. 生産のような環境でソフトウェア開発を拡大する最大の障害は何ですか? あなたはそれらをどのように対処しましたか? Interviewer 最大の課題の1つは、伝統的に、生産は新しい機能をテストするにはあまりにもリスクが高いと考えられていたことだ。 実際のパフォーマンスを検証するために、実験のためにライブ環境を使用することは長い間、オフラインと見なされていたが、キャリアの初めには、ユーザーに影響を与えるリスクのために、ライブシステム内の大規模なアプリケーション(または複雑なコード)を安全にテストすることは不可能だと信じていた。 Santosh: production-scale data and compute 私はこの最初の手で遭遇しました; ステージの環境は、私たちが必要とするスケールやリアリズムを模することができず、それは私たちのイテレーションを遅らせました。 これらのリスクを乗り越え、私たちはAを設計しました。 実際のユーザーから実験を孤立させ、実際の環境で実行している間に、サービスメッシュなどのテクノロジーを活用してトラフィックのルーティングや したがって、我々が「生産中」であったにもかかわらず、我々のテストは含まれており、安全でした。 engineer our way multi-tenant, production-first testing model strict data isolation それは簡単ではなかったが、深く実験し、関係者を説得し、長年にわたる習慣を変えました。一歩一歩、我々はそれがうまくいくことを証明しました。小規模に始めて、強力なセキュリティガードを強制し、結果を透明にすることによって、我々はこのアプローチに信頼を構築しました。 実際、このモデルの成功は他のテクノロジー企業にも同様のアプローチを鼓舞しました。その旅は、スケーラリングソフトウェア開発において「不可能」と感じるものは、技術的発明性、堅持性、安全性の明確なビジョンの組み合わせによってしばしば解決することができることを教えてくれました。 10× faster feedback loops Interviewer: How did your earlier infrastructure work influence your later innovations in developer platforms? 私の基礎は大規模なインフラストラクチャで、システムが効率的にスケールし、故障を許容し、自動的に回復できるようにすることでした。初期には、データベースの複製、故障許容、およびグローバルなデータセンターに分散した一貫性を最適化するインフラストラクチャで働きました。 Santosh:  開発者プラットフォームの構築は、同じ原則に基づいています。システムが予測可能で回復が自動化されると、開発者はプラットフォームを信頼しているため、より速く動きます。 Interviewer: Why move away from traditional staging environments? How does a multi-tenant, production-first workflow change the game for developer velocity and safety? 何十年もの間、ステージ化環境は変化をテストする実際の方法だった - それは誰もが使っていたので、制作に触れることはタブーだった。 You might spend days testing in staging only to hit unseen issues when you finally go live. あなたがついにライブに行くときに目に見えない問題を打つためにステージアップでテストする日々を過ごすかもしれません。 マルチレンタント隔離のワークフローで、私たちはそのスクリプトを変えました。 Santosh: staging is often slow, brittle, and never truly identical to production production-first 生産ファーストモデルでは、すべての開発者が変更をテストすることができます。 実際の生産環境の孤立した部分であるため、実際のユーザーに影響を与えることはありませんが、実際の製品と同じように振る舞います。開発者の速度への影響は劇的です:以前は数日かかったり、完全なリリースが必要だったフィードバックは現在数分または数時間で届きます。 live system sandbox, 重要なことに、このアプローチはセキュリティも向上します。実際の環境でテストしているので、ステージアップエリアがユーザーに届く前に見逃す可能性がある問題を把握します。そして、テストで何かが間違っている場合、爆発距離はそのサンドボックスに含まれています。 代わりに、それは速く動き、何も壊さない、なぜならあなたが責任を持って生産でテストしているからです。それはソフトウェアが作られる方法を根本的に変えます:開発者は待つ時間を減らし、ビルディングの時間を増やしますが、すべてテストサンドボックスで働くなら、それはすべての人のための生産で働くことを信じています。 without Interviewer: You often mention the importance of fast feedback loops and real-time observability. Why are these so critical in modern AI and software development? 迅速なフィードバック ループはイノベーションの血液です. 変化がうまく機能するかどうか、またはモデルがうまく機能しているかどうかを早く知るほど、あなたは再現し、改善することができる。 Santosh: 大規模なソーシャルネットワーク会社で働いていたとき、私は最初から、 何千人ものエンジニアの生産性の大幅な向上につながった。AI開発に関しては、特にそうである。あなたはモデルを迅速にトレーニングし、調整し、再トレーニングする必要があり、実際の環境でモデルの行動を把握するために数週間待つ余裕がありません。アイデアから結果へのループを短縮することは、チームが実際に起こっていることと同期し、学習を加速させることを意味します。 small improvements in developer feedback loops 今、 あなたが生産に近い何かでテストするつもりなら、あなたは起こっているすべてのものに可視性を持たなければなりません。 観察ツールとテレメトリは、それらの実験が起こるように私たちを監視します。 システムは、これらのツールで機器化されているので、すべてのテストを実行し、すべての新しいモデル展開は、リアルタイムでメトリックと痕跡を再ストリーミングします。 したがって、異常やエラーが現れた場合、我々はすぐにそれを捕捉します。 それは、開発者がコードを書くだけでなく、システム自体がどのように振る舞っているかを私たちに知らせるための緊密なフィードバックループを作成します。 real-time observability 実際には、リアルタイムの観測性は当社の早期警報システムであり、開発者に迅速に動く自信を与え、もし何かが停止した場合、私たちはそれを見ることができ、すぐに反応することができることを知っている。 彼らは開発をエンジニアとライブシステムの間の継続的な会話に変え、複雑なAIシステムを迅速に安全に構築するために不可欠です。 fast feedback and observability work hand-in-hand Interviewer: Enabling safe, scalable experimentation at production scale requires the right infrastructure. What key architectural choices did you make to support this? 重要な決断は、抱きしめることでした。 Kubernetes を使用して、開発者が新しい機械学習モデルまたはサービス変更をテストする必要がある場合、プラットフォームはそのサービス(および依存するコンポーネント)のコンテナ化インスタンスを秒で提供します。 構成の面で、しかしデータと範囲の面で孤立している。 Santosh: container orchestration replica of production もう一つの重要なポイントは、トラフィックをどのようにルーティングするかでした。当社は、コンテキストベースのルーティングを実装し、基本的に識別子(テレメトリーデータの助けを借りて)を使用して、特定の開発者またはセッションからのテストリクエストがその開発者の孤立したインスタンスにのみルーティングされることを保証しました。 それは私たちがメインシステムに出血することなく正しい経路を通過するように要求をタグおよび追跡することを可能にしました。 OpenTelemetry-based context propagation データの隔離も交渉不可能だったため、実験中に生成されたデータは実際のユーザーデータとは別に保管され、しばしばデュミーアカウントやテストを実行するための別々のデータベースを使用することで、最悪のシナリオでさえ、デュミー実験はライブ顧客情報に影響を与えることはありませんでした。 , multi-tenant isolation, intelligent request routing, and rigorous observability—we created a platform where experimentation could happen safely at scale. ephemeral environments 開発者は実際のワークロードを使用して何百もの実験を実行することができ、システムはオーケストレーションとクリーニングを自動的に処理します。このタイプのアーキテクチャは、リスクのある珍しいイベントから実験を開発の日常的な部分に変えます。 AIモデルと新しい機能で、インフラストラクチャが背後にあるため、いくつもの実験が実行されているかにかかわらず安全性とパフォーマンスを維持しています。 push the envelope Interviewer: What lessons have you learned from implementing these systems in large-scale engineering organizations? Any advice for teams looking to adopt production-first practices? 私が学んだ最大の教訓は、 言い換えれば、私たちが作り上げた最も影響力のあるシステムは、それらが過度に複雑だったからではなく、それらが成功したからだ。 あなたが何百人ものエンジニアが新しいプラットフォームやワークフローを採用することを望むなら、それは日々の仕事から摩擦を取り除く必要があります。私たちは、ゆっくりとした手動のプロセスを迅速で直感的な経験に変えることに焦点を当てました。 Santosh: scale doesn’t come from complexity; it comes from clarity. made life simpler for developers もう一つのレッスンは、人々だけでなく、テクノロジーについてです。大規模な機関での生産初のテストに移行するような変化を導くことは、私にその価値を教えてくれました。 あなたは単にエンジニアに習慣を変えるように依頼することはできない、あなたは彼らの購入を得る必要があります. 私は、成功は共感と忍耐から来た:懸念に耳を傾け、改善を示し、より良い品質とスピードの共通のビジョンと変化を調節する。 influence over authority 私はしばしば言っているように、技術は論理的かもしれないが、進歩は常に人間である。 目標は、あなたを上回るツール、システム、そしてチームを構築することです。あなたが作成するプラットフォームが、あなたが個人的に関与しているときにのみ機能する場合、それはスケールされません。しかし、あなたが立ち去ったときに他の人々をより多くすることを可能にする場合、それは実際の影響です。 focus on leverage, not control Interviewer: Looking ahead, what are your thoughts on the future of developer platforms, especially as AI gets more integrated? How do you see AI influencing developer workflows and infrastructure? I'm incredibly excited about where things are headed. 私は予想します。 AI はあらゆるレベルでシームレスに統合されます。AI による暗号化から CI/CD でのスマートアナリティクスまで、すでに早期の兆候が見られていますが、将来、開発者プラットフォーム自体があなたと一緒に働くAIコピオットを持っている可能性があります。AI が自動的にテスト環境を構成したり、何千もの展開から学んだパターンに基づいてコードやインフラの最適化を提案したりします。 Santosh: intelligent developer environments 基本的に、ソフトウェア開発とテストの大半のグラントワークは、 AI モデルがより複雑でデータに飢えているにつれて、この統合は開発サイクルを迅速に維持するための鍵となるだろう。 業界全体では、AI が開発者の操作と融合する方向に進んでいます; モニタリング、セキュリティ、さらにはコード化プロセスに機械学習を組み込む新しいツールが出現する方法で見ることができます。 augmented by AI 私の目標は、開発者を助けるプラットフォームを構築することです。 AIは静かに道を簡素化する。これはより広い転換であり、私はそれを現実化するために取り組んでいる貢献者の一人であることを嬉しく思います。最終的には、開発者プラットフォームの未来は、AI駆動の自動化と洞察力の力と人間の開発者の創造性を結びつけることになるでしょう。 ship software at blistering speed

This story contains new, firsthand information uncovered by the writer.

このオーディオは、ストーリーの元の言語で制作されています。

長すぎる; 読むには

Download free Tech Leaders Productivity Report!

生産のスピードで構築:Multi-Tenant Systemsがソフトウェア配信をどのように形作っているか

About Author

コメント

ラベル

この記事は

Related Stories

目に見えない層: ユーザーインタビューがかけがえのない資産である理由

Claude Sonnet 3.5 システムプロンプトの漏洩: 法医学的分析

Telegram: クリプト島と本土を結ぶ橋

HackerNoon Coded: HackerNoonが最も活発に活動している上位10カ国

目に見えない層: ユーザーインタビューがかけがえのない資産である理由

Claude Sonnet 3.5 システムプロンプトの漏洩: 法医学的分析

Telegram: クリプト島と本土を結ぶ橋

HackerNoon Coded: HackerNoonが最も活発に活動している上位10カ国

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps