Fünf Möglichkeiten zur Senkung der Infrastrukturkosten in Hochlastsystemen: AdTech-Fallstudie

Während sich der Staub der Cloud-Hype-Welle legt, entdecken immer mehr Technologieteams die Nebenwirkungen von Cloud-Infrastrukturen, die normalerweise unter dem Radar bleiben.

So vielversprechend die On-Demand-Skalierbarkeit, der geringere Zeitaufwand für die Verwaltung von On-Premise-Diensten und andere Vorteile auch klingen, sie werden oft durch einen erheblichen Nachteil ausgeglichen: steigende Infrastrukturkosten in Systemen mit hoher Auslastung.

Bei der Diskussion der Infrastrukturkosten liegt der Fokus deutlich auf hochbelasteten Systemen: Für kleinere Unternehmen gibt es kaum eine flexiblere und günstigere Alternative zur Cloud.

Da QPS jedoch Hunderttausende erreichen, sind scheinbar geringe Anbietergebühren nicht mehr tragbar.

Als Softwareentwicklungsunternehmen, das sich auf den Aufbau und die Optimierung von Hochlastsystemen für AdTech spezialisiert hat, haben wir mehrere Vorgehensweisen untersucht, mit denen Teams verhindern, dass die Infrastrukturkosten in die Höhe schnellen. Mit über 15 Jahren Erfahrung hat Xenoss Projekte wie Activision Blizzard, Verve Group, Smartly, Voodoo, Inmar Intelligence und andere beim Aufbau robuster und dennoch flexibler Infrastrukturen unterstützt.

In diesem Beitrag möchten wir unsere Erfahrungen und unser Know-how zu Infrastrukturherausforderungen im Zusammenhang mit Hochlastplattformen teilen und Möglichkeiten zur Kostenoptimierung erkunden. Um die im Beitrag gezeigten Taktiken zu veranschaulichen, verwenden wir eine Branche, in der Geschwindigkeit und Skalierung nicht verhandelbar sind: AdTech.

Wir haben auch einen Blog-Beitrag, der sich ausführlicher mit der Optimierung der Infrastrukturkosten befasst und Expertentipps und Kommentare unserer Softwarearchitekten sowie eine Fallstudie zu einer zwanzigfachen Reduzierung der Infrastrukturkosten enthält.

AdTech-Plattformen – ein Aushängeschild für Hochlastsysteme

Hochlastplattformen ermöglichen mehrere Sektoren wie Banken, Gesundheitswesen und mehr. Auch wenn programmatische Werbung oft nicht als zu entwickelnde technische Leistung angesehen wird, kann sie mit anderen komplexen Systemen konkurrieren, da ihre betrieblichen Anforderungen oft die Grenzen des Infrastrukturdesigns überschreiten.

Lassen Sie uns kurz zusammenfassen, warum AdTech-Plattformen (SSP, DSP usw.) ein hervorragendes Objektiv für die Erforschung der Infrastrukturkostenoptimierung sind.

Druck für hohe Lautstärke und geringe Latenz

AdTech-Plattformen befinden sich in einem ständigen Tauziehen zwischen der Notwendigkeit eines hohen Traffic-Volumens und einer geringen Latenz.

Einerseits müssen sie den enormen Datenverkehr bewältigen, der durch Online-Werbung entsteht ( laut Wayne Bloodwell , CEO von TPA Digital, beläuft sich dieser auf 950 Milliarden Impressionen pro Tag).

Neben der Belastung fügt die Echtzeitnatur des Ökosystems eine neue Ebene der Komplexität hinzu.

Eine hohe Latenz bei AdTech-Plattformen, also eine Verzögerung zwischen einer Gebotsanfrage und einer Antwort, führt dazu, dass Werbetreibenden qualitativ hochwertiges Inventar entgeht, da ihre Gebote nicht rechtzeitig verarbeitet werden.

Hohe Latenzzeiten erschweren es den Publishern, Werbeplätze zu füllen, was auf lange Sicht zu geringeren Einnahmen führt.

Ein Standardzeitrahmen für die Angebotsbearbeitung liegt bei etwa 80–120 ms, dem durchschnittlichen Zeitrahmen, in dem die Branche tätig ist.

Entscheidungsfindung in Echtzeit

Eine weitere wiederkehrende Herausforderung für AdTech-Projekte ist die Datenverarbeitung in Echtzeit aufgrund folgender Herausforderungen:

Daten müssen schnell (unter 100 ms) abgerufen werden, um Entscheidungen in Echtzeit zu treffen, z. B. bei der Angebotspreismodellierung.

Das Sammeln von Zielgruppendaten aus mehreren Quellen erhöht die Komplexität der Pipelines und erweitert das zur Verarbeitung verschiedener Datentypen erforderliche Toolset.

Bedenken hinsichtlich der Datenqualität: Falsche Daten können dazu führen, dass Werbetreibende schlechte Gebotsentscheidungen treffen. Datenqualitätsprüfungen für jede Pipeline-Stufe (Aufnahme, Verarbeitung, Verbrauch) sind unerlässlich.

Der folgende Clip veranschaulicht die Komplexität und kritischen Vorgänge der Echtzeit-Datenanalyse

https://www.youtube.com/watch?v=uaRzovqK3t0

Skalierbarkeitsanforderungen

Die AdTech-Branche ist zyklisch, mit Phasen wirtschaftlicher Höhen und Tiefen, die zu Schwankungen in der Nachfrage nach Werbedienstleistungen führen. Marktanstiege setzen AdTech-Plattformen unter Druck, dynamische Skalierbarkeitsfunktionen zu implementieren.

In Verbindung mit der zunehmenden SPO verspüren AdTech-Anbieter den Druck, ihre Kapazitäten als Reaktion auf Nachfrageänderungen zuverlässig nach oben oder unten anzupassen. Daher benötigen sie die Fähigkeit und die Ressourcen, Spitzenverkehr ohne Einbußen bei Leistung oder Zuverlässigkeit zu bewältigen (und ihn zu reduzieren, um ihn an Marktschwankungen anzupassen).

Sammeln von Roh- und aggregierten Daten

Die Verwendung von Rohdaten ist entscheidend für den Erfolg von AdTech-Plattformen. Diese Systeme sammeln viele aggregierte Daten – demografische Informationen, Browserverlauf, Benutzerverhalten usw. Diese Erkenntnisse werden aus verschiedenen Quellen integriert und tragen zur gezielten Ausrichtung und Personalisierung bei.

Bevor Rohdaten zur Verwendung bereit sind, müssen sie die Schritte von ETL durchlaufen: Extraktion, Transformation und Laden. Allerdings wird die Wartung mehrerer Pipelines zu einer technischen Herausforderung, da die Systemgröße und die Datenmengen exponentiell zunehmen.

Best Practices, die Xenoss verwendet, um die Infrastrukturkosten in Hochlastsystemen zu optimieren

Wenn Technologieteams die Infrastrukturkosten nicht genau im Auge behalten, geraten sie schnell außer Kontrolle. Ineffiziente Datenmodellierung und -speicherung, mangelnde Selektivität bei der Nutzung von Diensten und mangelnde Planung und Abwehr von Bedrohungen im Voraus machen Infrastrukturen unvorhersehbar, langsam, teuer und schwer zu warten.

Die Senkung der Infrastrukturkosten ist keine alltägliche Arbeit, aber mit der Kenntnis des Ökosystems und Ihrer Plattform können Sie mit ein paar Optimierungen erhebliche Einsparungen erzielen.

Hier ist eine Liste verschiedener Praktiken zur Infrastrukturreduzierung, die die Xenoss-Technologieteams nutzen, um unseren Kunden dabei zu helfen, schlankere Infrastrukturen zu erreichen.

Entdecken Sie die Vorteile einer Hybrid-Cloud-Infrastruktur

In Projekten im Frühstadium wird nicht viel über die Gestaltung einer optimalen Cloud-Infrastruktur nachgedacht. Tech-Teams wählen normalerweise einen von zwei Wegen;

• Öffentliche Cloud-Dienstanbieter wie AWS, Google Cloud oder Microsoft Azure. Obwohl es verständlich ist, sich zu Beginn des Entwicklungsprozesses auf einen Cloud-Anbieter zu verlassen, möchten wir Technologieführer davor warnen, verwaltete Dienste zu nutzen, wenn diese nicht unbedingt erforderlich sind. Im Laufe der Zeit können diese Tools die Infrastrukturrechnungen des Projekts erheblich erhöhen – einer unserer Kunden meldete sich, als die Infrastrukturrechnungen 2,5 Millionen US-Dollar betrugen.
• Vor-Ort-Infrastruktur, die vom hauseigenen Team gepflegt wird . Heutzutage ist die Wartung von Rechenzentren vor Ort bei Projekten in der Frühphase aufgrund der erforderlichen Vorabinvestitionen und Arbeitskräfte nicht mehr so üblich. Es ist erwähnenswert, dass lokale Infrastrukturen ihre Vorteile haben, wie etwa mehr Kontrolle und strengere Sicherheit.

Im AdTech sind Flexibilität und die Fähigkeit zur dynamischen Skalierung von entscheidender Bedeutung. Ebenso wichtig sind die vollständige Kontrolle über die Infrastrukturkosten und die Möglichkeit, die Sicherheit zu erhöhen. Ersteres wird typischerweise mit der Cloud in Verbindung gebracht, während letzteres häufig als Vorteil für On-Premises genannt wird.

Bei Xenoss sind wir uns der Vorteile beider Infrastrukturen bewusst und nutzen daher beide in Kundenprojekten. Die Kombination aus Cloud und On-Prem wird oft als „Hybrid Cloud“ bezeichnet, obwohl auch andere Kombinationen zu diesem Begriff passen. Auch die Kombination einer öffentlichen und privaten Cloud oder zweier öffentlicher Clouds (auch Multi-Cloud genannt) passt ins Konzept.

Laut dem von DZone veröffentlichten Data Pipelines-Bericht nutzen 33 % der befragten Unternehmen eine Kombination aus Cloud- und lokaler Infrastruktur. Wenn wir nur Unternehmensorganisationen (über 1000 Mitarbeiter) berücksichtigen, steigt die Zahl auf 42 %.

Das Hybridmodell bietet AdTech-Teams eine höhere finanzielle Flexibilität und ermöglicht es AdTech-Plattformen, die Kontrolle über On-Premises-Setups mit der dynamischen Skalierbarkeit von Cloud-Plattformen zu vereinen.

Sicherheit ist ein weiterer wesentlicher Vorteil; Projekte können strenge Datenschutzstandards einhalten, indem sie sensible Daten vor Ort aufbewahren und die Cloud für weniger kritische Aufgaben nutzen.

Ein weiterer Grund, warum wir einen hybriden Ansatz bevorzugen und befürworten, ist seine Fähigkeit, eine Anbieterbindung zu verhindern. Wenn kritische Infrastrukturen vor Ort bleiben, haben Unternehmen die Möglichkeit, ihren Technologie-Stack zu diversifizieren, ohne von einem einzigen Cloud-Anbieter abhängig zu sein.

Darüber hinaus ermöglicht ein hybrider Ansatz den Produktteams, beim Aufbau arbeitslastspezifischer Infrastrukturen gezielter vorzugehen.

Einige Aufgaben in AdTech, wie Echtzeit-Werbegebote oder Datenvorgänge, die einer strengen regionalen Einhaltung unterliegen, eignen sich besser für die Ausführung vor Ort.

Gleichzeitig können andere Arbeitsabläufe (Kampagnenanalyse, verteiltes Hosting von Anzeigeninhalten oder kollaboratives Anzeigendesign) nahtlos in die Cloud migrieren.

Optimierung der Datenspeicherung

Unserer Erfahrung nach können allein durch die Optimierung des Speichers die Infrastrukturkosten erheblich gesenkt werden. In AdTech werden sowohl SQL- als auch NoSQL-Datenbanken zur Verwaltung strukturierter und nichtstrukturierter Daten verwendet. Lassen Sie uns die wichtigsten Unterschiede zwischen den beiden Datenbanktypen sowie ihre Anwendungsfälle in AdTech noch einmal zusammenfassen.

Um der Diskussion mehr Kontext zu verleihen, lassen Sie uns die Unterschiede zwischen den beiden noch einmal zusammenfassen.

Schauen wir uns nun die Datenbank der Wahl für Top-AdTech-Plattformen und ihre Ansätze zur Datenspeicherung an.

Wie AdTech-Anbieter SQL-Datenbanken nutzen, um große Datenmengen zu verwalten

Pubmatisch

Pubmatic SSP hilft Verlagen, ein breites Publikum zu gewinnen und Werbeeinnahmen mit einzigartigen Nachfragepartnerschaften, fortschrittlichen Analysen und Tools zur kreativen Optimierung zu maximieren.

Herausforderung: Das Unternehmen benötigte eine robuste Datenbank, um große Datensätze zu verarbeiten und komplexe Probleme zu lösen. Das Unternehmen wollte ein kampferprobtes Werkzeug, das vor allem zuverlässig und effektiv ist.

Lösung: MySQL

Auswirkung: Das Anzeigenqualitätsteam von PubMatic verwendet MySQL als primäre Datenquelle. Die Datenbank der Plattform speichert bis zu hundert Millionen Datensätze. MySQL ist für seine Zuverlässigkeit und Robustheit bekannt und ermöglicht es PubMatic, täglich Millionen von Creatives zu verarbeiten und 2- bis 10-fache Datenlasten aufrechtzuerhalten.

AdGreetz

AdGreetz ist eine Personalisierungsplattform, die maßgeschneiderte Werbekreationen über mehrere Kanäle verteilt: soziale Medien, CTV/OTT, In-App und mehr.

Herausforderung: Die Arbeitsabläufe des Unternehmens sind datenintensiv und erfordern Datenbankverwaltungslösungen, die Millionen von Benutzerdatensätzen unterstützen.

Ausgewählte Datenbank: ClickHouse

Auswirkungen: Für das Engineering-Team von AdGreetz erwies sich Clickhouse als kosteneffiziente und leistungsstarke Lösung. Das Unternehmen konnte die Abfragezeit bei kleinen Rechenvorgängen von Sekunden auf Subsekunden verkürzen.

Wie AdTech-Projekte NoSQL-Datenbanken nutzen

Bienenwachs

Beeswax ist eine verwaltete RTB-Plattform, die es Werbetreibenden ermöglicht, programmatische Abläufe zu optimieren. Das Unternehmen bietet eine Bidder-as-a-Service-Lösung an, die Millionen von Anfragen pro Sekunde verarbeitet und jede Minute 125 GB Daten verbraucht.

Herausforderung: Schnelle Skalierung, die eine effiziente Anzeigenbereitstellung gewährleisten würde, Notwendigkeit einer gleichmäßigen Lastverteilung auf dem Computer des Unternehmens.

Ausgewählte NoSQL-Datenbank: Aerospike läuft auf Amazon EC2.

Auswirkung: Beeswax kann Millionen von Abfragen pro Sekunde mit einer Tail-Read-Latenz von 2 Millisekunden verarbeiten.

GummiGum

GumGum bietet eine Plattform für Kontext-Targeting, die durch eine proprietäre Plattform für maschinelles Lernen, Verity, ermöglicht wird.

Herausforderung: Das Unternehmen wollte große Mengen werbebezogener Daten (Impressionen, Aufrufe, Klicks, Conversion) mit minimaler Latenz verarbeiten – obwohl die Daten nicht in Echtzeit verarbeitet wurden, bestand das Ziel darin, die Lücke auf ein Minimum zu beschränken.

Ausgewählte NoSQL-Datenbank: ScyllaDB

Auswirkungen:

• Reduzierte Belastung der technischen Ressourcen
• 75 % Volumenzunahme
• Erleichtert die Skalierbarkeit dank der Bereitstellung von Ressourcen nach Bedarf.

Moloco

Moloco ist eine mobile Zielgruppenplattform, die Werbetreibenden dabei hilft, mobile Zielgruppen zu gewinnen, anzusprechen und zu verkaufen. Die Plattform stützt sich in hohem Maße auf Modelle des maschinellen Lernens zur Kampagnenoptimierung und prädiktiven Analyse.

Herausforderung: Der Druck, Millionen von Gebotsanfragen pro Sekunde mit einem strengen Latenzlimit (unter 100 ms) zu verarbeiten.

Ausgewählte NoSQL-Datenbank: Google Cloud BigTable

Auswirkungen:

• Die Anzahl der verarbeiteten Anfragen wurde von 500.000 auf 5 Millionen pro Sekunde skaliert
• Geringe Wartezeit
• Die verwaltete Infrastruktur ermöglichte es dem Unternehmen, seine Software-Engineering-Ressourcen neu zu verteilen und sich auf andere Aufgaben zu konzentrieren.

Unsere jahrelange Erfahrung in der AdTech-Plattformentwicklung hat uns gezeigt, dass es keinen einheitlichen Ansatz für die Auswahl der geeigneten Datenbank für die AdTech-Datenspeicherinfrastruktur gibt. Unter dem Dach der Datenbank gibt es viel Abwechslung – es erfordert Erfahrung, Produktkenntnisse und gründliche Recherche, um die richtige Lösung zu finden.

Manchmal kann der Wechsel zwischen zwei NoSQL-Datenbanken einen großen Unterschied machen. Das oben vorgestellte GumGum verließ sich auf Cassandra, bevor es zu ScyllaDB wechselte. Nach der Migration von MongoDB zu Aerospike konnten wir bei einem Kunden (mobiles DSP) erhebliche Betriebskostensenkungen feststellen.

Weitere Möglichkeiten zur Optimierung der Datenspeicherung

Die Implementierung von Datenkomprimierungs- und Deduplizierungstechniken ist eine weitere Möglichkeit, den erforderlichen Speicherplatz zu reduzieren und so Kosten zu sparen.

Durch die Komprimierung wird die Datengröße reduziert, was zu einer schnelleren Übertragung und geringeren Speicherkosten führt. Datenteams können Techniken wie GZIP einsetzen.

Bei der Deduplizierung werden, wie der Name schon sagt, redundante Datenkopien eliminiert. Es ist von entscheidender Bedeutung für AdTech, wo wiederholte Benutzerprofile oder ähnliche Datensätze an der Tagesordnung sind.

Cold Storage ist eine kostengünstige Möglichkeit, Daten, auf die selten zugegriffen wird (alte Kampagnenmetriken), ohne Auswirkungen auf die Leistung zu speichern.

Auswahl von Premiumdiensten, die von einem Infrastrukturanbieter angeboten werden

Die Navigation in Cloud-Diensten erfordert intelligente Entscheidungen. Wenn Sie nicht aufpassen, ist es leicht, Servicepakete zu nutzen, die die Infrastrukturkosten erhöhen, aber keinen Mehrwert für die Plattform bieten.

In einem Clip unten erklärt Xenoss-CTO Vova Kyrychenko, wie die „Free-Money-Falle“ bei der Skalierung von AdTech-Plattformen zu hohen Infrastrukturkosten führen kann.

https://www.youtube.com/watch?v=q_57WdKDJI0

Unsere wichtigste Empfehlung an AdTech-Anbieter besteht darin, die Preise von Premium-Diensten zu analysieren, um versteckte Kosten oder Einsparungen zu erkennen.“

Da neue Tools die Plattform verlangsamen können, ist es außerdem sinnvoll, sie in kleinem Maßstab zu testen, bevor Sie einen neuen Dienst in Produktion bringen.

Ein Auge auf Dritt- oder Open-Source-Projekte zu haben, ist eine weitere Alternative zu teuren verwalteten Angeboten. Kostenlose oder kostengünstige Plattformen können eine bessere Leistung bieten als Mainstream-Cloud-Anbieter.

Durch die Übernahme dieses Ansatzes bei einem Kundenprojekt konnten die Ingenieure von Xenoss dazu beitragen, die Infrastrukturkosten um das Zwanzigfache zu senken.

In der folgenden Infografik veranschaulichen wir die alte Infrastruktur des Kunden und die von unseren Architekten entworfene modernisierte Version.

Verkehr und Auslastung ausgleichen

Wie wir bereits vor einiger Zeit erwähnt haben, funktionieren AdTech-Plattformen nicht unter stabilen Lasten – in einem Moment könnte eine Plattform einen plötzlichen Anstieg erleben, und im nächsten Moment verfügt sie über mehr Rechenressourcen, als sie damit anfangen kann.

Da die Ingenieure von Xenoss davon überzeugt sind, dass effizienter Datenverkehr und Lastausgleich ein Muss für AdTech-Systeme sind, wollen wir uns eingehender mit diesen Konzepten befassen.

Beim Lastausgleich werden eingehende Anfragen gleichmäßig auf mehrere Server verteilt, um sicherzustellen, dass kein einzelner Server überlastet wird. Innerhalb dieses Rahmens priorisieren die Xenoss-Architekten geschäftskritische Prozesse – wesentliche Aufgaben, deren Unterbrechung die Kernfunktionalität des Systems (Echtzeit-Anzeigengebote oder Benutzerdatenverarbeitung) beeinträchtigen würde.

Indem wir diesen Prozessen Vorrang einräumen, schützen wir die lebenswichtigen Abläufe vor möglichen Verlangsamungen oder Ausfällen.

Entwurf eines Mechanismus zur Früherkennung von Bedrohungen

Ein berühmtes Sprichwort lautet: „Misserfolg ist Teil jedes Plans“ und warnt AdTech-Produktteams kurz und bündig, sich vor Bedrohungen und Ausfallzeiten zu hüten.

Zu diesem Zweck fordern wir Anbieter und interne Technologieteams dringend auf, Überwachungstools zu nutzen, die den Systemzustand im Auge behalten und einen unterbrechungsfreien Betrieb gewährleisten. Wenn Sie Warnungen für etwaige Anomalien einrichten, können Teams umgehend alarmiert werden, schnell handeln und sicherstellen, dass kleinere Rückschläge nicht zu größeren Zusammenbrüchen führen.

Die Erweiterung dieses Ansatzes durch KI-gestützte Erkenntnisse bietet noch mehr Granularität. Anomalieerkennungsalgorithmen wie Isolation Forest oder One-Class SVM eignen sich gut zur Identifizierung ungewöhnlicher Datenmuster, die auf Bedrohungen oder Systemschwachstellen hinweisen können.

Wir empfehlen erneut den Einsatz wiederkehrender neuronaler Netzwerke mit Langzeit-Kurzzeitgedächtnis, um Zeitreihendaten zu analysieren.

Große Sprachmodelle können auch zur Bedrohungserkennung beitragen, indem sie Protokolle und Systemmeldungen analysieren, um Anomalien zu erkennen und so Textdaten zu verstehen, die andernfalls übersehen würden.

Das Endergebnis

Die Optimierung der Infrastrukturkosten ist für Unternehmen aller Branchen, die Effizienz und Rentabilität anstreben, von entscheidender Bedeutung.

AdTech ist ein ausgezeichneter Spielplatz, um die Herausforderungen und Problemumgehungen bei der Arbeit mit hohen Datenmengen und Verkehrslasten zu erkunden, da die Notwendigkeit, Tausende von Abfragen in einem Millisekunden-Zeitrahmen zu bearbeiten, die Grenzen der Infrastrukturentwicklung an den Rand treibt.

Die gute Nachricht ist, dass erfahrene Technologieteams, oft durch Versuch und Irrtum, ein Handbuch entwickelt haben, um die Infrastrukturkosten auch für Systeme mit hoher Auslastung niedrig zu halten. Der Ausgleich zwischen Cloud- und On-Premises-Lösungen, die Nutzung von KI zur Bedrohungserkennung und die kontinuierliche Weiterentwicklung von Datenspeicherstrategien helfen Produktteams dabei, einen robusten Betrieb sicherzustellen, ohne Kompromisse beim Budget einzugehen.

In diesem Bereich agil und informiert zu bleiben, ist eine kostensparende Maßnahme und ein Wettbewerbsvorteil in der dynamischen AdTech-Landschaft.