100 Tage KI, Tag 16: 5 wichtige Erkenntnisse aus dem AI-Entwicklerevent von NVIDIA

Wenn KI ein Goldrausch ist, ist Nvidia das ultimative Spitzhacken- und Schaufelunternehmen. Alles, was mit KI zu tun hat, läuft über Nvidia, da Nvidia das einzige Unternehmen ist, das die Chips (GPUs) herstellt, die für die Bereitstellung der rechenintensiven großen Sprachmodelle erforderlich sind. Mit der Skalierung der Modelle steigt der Bedarf an leistungsstärkeren GPUs und die ganze Welt verlässt sich darauf, dass Nvidia diese liefert. Es ist nicht übertrieben zu sagen, dass Nvidia der Kern aller KI-Themen ist und dass sie kürzlich ihre halbjährliche Entwicklerkonferenz GTC (18.–21. März) abgehalten haben. In diesem Beitrag fasse ich meine wichtigsten Erkenntnisse aus dieser ganz besonderen GTC-Konferenz zusammen und was sie für den Gen-KI-Bereich bedeutet.

Erkenntnis 1: KI ist nicht auf den Technologiesektor beschränkt

Die Leistungsfähigkeit dessen, was Gen-KI tun und liefern kann, ist auch in Nicht-Technologie-Sektoren nicht verloren gegangen. Unternehmen aus allen Wirtschaftszweigen sind davon überzeugt, dass die Notwendigkeit besteht, KI einzuführen und einen Weg zu finden, mit anderen zusammenzuarbeiten, erfolgreich zu sein und an der Spitze zu bleiben. Der Beweis dafür ist, wie viele Unternehmen aus dem Nicht-Technologiesektor mit Nvidia zusammengearbeitet haben. Unternehmen aus den Bereichen Einzelhandel, Automobil, Bauwesen, Design und allem anderen haben Partnerschaften mit Nvidia angekündigt.

Fazit 2: Wir brauchen viel größere GPUs

Seit der Erfindung von Transformatoren verdoppeln wir alle sechs Monate den Umfang der LLMs. Sehen Sie sich beispielsweise unten die Parameteranzahl von Open AI-Modellen an.

Allein in der GPT-3-Serie lag die Parameteranzahl zwischen 125 MB und 175 MB. Und Gerüchten zufolge haben die neuesten Modelle, die voraussichtlich aus Open AI hervorgehen werden, Parameterzahlen von über Billionen und könnten in weniger als zwei Jahren bald Billionen erreichen, wenn die Skalierungsrate anhält. Um den zunehmenden Umfang von LLMs zu unterstützen, benötigen wir eine höhere Rechenleistung. Um den Markt zu erobern, bringt Nvidia eine neue GPU-Serie namens Blackwell auf den Markt, benannt nach dem Statistiker und Mathematiker David Blackwell. Blackwell ist eine neue GPU-Serie (GB200), aber auch eine neue Supercomputerplattform.

Hier ist ein Leistungsvergleich der neuen Blackwell-GPU mit dem GPU Hopper der vorherigen Generation.

Fazit 3: Übergang vom Abrufen zur Generierung

In der aktuellen Computergeneration dreht sich alles darum, in verschiedenen Formaten gespeicherte Daten abzurufen und sie auf eine für den Benutzer nützliche Weise darzustellen. Aber in der kommenden Generation von Computern und Apps werden wir mehr davon sehen, wie Dinge auf Wunsch des Benutzers generiert und an den Benutzer zurückgegeben werden. Im Fall von chat-gpt beispielsweise wird die Antwort, die Sie erhalten, nicht vorab in einer Datenbank gespeichert, sondern in Echtzeit generiert, um die Frage des Benutzers zu beantworten. Wir stehen kurz vor der Entstehung von Texten, Bildern, Videos, Chemikalien, Proteinen und mehr.

Erkenntnis 4: Inferenz wird besser

Bei der Inferenzierung handelt es sich darum, wenn Sie chat-gpt eine Frage stellen. Das Modell ermittelt die Antwort in Form der Token-Generierung und gibt die Antwort in Form von Token zurück. Wenn die Inferenz nicht schnell genug ist, können die Verbraucher keine der KI-Anwendungen nutzen. Die Inferenz ist besonders schwierig, da LLMs immer größer werden und nicht in eine GPU passen. Daher ist die Parallelisierung der Inferenz über GPUs hinweg eine schwierige Aufgabe und erfordert die Programmierung von Nvidia-GPUs für die Verwendung mehrerer Optimierungstechniken. Mit Blackwell-GPUs ist Nvidia in der Lage, 30-mal schnellere Inferenzgeschwindigkeiten zu erreichen.

Fazit 5: Das wahre Metaversum ist NVidias Omniversum

Je mehr ich über Omniverse von Nvidia erfuhr, desto optimistischer bin ich in Bezug auf das Produkt und die Idee. Denn um KI wirklich zu nutzen und alle Möglichkeiten in der Automatisierung und Robotik auszuschöpfen, verfügen wir tatsächlich nicht über alle erforderlichen Daten. Angenommen, Sie möchten einen Roboter entwickeln, der großartige Speisen aller Art kocht. Es gibt keine Daten, die einen Blick aus der ersten Person auf Köche ermöglichen, die verschiedene Arten von Gerichten zubereiten. Wir haben allgemeine Daten zu verschiedenen Kochkünsten in Form von YouTube-Videos, aber damit die Roboter die physischen Bewegungen beim Kochen erlernen können, sind Daten aus der ersten Person erforderlich. Eine 3D-Simulation der Welt in Omniverse kann dabei helfen, die Datenlücke zu schließen, die zur Erschließung all dieser Anwendungsfälle erforderlich ist. Ich bin äußerst optimistisch, was die Idee angeht.

Das war's für Tag 22 von 100 Tagen KI.

Ich schreibe einen Newsletter mit dem Titel Above Average, in dem ich über die Erkenntnisse zweiter Ordnung spreche, die hinter allem stecken, was in der Big-Tech-Branche passiert. Wenn Sie in der Technikbranche tätig sind und nicht durchschnittlich sein möchten, abonnieren Sie es .

Folgen Sie mir auf Twitter , LinkedIn oder HackerNoon, um die neuesten Updates zu 100 Tagen KI zu erhalten, oder setzen Sie ein Lesezeichen für diese Seite . Wenn Sie im technischen Bereich tätig sind, könnten Sie daran interessiert sein, meiner Community von technischen Fachleuten hier beizutreten.