NVIDIA GTC 2020: Lernen Sie die neue Ampere-Architektur und Innovationen in der künstlichen Intelligenz kennen

„Bevor wir anfangen, wollte ich mich für meine schreckliche Küche entschuldigen.“ So der Gründer und CEO von NVIDIA Jensen Huang begann seine Präsentation für die GPU Technology Conference (GTC) 2020, in dem er die neue Architektur ankündigte Ampere da Grafikkarte A100 und Neuigkeiten in Bezug auf Plattformen für künstliche Intelligenz (KI), Deep Learning, autonome Fahrzeuge, Robotik und professionelle Grafik (nicht für Spiele).

Die Rede des Vorstandsvorsitzenden wurde in seinem Haus in Kalifornien (USA) aufgezeichnet und in neun Teile unterteilt, die alle auf verfügbar sind offizieller NVIDIA YouTube-Kanal. Zunächst war für Ende März die Präsentation der Geschäftsführung geplant, die die Attraktionen des NVIDIA AGB 2020, musste aber aufgrund der Sicherheitsmaßnahmen des verschoben werden COVID-19.

Die Ankündigung der neuen Architektur und neuer Produkte und Systeme markiert die Verschiebung der Vision des Unternehmens für die nächste Generation von Computern. Wie der Exekutive selbst in seiner Präsentation betonte, für die NVIDIA Die Zukunft liegt in einer leistungsstarken und flexiblen neuen Klasse von Rechenzentren. Außerdem kündigte er den Kauf des Unternehmens an Mellanox, einem weltweit führenden Anbieter von Hochleistungsnetzwerken.

In seiner Präsentation hob Huang Innovationen von hervor NVIDIA in den Bereichen Hochleistungsrechnen, Datenwissenschaft, autonome Maschinen und Gesundheitswesen. All dies dient zunächst der wissenschaftlichen Entwicklung.

NVIDIA GTC 2020: Kampf gegen COVID-19

Der erste Punkt, den Huang in seiner Präsentation untersuchte, war, wie Technologien (hauptsächlich künstliche Intelligenz) von NVIDIA hat im Kampf gegen die Pandemie geholfen neues Coronavirus.

Die Exekutive erklärte, dass Forscher und Wissenschaftler GPUs und KI verwenden, um die Pandemie zu behandeln, abzumildern, einzudämmen und zu überwachen. Er nannte die folgenden Beispiele:

• Oxford Nanopore Technologies sequenzierte das neuartige Coronavirus-Genom in nur sieben Stunden;
• Plotly überwacht die Infektionsrate in Echtzeit;
• Das Oak Ridge National Laboratory und das Scripps Research Institute untersuchten an einem Tag eine Milliarde möglicher Arzneimittelkombinationen;
• Structura Biotechnology, die University of Texas at Austin und die National Institutes of Health rekonstruierten die 3D-Struktur des neuen Coronavirus-Proteins;
• Das Argonne National Laboratory des US-Energieministeriums verwendet das DGX A100-System zur Untersuchung der COVID-19 auf eine tiefere und detailliertere Art und Weise.

„Forscher und Wissenschaftler, die Technologien von anwenden NVIDIA High Performance Computing to save lives ist ein perfektes Beispiel für den Zweck unseres Unternehmens. Wir entwickeln Computer, um Probleme zu lösen, die normale Computer nicht lösen können.“

Jensen Huang, Gründer und CEO von NVIDIA

Auch die wissenschaftliche Entwicklung in Brasilien kann von neuen Technologien profitieren NVIDIA. „Brasilianische Forschung könnte stark von diesem System profitieren, um die Zeit von Wissenschaftlern und Forschern auf der Suche nach einem Impfstoff zu optimieren COVID-19 oder sogar andere Krankheiten wie Dengue und Zika", erklärt Mario Aguiar, Senior Manager von NVIDIA Unternehmen für Lateinamerika.

Huang zeigte ein vom Unternehmen produziertes Video, das mehrere Beispiele dafür zeigt, wie KI unsere Lebensqualität verbessert und den Fortschritt der Wissenschaft unterstützt. 

Wer das Video erzählt hat, war der MwSt, eine künstliche Intelligenz, die von entwickelt wurde NVIDIA. Diese KI komponierte auch den Soundtrack für den Clip, der vom London Symphony Orchestra wiedergegeben wurde. Schauen Sie es sich unten an:

Lassen Sie uns nun in die neuen Technologien eintauchen, die der CEO auf der NVIDIA GTC 2020 angekündigt hat.

Ampere-Architektur: GPU A100

A Nvidia A100 ist die erste GPU, die auf der Architektur basiert Ampere. Diese neue Architektur ist für die nächste Generation von Computing optimiert und vereint Training, Inferenz und Datenanalyse auf einer KI-Plattform.

Laut dem CEO, die Leistung von Grafikkarte A100 Es ist bis zu 20 Mal besser als die anderen acht GPU-Generationen des Unternehmens. Es unterstützt auch Datenanalyse, wissenschaftliches Rechnen und Cloud-Grafiken. Die Exekutive wies auf fünf Hauptmerkmale der neuen GPU hin:

• Mehr als 54 Milliarden Transistoren (die größte Kapazität eines Sieben-Nanometer-Prozessors weltweit);
• 3. Generation von Tensor Cores (Prozessoren für KI) mit TF32, flexibler und benutzerfreundlicher, was die KI-Präzision beschleunigt;
• Strukturelle Beschleunigung durch eine neue Technik, die die KI-Leistung erhöht;
• GPU Multi-Instance (MIG), was eine A100 in bis zu sieben unabhängige GPUs mit jeweils eigenen Fähigkeiten unterteilt werden;
• NVLink-Technologie der 3. Generation, die die Hochgeschwindigkeitsverbindung zwischen GPUs verdoppelt (dadurch können A100-Server als eine riesige GPU fungieren).

Die Leistung der neuen Ampere-Architektur ist sechsmal besser als die Volta-Architektur für KI-Training und siebenmal besser für Schlussfolgerung. Laut Huang integrieren immer noch 18 Unternehmen die neue GPU. Dazu gehören Alibaba Cloud, Amazon Web Services, Baidu Cloud, Cisco, Dell Technologies, Google Cloud, Hewlett Packard Enterprise (HP), Microsoft Azure und Oracle.

Für die Exekutive reicht die neue GPU aus NVIDIA Es wird es ermöglichen, drei Punkte zu verbessern, die er derzeit für kritisch hält: Big Data Management, Erstellung von Empfehlungssystemen und Entwicklung von KIs, die in Echtzeit sprechen und interagieren.

NVIDIA DGX A100: Das fortschrittlichste KI-System der Welt

O DGX-A100 ist die dritte Generation von dgx-System, künstliche Intelligenz, NVIDIA. Wie der Name schon verrät, basiert das System auf Grafikkarte A100. Dies ist der weltweit erste Server mit fünf Petaflops KI-Leistung. Und jede DGX-A100 kann von eins bis konfiguriert werden 56 unabhängige GPUs Bereitstellung einer flexiblen, softwaredefinierten Rechenzentrumsinfrastruktur.

Dieses neue System konsolidiert zum ersten Mal die Leistung und die Ressourcen eines gesamten Rechenzentrums auf einer Plattform. Der Vorteil, wie der Geschäftsführer erklärte, ist folgender: ein Rechenzentrum, das mit einem Rack von fünf Systemen betrieben wird DGX-A100, das 28 Kilowatt Strom verbraucht und 1 Million US-Dollar kostet, hat die gleiche Kapazität wie ein Rechenzentrum mit 50 Systemen DGX-1 e 600 CPUs, verbraucht 630 Kilowatt und kostet über 11 Millionen US-Dollar. Mit anderen Worten, eine maximierte Leistung ermöglicht es Unternehmen, eine schnellere Rendite aus ihren Investitionen in die KI-Infrastruktur zu erzielen.

Ein weiteres Merkmal des Systems DGX-A100 Acht der Neuen soll integriert werden Tensor Cores A100-GPUs, der bereitstellt 320 GB Speicher zum Trainieren größerer Sätze von KI-Daten und Verbindungen NVIDIA Mellanox HDR 200 Gbit/s schnelle Geschwindigkeit.

"A NVIDIA DGX-A100 ist das erste KI-System, das für den End-to-End-Machine-Learning-Workflow entwickelt wurde – von der Datenanalyse über das Training bis hin zur Inferenz. Und mit dem enormen Leistungssprung des neuen DGX können Ingenieure für maschinelles Lernen der exponentiell wachsenden Größe von KI-Modellen und -Daten immer einen Schritt voraus sein.“

Jensen Huang, Gründer und CEO von NVIDIA

Darüber hinaus können viele Workloads durch Partitionieren beschleunigt werden DGX-A100 Nutzung der Ressource GPU mit mehreren Instanzen. Auf diese Weise können Unternehmen Rechenleistung und Ressourcen nutzen, um Workloads zu beschleunigen, einschließlich Datenanalyse, Schulung und Inferenz. All dies auf einer einzigen Plattform.

Der CEO kündigte auch die nächste Generation an DGX SuperPOD, mit noch beeindruckenderen Zahlen. Der Cluster arbeitet mit 140 DGX A100-Systeme und Verbindungen von Mellanox, Reichweite 700-Petaflops von KI-Rechenleistung.

Mit dieser Technologie wird die NVIDIA einen eigenen hochmodernen Supercomputer für die interne Forschung in Bereichen wie Konversations-KI, Genomik und autonomes Fahren entwickelt. mit Kapazität zu 4,6 Exaflops der Leistung, der KI-Supercomputer von NVIDIA es ist eines der schnellsten der Welt.

Das Leistungsniveau, das der Supercomputer bis dahin erreichte, erforderte Tausende von Servern und Monate (oder sogar Jahre) der Planung und Anschaffung spezialisierter Komponenten. Die Architektur Ampere und Systemleistung DGX-A100 erlaubt die NVIDIA bauen den Supercomputer in nur einem Monat.

Um Kunden beim Aufbau ihrer eigenen technologiefähigen Rechenzentren zu unterstützen A100herunter, eine NVIDIA startete ein Referenzarchitektur DGX SuperPOD. Diese Architektur bietet Kunden ein Schema, das denselben Entwurfsprinzipien und Best Practices folgt wie die NVIDIA verwendet, um seinen KI-Supercomputing-Cluster basierend auf zu erstellen DGX-A100.

die Systeme NVIDIA DGX-A100 können unter bestellt werden Reseller-Ökosystem NVIDIA (Preis auf Anfrage). Die Technologieanbieter DDN Storage, Dell Technologies, IBM, NetApp, Pure Storage und Vast planen eine Integration DGX-A100 zu seinen Angeboten basierend auf den Referenzarchitekturen von DGX POD e DGX SuperPOD da NVIDIA.

Merlin: NVIDIAs neue Anwendung für Empfehlungssysteme

Wie das Universum dehnt sich auch das Internet ständig aus. Die Benutzererfahrung darauf wird dank der zunehmend personalisiert Empfehlungssysteme die durch KIs und arbeiten Maschinelles Lernen. Und die GPUs von NVIDIA werden seit langem eingesetzt, um die Erlernbarkeit von neuronalen KI-Netzen zu verbessern. 

Nach Auswertung dieses Kontextes und dieser Forderung, der NVIDIA startete die Merlin, eine GPU-Anwendung, die verspricht, die neue Generation von Empfehlungssystemen zu erforschen. DER Merlin Es zielt auch darauf ab, die Entwicklung von Empfehlungssystemen für Unternehmen zugänglicher zu machen. 

Die Plattform nutzt die Fähigkeiten der Architektur Ampere da Grafikkarte A100, mit dem Unternehmen ihre Empfehlungssysteme schneller und kostengünstiger entwickeln können.

aber was sind Empfehlungssysteme, schlussendlich? 

Vor nicht allzu langer Zeit musste man etwas kaufen oder abonnieren wollen und dann Anzeigen und Angebote im Internet finden. Heutzutage springen diese Anzeigen vor Ihnen her, wenn Sie Websites und Apps durchsuchen, egal ob auf Ihrem Smartphone oder Computer. 

Diese Anzeigen kommen zu Ihnen über die Empfehlungssysteme, deren KI Ihren Such- und Browserverlauf auswertet, um personalisierte Angebote an das weiterzuleiten, was Sie (vielleicht) wollen. Diese Vorschläge, was man sich auf Streaming-Plattformen als nächstes ansehen oder anhören sollte, funktionieren ebenfalls auf der Grundlage von Empfehlungssystemen.

Diese Systeme sind aufgrund der Explosion von Optionen für alle Arten von Produkten und Dienstleistungen, die im Internet existieren, auf dem Vormarsch. Es ist menschlich unmöglich, alle Optionen zu erkunden, daher versuchen Empfehlungssysteme, Ihnen dabei zu helfen, dieses Universum möglicher Entscheidungen zu filtern.

Der derzeit stattfindende Wettlauf besteht darin, immer genauere Empfehlungssysteme zu entwickeln, die personalisiertere und kohärentere Vorschläge machen, die in der Lage sind, die Wünsche des Benutzers zu erfüllen (oder zu wecken).

Jarvis: Eine Plattform zum Erstellen von Konversations-KIs

A Entlassung aus dem Homeoffice, Telemedizin und Fernlernen haben auch die Nachfrage nach noch individuelleren KI-Diensten auf Konversationsebene erhöht. Diese Dienste reichen von Echtzeit-Kundensupport bis hin zur Transkription und Zusammenfassung von Besprechungen und Videoanrufen, um sicherzustellen, dass die Mitarbeiter produktiv und in Verbindung bleiben.

O Jarvis ist eine GPU-Anwendung, die es Unternehmen ermöglicht, Video- und Sprachdaten zu verwenden, um benutzerdefinierte Konversations-KI-Dienste zu entwickeln. Dies gewährleistet einen noch individuelleren Service für die Kunden.

Zu den Unternehmen, die die Plattform bereits nutzen, gehören: 

• Voca mit einer KI, die Kunden in einem Callcenter unterstützt;
• Kensho mit einer KI, die Sprache für Finanzen und Geschäft automatisch transkribiert;
• Square, mit einer KI, die als virtueller Assistent für Kunden fungiert, um Termine zu buchen.

"O NVIDIA Jarvis kann im Gesundheitswesen, bei Finanzdienstleistungen, im Bildungswesen und in der Industrie helfen, indem es das Pflegesystem schnell und präzise automatisiert.“

Jensen Huang, Gründer und CEO von NVIDIA

Auf der Plattform entwickelte Anwendungen Jarvis wird die Innovationen des Neuen nutzen GPU A100 Tensorkern für KI-Computing und die neuesten KI-Optimierungen NVIDIA TensorRT für Schlussfolgerung. Darüber hinaus bietet die Plattform Ressourcen für Entwickler, um KI-Anwendungen zu erstellen, die in der Lage sind, einzigartige und unternehmensspezifische Terminologien zu verstehen.

Um eine KI-Anwendung zu entwickeln, die Interaktion auf Konversationsebene bietet, muss das Unternehmen sie „trainieren“, um Begriffe und Daten zu verstehen, die sich auf die von ihnen angebotenen Produkte und die Bedürfnisse ihrer Kunden beziehen. Aber das erfordert tiefes KI-Know-how, riesige Datenmengen und Rechenressourcen sowie mindestens eine Software zur Aktualisierung der Datenbanken.

Der Vorteil von Jarvis ist, dass die Plattform Ressourcen bietet, um diese Anforderungen mit aktualisierten Modellen zu erfüllen tiefe Lernen zum Verständnis der Umgangssprache (z NVIDIA Megatron BERT).

A NVIDIA ein Programm für den Zugriff auf die Plattform für eine begrenzte Anzahl von Benutzern zur Verfügung gestellt. Entwickler, die an einer Evaluierung der Plattform interessiert sind, können sich unter registrieren Webseite NVIDIA.

Antriebsplattform auf der neuen Ampere-Architektur

Eine der größten Herausforderungen in der heutigen Computerwelt sind laut Huang selbstfahrende Autos. Und der NVIDIA immer weiter verbessern Antrieb, eine Reihe von Systemen, die für diese Nische spezifisch sind.

Jetzt mit der neuen Architektur Ampere da Grafikkarte A100herunter, eine NVIDIA könnten die Fahrfähigkeiten der Plattform erweitern AGX fahren, die ein System bietet ADAS 5 Watt Leistung an der Windschutzscheibe, ein System L2 + 45-Watt-Autopilot und ein System L5 800-Watt-Robotertaxi. Alles kompatibel mit der Architektur Ampere und Bedienung über dieselbe Software.

Die Plattform verwendet die neuer System-on-Prozessor (SoC) Orin, die, integriert in die neue Architektur, die Energieeffizienz verbessern werden. Im Fall der Plattform Fahren Sie AGX Pegasus robotaxi kann das Gerät bis zu zweitausend TOPS (Billionen Operationen pro Sekunde) verarbeiten. Das ist es sechsmal mehr als die vorherige Plattform bewältigen kann.

Dank dieser Erweiterung in der neuen Architektur Ampereherunter, eine NVIDIA bietet Herstellern jetzt eine einzige Plattform und Software, die es zusammen ermöglichen, eine KI zu entwickeln und in jedem Fahrzeug einzusetzen.

Das Ökosystem NVIDIA-Laufwerk umfasst jetzt Autos, Lastwagen, führende Automobilzulieferer, Mobilitätsdienste der nächsten Generation, Startups, Kartierungs- und Simulationsdienste. Und der CEO kündigte auch an, dass die Plattform das „Paket“ ergänzen werde NVIDIA Drive RC, das in der Lage ist, ganze Flotten autonomer Fahrzeuge zu verwalten.

Die Vorhersage ist, dass Orin SoCs-Systeme Herstellern in den USA zur Verfügung stehen werden Ende 2022. Das Unternehmen glaubt, dass dies den Weg für die nächste Generation von programmierbaren und softwaredefinierten Produkten ebnet. NVIDIA-Laufwerk AGX.

Quelle: NVIDIA