Amazon-EC2-G4-Instances
Die kostengünstigsten GPU-Instances der Branche für Machine-Learning-Inferenz und grafikintensive Anwendungen
Amazon-EC2-G4-Instances sind die kostengünstigsten und vielseitigsten GPU-Instances der Branche für die Bereitstellung von Machine-Learning-Modellen wie Bildklassifizierung, Objekterkennung und Spracherkennung sowie für grafikintensive Anwendungen wie Remote-Grafik-Workstations, Spiele-Streaming und Grafik-Rendering. G4-Instances sind wahlweise mit NVIDIA-GPUs (G4dn) oder AMD-GPUs (G4ad) erhältlich.
G4dn-Instances verfügen über NVIDIA-T4-GPUs und benutzerdefinierte Intel-Cascade-Lake-CPUs und sind für Machine-Learning-Inferenz und Training im kleinen Maßstab optimiert. Diese Instances bringen auch hohe Leistung für grafikintensive Anwendungen wie Remote-Workstations, Spiele-Streaming und Grafik-Rendering. Diese Instances sind auch ideal für Kunden, die NVIDIA-Software wie RTX Virtual Workstation und Bibliotheken wie CUDA, CuDNN und NVENC bevorzugen.
G4ad-Instances verfügen über die neuesten AMD Radeon Pro V520 GPUs und AMD EPYC Prozessoren der 2. Generation. Diese Instances bieten das beste Preis-Leistungs-Verhältnis in der Cloud für Grafikanwendungen, einschließlich Remote-Workstations, Spiele-Streaming und Grafik-Rendering. Im Vergleich zu vergleichbaren Instances bieten sie eine bis zu 45% bessere Preisleistung für grafikintensive Anwendungen.
Amazon-EC2-G4dn-Instances
G4dn-Instances mit NVIDIA-T4-GPUs sind die kostengünstigsten GPU-basierten Instances in der Cloud für Machine-Learning-Inferenzen und Trainings im kleinen Maßstab. Sie bieten außerdem eine hohe Leistung und sind eine kostengünstige Lösung für Grafikanwendungen, die mit NVIDIA-Bibliotheken wie CUDA, CuDNN und NVENC für NVIDIA-GPUs optimiert sind. Sie bieten bis zu 8 NVIDIA T4-GPUs, 96 vCPUs, 100-Gbit/s-Netzwerke und 1,8 TB lokalen NVMe-basierten SSD-Speicher und sind auch als Bare-Metal-Instances erhältlich.
Vorteile
Erhöhen Sie die Leistung und reduzieren Sie die Inferenzkosten für Machine Learning
G4dn-Instances sind mit NVIDIA-T4-GPUs ausgestattet, die einen bis zu 40 Mal besseren Durchsatz bei niedriger Latenz als CPUs liefern, sodass mehr Anfragen in Echtzeit bearbeitet werden können. Außerdem sind G4dn-Instances so optimiert, dass sie für Machine-Learning-Inferenz kosteneffizient sind, die bis zu 90 % der Gesamtbetriebskosten für Machine-Learning-Initiativen ausmachen kann.
Kostengünstiges Training im kleinen Maßstab
G4dn-Instances eignen sich auch für kleine/Einsteiger-Trainingsaufträge für Machine Learning für Unternehmen oder Institutionen, die weniger empfindlich auf die Einarbeitungszeit reagieren. G4dn-Instances bieten bis zu 65 TFLOPs der FP16-Leistung und sind eine überzeugende Lösung für kleine Trainingsaufträge.
Hohe Leistung für grafikintensive Anwendungen
G4dn-Instances haben eine bis zu 1,8 Mal bessere Grafikleistung und eine bis zu 2 Mal bessere Videotranskodierungsfunktion als die G3-Instances der vorherigen Generation. Kunden können ohne zusätzliche Kosten virtuelle Workstations mit Zugriff auf NVIDIA-RTX-Workstations konfigurieren.
Funktionen
Angetrieben von NVIDIA-T4-GPUs
NVIDIA-T4-GPUs beschleunigen verschiedene Cloud-Workloads, einschließlich Deep-Learning-Training und Inferenz und Grafik. Basierend auf der neuen NVIDIA-Turing-Architektur verfügen T4-GPUs über Multi-Präzisions-Turing-Tensor-Cores und neue RT-Cores. Die Turing-Tensor-Core-Technologie mit Multi-Precision-Computing für ML ermöglicht eine bahnbrechende Leistung von FP32 über FP16 bis INT8 sowie INT4-Präzisionen. Es liefert bis zu 9,3x höhere Leistung als CPUs beim Training und bis zu 36x bei Inferenz.
Hochleistungsnetzwerk und -speicher
G4dn-Instances bieten bis zu 100 Gbit/s Netzwerk für Anwendungen, die einen hohen Durchsatz erfordern. G4dn-Instances unterstützen auch den Elastic Fabric Adapter (EFA), mit dem Kunden Anwendungen ausführen können, die ein hohes Maß an knotenübergreifender Kommunikation erfordern. Diese Instances bieten bis zu 1,8 TB NVMe-basierten SSD-Speicher für Anwendungen, die einen schnellen Zugriff auf lokal gespeicherte Daten erfordern.
RTX- und Gaming-Treiber
G4dn-Instances bieten Kunden NVIDIA-RTX- und Gaming-Treiber ohne zusätzliche Kosten. RTX-Treiber können verwendet werden, um hochwertige virtuelle Workstations für eine Vielzahl von visuell intensiven Workflows bereitzustellen. Der Gaming-Treiber bietet beispiellose Grafik- und Computingunterstützung für die Spieleentwicklung.
Amazon-EC2-G4ad-Instances
G4ad-Instances mit GPUs von AMD Radeon Pro V520 bieten das beste Preis-Leistungs-Verhältnis für grafikintensive Anwendungen in der Cloud. Diese Instancesbieten im Vergleich zu G4dn-Instances, die bereits die kostengünstigsten Instances in der Cloud waren, ein bis zu 45 % besseres Preis-Leistungs-Verhältnis für Grafikanwendungen wie Remote-Grafik-Workstations, Spiele-Streaming und Rendering, die branchenübliche APIs wie OpenGL, DirectX und Vulkan nutzen. Sie bieten bis zu 4 GPUs von AMD Radeon Pro V520, 64 vCPUs, 25 Gbit/s Netzwerk und 2,4 TB lokalen NVMe-basierten SSD-Speicher.
Vorteile
Instances mit höchster Leistung und niedrigsten Kosten für grafikintensive Anwendungen
G4ad-Instances sind die kostengünstigsten Instances in der Cloud für grafikintensive Anwendungen. Sie bieten eine bis zu 45 % bessere Preisleistung, einschließlich einer bis zu 40 % besseren Grafikleistung, im Vergleich zu vergleichbaren Instances für Grafikanwendungen wie Remote-Grafik-Workstations, Spiele-Streaming und Rendering, die Industriestandard-APIs wie OpenGL, DirectX und Vulkan nutzen.
Vereinfachte Verwaltung virtueller Workstations zu niedrigsten Kosten in der Cloud
Mit G4ad-Instances können Kunden virtuelle Workstations mit leistungsstarken Simulations-, Rendering- und Designfunktionen in wenigen Minuten konfigurieren, sodass Kunden schnell skalieren können. Kunden können Die Software von AMD Radeon Pro für Unternehmen und das Hochleistungs-Remote-Anzeige-Protokoll NICE DCV mit G4ad-Instances ohne zusätzliche Kosten verwenden, um ihre virtuellen Workstation-Umgebungen mit Unterstützung für bis zu zwei 4k-Monitore pro GPU zu verwalten.
Zuverlässigkeit in Anwendungen von Drittanbietern
Die professionelle Grafiklösung von AMD umfasst einen umfangreichen Anwendungstest- und Zertifizierungsprozess durch unabhängige Softwareanbieter (ISV), das sogenannte „Day Zero Certification Program“. Dadurch wird sichergestellt, dass Entwickler am Tag der Treiberfreigabe die neuesten AMD Radeon Pro Software for Enterprise-Funktionen in Kombination mit der Zuverlässigkeit zertifizierter Software nutzen können.
Funktionen
Angetrieben von AMD Radeon Pro V520 GPUs
AMD Radeon Pro V520 GPUs bieten eine leistungsstarke Beschleunigung für Grafiken wie virtuelle Workstations, computergenerierte Bilder (CGI), Spiele-Streaming und digitale Inhaltserstellung (DCC). Diese GPUs basieren auf AMDs-RDNA-Architektur, die hypereffizient ist, mit geringer Latenz und hoher CPU-zu-GPU-Bandbreite, die benötigt wird, um hochwertige Workstation- und Spielerlebnisse zu ermöglichen. Mit einer verbesserten Grafikpipeline ist die RDNA-Architektur darauf ausgelegt, Ihre Spiele mit höherer Leistung pro Takt schneller zu rendern.
Lokaler Instance-Speicher
G4ad-Instances bieten bis zu 2,4 TB lokalen NVMe-Speicher für schnellen Datenzugriff, sodass Kunden fotorealistische und hochauflösende 3D-Inhalte für Filme, Spiele und AR/VR-Erlebnisse effizient erstellen können.
Professionelle Grafiktreiber
G4ad-Instances bieten professionelle Grafiktreiber ohne zusätzliche Kosten. Diese Treiber können verwendet werden, um die beste virtuelle Workstation-Erfahrung für eine Vielzahl von visuell intensiven Workflows und beispiellose Grafik- und Computingunterstützung für die Spieleentwicklung bereitzustellen.
Kundenbeispiele
Ubitus ist ein innovatives Unternehmen, das beim Aufbau von Cloud-Gaming-Technologien führend ist. Über ihre Plattformen können Benutzer ein AAA-Spielerlebnis auf jedem Gerät genießen, einschließlich Smartphones, Tablets, Spielkonsolen, Smart-TVs und Computern, solange sie mit einem Breitbandnetzwerk verbunden sind.
„Ubitus hat die GPU-Fähigkeiten von AWS genutzt, um mit IO Interactive zusammenzuarbeiten, um eine Cloud-Version von Hitman 3 für ein tragbares Gaming-Gerät zu veröffentlichen. Mit der Einführung von Amazon-EC2-G4ad-Instances konnten wir bis zu 50 % mehr gleichzeitige Streams pro Instance integrieren, ohne Code zu ändern, wodurch wir unsere Kosten optimieren konnten. Die niedrigere Kostenstruktur ermöglicht es uns, Spielern weltweit mehr Spiele wie Hitman 3 anzubieten.“
Wesley Kuo, CEO – Ubitus.
„Land F/X nutzt die GPU-Beschleunigung, um Designprofis zu unterstützen und gleichzeitig ihre Leistung und Kosten zu maximieren. Land F/X hatte G4dn-Instances für ihre Entwicklung verwendet und konnte mit der Einführung von G4ad ihre Nutzung schnell migrieren, was zu einer Leistungssteigerung von 67 % beim Rendering führte und gleichzeitig 25 % gegenüber der vorherigen GPU-Nutzung einspart.“
Jeremiah Farmer CEO/Entwickler - Land F/X
Duolingo ist eine kostenlose Sprachlernplattform, die sich zur beliebtesten Möglichkeit entwickelt hat, online Sprachen zu lernen. Die Sprachwissenschaftler, Machine-Learning-Ingenieure und KI-Experten von Duolingo verwenden Daten von über 300 Millionen Lernenden, um die Effektivität der Plattform ständig zu steigern.
„Als unsere ML- und Forschungsteams wuchsen, beschlossen wir, unsere bestehende Amazon-ECS-basierte Computinginfrastruktur zu aktualisieren, um die GPU-basierten Instance-Typen Amazon EC2 P3 und G4 zu unterstützen, um unser Entwicklungsmodell besser skalieren zu können. Die ECS-optimierten AMIs von Amazon für GPU-Instances haben uns dabei geholfen, den neuen Cluster sehr schnell zum Laufen zu bringen und wir haben festgestellt, dass die G4-Instances unsere ML-Trainingsgeschwindigkeiten im Vergleich zu P2-Instances verdoppelt haben, was zu einer Kosteneinsparung von 33 % führte, während die P3-Instances die Leistung vervierfachte und eine Kosteneinsparung von 15 % ermöglichte. Insgesamt sind die G4-Instances für unsere allgemeinen Anwendungsfälle geeignet, da sie ein gutes Preis-Leistungs-Verhältnis bieten und die P3-Instances sind ideal, wenn die zusätzliche Geschwindigkeit für eine bestimmte Workload entscheidend ist.“
Max Blaze, Betriebsingenieur – Duolingo
„Blacknut ist der führende unabhängige Cloud-Gaming-Service, der der breiten Öffentlichkeit ein „Click & Play“-Erlebnis auf jedem Gerät aus einem Katalog von über 500 Videospielen bietet. Um unsere Mission zu erfüllen, niedrige Latenzzeiten, schnelle Ladezeiten und ein flüssiges Spielerlebnis zu bieten, müssen wir uns so nah wie möglich an den Spielern befinden. Mit EC2-G4dn-Instances können wir unseren Spielern eine durchschnittliche Ladezeit von 10 Sekunden oder weniger pro Spiel bieten, was ein insgesamt positives Spielerlebnis garantiert. Wir können unsere Lösung auch in weniger als 2 Monaten auf neuen Märkten einführen und diese Reaktionsfähigkeit ermöglichte es uns, seit 2020 jeden Monat neue globale Partner bereitzustellen, darunter Telecom Italia, Swisscom, POST, Drei Österreich und Ais in Thailand. Unser Service ist jetzt in über 40 Märkten verfügbar."
Pascal Manchon, CTO von Blacknut
Im Jahr 2018 hatte Snap Inc. (Snap), bekannt für seine Snapchat-Messaging-App, eine faszinierende neue Idee: Erstellen einer Reihe animierter Videos mit dem Bitmoji jedes Benutzers, dem personalisierten Cartoon-Avatar, der das Markenzeichen von Snapchat ist. Jede Woche veröffentlichte Bitmoji TV neue Episoden, die aus albernen, professionell geskripteten und animierten 3- bis 8-minütigen Videos bestanden, in denen Bitmojis von Benutzern und ihren Freunden die Stars waren und alles taten, vom Kampf gegen Zombies bis hin zum Wettbewerb in den „Olympischen Spielen auf dem Mond“ mit wenig Schwerkraft. Mit Amazon-EC2-G4-Instances war Snap in der Lage, eine unterhaltsame, mutige Art von personalisierter Unterhaltung zu schaffen, die schnell genug gerendert wurde, damit Millionen sie gleichzeitig genießen können, während die Computingkosten niedrig gehalten wurden.
„Mit Amazon-EC2-G4-Instances im Vergleich zu Amazon-EC2-G3-Instances erhielten wir eine Steigerung von 50 Prozent mit 10 Prozent höheren Kosten.“
Brad Kotsopolous, Software Engineer - Snap Inc.
Nearmap wurde 2007 in Perth, Australien, gegründet und hat sich von einem kleinen Startup zu einem führenden Unternehmen im Bereich Digital Imaging entwickelt. Das Unternehmen ist spezialisiert auf die Erstellung von 2D- und 3D-Bildern aus Luftbildern von Landschaften, eine wertvolle Ressource für eine Vielzahl von Branchen. Für Nearmap waren die Auswirkungen des Upgrades auf Amazon-EC2-G4-Instances unmittelbar und tiefgreifend: Das Unternehmen konnte dreimal so viele Daten zu den gleichen Kosten wie auf Amazon-EC2-G2-Instances ausführen, in einem Prozess, der sich mühelos anfühlte und dessen Integration sich mit den bereits verwendeten AWS-Tools nahtlos anfühlte.
„Unsere Kunden verlassen sich auf uns, wenn es darum geht, hochpräzise 3D-Realitätsmodelle zu liefern, die aus Mehrwinkelluftbildern über riesige Abdeckungsbereiche berechnet werden. Wir verwenden etwa 870 Tausend GPU-Kerne pro Tag. Früher haben wir diese Pipeline auf Amazon-EC2-G2-Instances ausgeführt, aber wir sind auf Amazon-EC2-G4-Instances umgestiegen und haben unsere Kosten um 67 % gesenkt.“
John Corbett, Director - Vision Systems
![Untold Untold](https://d1.awsstatic.com/logos/customers/Untold%20logo.3dc8f8fdc756518d311194934590ab7ddd67d2d9.jpg)
Untold Studios hat verschiedene AWS-Konfigurationen für virtuelle Workstations bereitgestellt, darunter G4-Instances, die NVIDIA T4-GPUs und RTX-Technologie aufweisen und für VFX- und Animations-Workflows optimiert sind. Mit erweiterten Instance-Optionen zur Auswahl können Untold Studios die Typen virtueller Maschinen genauer an bestimmte Workloads anpassen, ein Ansatz, der sowohl kreativ als auch wirtschaftlich vorteilhaft ist.
„G4 hat einen großen Einfluss auf unsere Arbeitsweise. Wir können eine ganze Flotte von Workstations mit einer Codezeile aufrüsten, damit Künstler schneller arbeiten und die Kreativität bei allem, was wir tun, verbessern.“
Sam Reid, Head of Technology – Untold Studios
Produktdetails
Instance-Größe | GPU | vCPUs | Arbeitsspeicher (GiB) | Instance-Speicher (GB) | Netzwerkbandbreite (Gbps) | EBS-Bandbreite (GBit/s) | On-Demand-Preis/Std.* | 1 Jahr lang Reserved Instance pro Stunde* (Linux) | 3 Jahre lang Reserved Instance pro Stunde* (Linux) | |
G4dn |
||||||||||
Single GPU VMs | g4dn.xlarge | 1 | 4 | 16 | 1 x 125 NVMe-SSD | Bis zu 25 | Bis zu 3,5 | 0,526 USD | 0,316 USD | 0,210 USD |
g4dn.2xlarge | 1 | 8 | 32 | 1 x 225 NVMe-SSD | Bis zu 25 | Bis zu 3,5 | 0,752 USD | 0,452 USD | 0,300 USD | |
g4dn.4xlarge | 1 | 16 | 64 | 1 x 225 NVMe-SSD | Bis zu 25 | 4,75 | 1,204 USD | 0,722 USD | 0,482 USD | |
g4dn.8xlarge | 1 | 32 | 128 | 1 x 900 NVMe-SSD | 50 | 9,5 | 2.176 USD | 1,306 USD | 0,870 USD | |
g4dn.16xlarge | 1 | 64 | 256 | 1 x 900 NVMe-SSD | 50 | 9,5 | 4,352 USD | 2,612 USD | 1,740 USD | |
Multi GPU VMs | g4dn.12xlarge | 4 | 48 | 192 | 1 x 900 NVMe-SSD | 50 | 9,5 | 3,912 USD | 2,348 USD | 1,564 USD |
g4dn.metal | 8 | 96 | 384 | 2 x 900 NVMe-SSD | 100 | 19 | 7,824 USD | 4,694 USD | 3,130 USD | |
G4ad |
||||||||||
Single GPU VMs | g4ad.xlarge | 1 | 4 | 16 | 1 x 150 NVMe-SSD | Bis zu 10 | Bis zu 3 | 0,379 USD | 0,227 USD | 0,178 USD |
g4ad.2xlarge | 1 | 8 | 32 | 1 x 300 NVMe-SSD | Bis zu 10 | Bis zu 3 | 0,541 USD | 0,325 USD | 0,254 USD | |
g4ad.4xlarge | 1 | 16 | 64 | 1 x 600 NVMe-SSD | Bis zu 10 | Bis zu 3 | 0,867 USD | 0,520 USD | 0,405 USD | |
Multi GPU VMs | g4ad.8xlarge | 2 | 32 | 128 | 1 x 1200 NVMe-SSD | 15 | 3 | 1,734 USD | 1,040 USD | 0,810 USD |
g4ad.16xlarge | 4 | 64 | 256 | 1 x 2400 NVMe-SSD | 25 | 6 | 3,468 USD | 2,081 USD | 1,619 USD |
* Die angegebenen Preise gelten in der AWS-Region USA Ost (Nord-Virginia). Preise für Reserved Instances für 1 Jahr und 3 Jahre gelten für Bezahloptionen mit teilweiser Vorauszahlung oder, im Fall von instances ohne die Option der teilweisen Vorauszahlung, ohne Vorauszahlung.
Erste Schritte mit G4dn-Instances
Verwenden von vorgefertigten AMIs und Containern von AWS
Mit Amazon-Deep-Learning-AMIs oder Deep Learning Containers können Sie schnell Amazon-EC2-Instances starten, die mit beliebten Deep-Learning-Frameworks und -Schnittstellen wie TensorFlow, PyTorch und MXNet vorinstalliert sind, um anspruchsvolle, benutzerdefinierte KI-Modelle zu trainieren, mit neuen Algorithmen zu experimentieren oder um neue Fähigkeiten und Techniken erlernen. Für weitere Informationen, besuchen Sie die Produktseite der Amazon-Deep-Learning-AMIs oder die Produktseite der AWS Deep Learning Containers.
RTX-Virtual-Workstation-AMIs von NVIDIA unterstützen die Ausführung von bis zu vier 4K-Anzeigen pro GPU für Visualisierungs-Apps. NVIDIA-Gaming-AMIs rendern Videos mit 60 FPS und unterstützen die Ausführung eines einzelnen 4K-Anzeigen pro GPU.
Erstellen Sie Ihr eigenes benutzerdefiniertes AMI mit NVIDIA-Treibern
Die NVIDIA-Rechenzentrum-Treiber bieten die beste Leistung für hochintensive Rechenworkloads, die häufig in Deep Learning, Datenwissenschaft und HPC zu finden sind.
NVIDIA-RTX-Treiber können verwendet werden, um die Virtual-Workstation-Software von NVIDIA RTX zu aktivieren. RTX vWS bietet Unterstützung für bis zu vier 4K-Anzeigen pro GPU. NVIDIA-Gaming-Treiber unterstützen die fortschrittlichsten Grafikkarten, Gaming-Lösungen und Gaming-Technologien der Welt. Dieser Treiber bietet Unterstützung für eine einzelne 4K-Anzeige pro GPU.
Um zu erfahren, wie Sie diese Treiber auf Ihrer Instance installieren, folgen Sie diesen Links für Linux und Windows.
Erste Schritte mit G4ad-Instances
Verwenden vorgefertigter AMIs von AWS
Softwaretreiber für AMD Radeon Pro für Unternehmen bieten Hochleistungsgrafiken für virtuelle Workstations, Spiele-Streaming, Rendering und andere Grafikanwendungen. Für einen schnellen Einstieg können Sie von AWS bereitgestellte AMIs verwenden, die die Software AMD Radeon Pro für Unternehmen vorinstalliert haben. Diese AMIs sind auf dem AMD-Radeon-Pro-Marketplace verfügbar.
Erstellen Sie Ihr eigenes benutzerdefiniertes AMI mit AMD-Treibern
Softwaretreiber für AMD Radeon Pro für Unternehmen können verwendet werden, um Instances mit leistungsstarker und zuverlässiger professioneller Grafik zu konfigurieren. Workstations, die mit diesen Treibern ausgestattet sind, können bis zu zwei 4K-Anzeigen unterstützen.
Um zu erfahren, wie Sie diese Treiber auf Ihrer Instance installieren, um Ihr eigenes benutzerdefiniertes AMI zu erstellen, folgen Sie diesen Links für Linux und Windows.
Ressourcen
AWS Compute Blog
Detaillierte Informationen zu den neuen Amazon-EC2-G4ad-Instances
AMD Blog
Der ultimative Leitfaden: Einrichten von Amazon EC2 G4ad-Instances
AMD Blog
AMD-basierte Amazon EC2 G4ad-Instances beschleunigen Game-Engine-Workflows in der Cloud
AMD Blog
Greifen Sie mit Autodesk® Inventor® und Amazon EC2 G4ad Instances überall auf Ihre Daten und Konstruktionen zu
AMD Blog
Der ultimative Leitfaden: Einrichten von Amazon EC2 G4ad-Instances
Erste Schritte mit AWS
![Step 1 - Sign up for an Amazon Web Services account Step 1 - Sign up for an Amazon Web Services account](https://d1.awsstatic.com/Digital%20Marketing/icon1.e8803ca4304aca252ee0aa510c3908cb69fab31b.png)
Registrieren Sie sich für ein AWS-Konto
![](https://d1.awsstatic.com/Digital%20Marketing/icon3.b1f2051196adf5ee2e15edf7bbb7d361a095a141.png)
Beginnen Sie die Erstellung mit AWS
Weitere Informationen über andere Amazon EC2-Instance-Typen