GPU NVIDIA L4 con núcleo Tensor

El acelerador universal innovador para vídeo, IA y gráficos eficientes.

Acelera las cargas de trabajo de vídeo, IA y gráficos

La GPU NVIDIA L4 con núcleo Tensor impulsada por la arquitectura NVIDIA Ada Lovelace ofrece aceleración universal de bajo consumo, para vídeo, IA, informática visual, gráficos, virtualización y mucho más. Empaquetada en un factor de forma de bajo perfil, la L4 es una solución rentable y de bajo consumo para un alto rendimiento y baja latencia en todos los servidores, desde el perímetro hasta el centro de datos y la nube.

Rendimiento de vídeo de IA hasta 120 veces mayor

Rendimiento de vídeo de IA hasta 120 veces mayor

Rendimiento medido: comparación de servidores con CPU Intel 8362 frente a 8 CPU L4, procesamiento de vídeo de extremo a extremo con decodificación CV-CUDA®, preprocesamiento, inferencia (SegFormer), posprocesamiento, codificación, NVIDIA® TensorRT™ 8.6 frente a procesamiento solo con CPU utilizando OpenCV 4.7, inferencia PyTorch.

Disfruta del rendimiento en tiempo real del procesamiento de vídeo con IA

Transforma las aplicaciones de vídeo con la potencia de NVIDIA L4. Tanto en un streaming en directo de millones de espectadores, al permitir que los usuarios diseñen las historias más creativas o al ofrecer experiencias inmersivas, aumentadas y de realidad virtual (AR/VR), los servidores con L4 permiten alojar hasta 1040 flujos de vídeo AV1 simultáneos a 720p30 para usuarios móviles.1

Con los núcleos Tensor de cuarta generación y la memoria de la GPU 1,5 veces más grande, las GPU NVIDIA L4 combinadas con la biblioteca CV-CUDA® llevan la comprensión del contenido de vídeo a un nuevo nivel. La L4 ofrece un rendimiento de vídeo de IA 120 veces mayor que las soluciones basadas en CPU, permitiendo a las empresas obtener información en tiempo real para personalizar el contenido, mejorar la relevancia de la búsqueda, detectar contenido objetable e implementar soluciones de espacio inteligente.

1. Rendimiento medido: 8x L4 AV1 de baja latencia preestablecido P1 que codifica a 720p30.

Consume menos energía y espacio con la L4

A medida que la IA y el vídeo se extienden más y más, la demanda de computación eficiente y rentable aumenta más que nunca. Las GPU NVIDIA L4 con núcleo Tensor ofrecen un rendimiento de vídeo por IA hasta 120 veces mejor, lo que da lugar a una eficiencia energética hasta un 99 por ciento mayor y un menor coste total de propiedad en comparación con la infraestructura tradicional basada en CPU. Esto permite a las empresas reducir el espacio en rack y rebajar significativamente la huella de carbono, al tiempo que pueden escalar sus centros de datos a un número mucho mayor de usuarios. La energía ahorrada al cambiar de las CPU a las NVIDIA L4 en un centro de datos de 2 megavatios (MW) puede alimentar a casi 2000 hogares durante un año o igualar la compensación de carbono de 172 000 árboles cultivados durante 10 años.2

 

2. Resultados de la calculadora EPA utilizando un ahorro de 1,677 MW.

Mayor eficiencia energética

Mayor eficiencia energética

Comparación del TCO del servidor con 8 CPU L4 frente a 2S Intel 8362: procesamiento de vídeo de extremo a extremo con pre y postprocesamiento CV-CUDA, decodificación, inferencia (SegFormer), codificación, TRT 8.6 frente al procesamiento solo por CPU utilizando OpenCV 4.7, inferencia PyTorch.

Acelera el rendimiento de la IA generativa

2.5 veces más rendimiento de IA generativa

La L4 ofrece un rendimiento de IA generativa 2,5 veces mayor

Rendimiento medido: generación de imágenes L4 frente a T4, Stable Diffusion v2.1 de 512 x 512, FP16, TensorRT 8.5.2.

La IA generativa para imágenes y texto hace mucho más cómoda la vida del cliente y más inmersivas las experiencias en todos los sectores. La NVIDIA L4 supercarga la inferencia de cálculo intensivo de la IA generativa al ofrecer un rendimiento hasta 2,5 veces mayor en comparación con la generación anterior de GPU. Y con un 50 por ciento más de capacidad de memoria, la L4 permite una generación de imágenes mayores, de hasta 1024 x 768, imposible en la generación anterior de GPU.


Optimiza el rendimiento de los gráficos

Renderización en tiempo real más de cuatro veces mayor y de trazado de rayos más de tres veces mayor

Renderización en tiempo real más de cuatro veces mayor y de trazado de rayos más de tres veces mayor

Rendimiento medido: Renderizado en tiempo real: rendimiento de NVIDIA Omniverse™ en el renderizado en tiempo real a 1080p y 4K con NVIDIA Deep Learning Super Sampling (DLSS) 3.
Trazado de rayos: geomedia del rendimiento en juegos AAA con trazado de rayos y DLSS 3.

Con núcleos RT de tercera generación y NVIDIA Deep Learning Super Sampling 3 (DLSS 3) con IA, la NVIDIA L4 ofrece un rendimiento cuatro veces mayor para avatares basados en IA, mundos virtuales NVIDIA Omniverse™, juegos en la nube y estaciones de trabajo virtuales. Estas capacidades permiten a los creadores diseñar gráficos y escenas de calidad cinematográfica en tiempo real para experiencias visuales inmersivas que no son posibles con las CPU.

Acelera las cargas de trabajo de manera eficiente y sostenible

La NVIDIA L4 es una parte integral de la plataforma NVIDIA data center. Diseñada para el vídeo, la IA, la estación de trabajo virtual NVIDIA RTX™ (vWS), los gráficos, la simulación, la ciencia de datos y el análisis de los datos, la plataforma acelera más de 3000 aplicaciones y está disponible en cualquier lugar a escala, desde el centro de datos hasta el perímetro y la nube, ofreciendo tanto mejoras de rendimiento como oportunidades de eficiencia energética.

Optimizada para implementaciones generalistas, la L4 ofrece un factor de forma de bajo perfil con un consumo de 72 W, lo que la convierte en una solución eficiente y rentable para cualquier servidor o instancia de nube del ecosistema de socios de NVIDIA.

Agiliza el desarrollo y la implementación con el software de IA preparado para las empresas

Optimizada para agilizar el desarrollo y la implementación de la IA, la suite de software NVIDIA AI Enterprise incluye flujos de trabajo de soluciones de IA, marcos, modelos preentrenados y optimización de infraestructura certificados para ejecutarse en plataformas de centros de datos comunes y en NVIDIA-Certified Systems™ con GPU NVIDIA L4.

NVIDIA AI Enterprise es un complemento a la licencia para las GPU NVIDIA L4, que hace que la IA sea accesible para casi todas las organizaciones con el mayor rendimiento en entrenamiento, inferencia y ciencia de datos. NVIDIA AI Enterprise, junto con NVIDIA L4, simplifica el desarrollo de plataformas preparadas para la IA, acelera el desarrollo y la implementación de la IA y ofrece rendimiento, seguridad y escalabilidad para recopilar información más rápido y alcanzar antes el rendimiento de la actividad.

Quién utiliza la L4

Especificaciones

Formato L4
FP32 30,3 teraFLOPs
Tensor Core de TF32 120 teraFLOPS*
Tensor Core de FP16 242 teraFLOPS*
Tensor Core de BFLOAT16 242 teraFLOPS*
Tensor Core de FP8 485 teraFLOPs*
Tensor Core de INT8 485 TOPs*
Memoria de la GPU 24 GB
Ancho de banda de memoria de la GPU 300 GB/s
Descodificadores NVENC | NVDEC | JPEG 2 | 4 | 4
Potencia máxima de diseño térmico (TDP) 72 W
Formato 1 ranura de bajo perfil, PCIe
Interconexión PCIe Gen4 x16 64 GB/s
Opciones del servidor Sistemas certificados por NVIDIA y partners con entre 1 y 8 GPU

* Mostrado con dispersión. Las especificaciones son la mitad inferiores sin dispersión.

Comienza a utilizar el acceso temprano a la L4 en Google Cloud.