Con el lanzamiento de la nueva generación de chips Blackwell para el mercado de GPU de consumo, se esperaba ver versiones de estaciones de trabajo de la GPU también - versiones destinadas a reemplazar la serie A5000 / A6000 y a precios más bajos que las GPU de nivel A100 / H100. Esto sucedió, pero en el proceso, NVIDIA completamente confundió a todos al lanzar no menos de tres versiones del RTX PRO 6000 Blackwell en sólo seis meses.Nosotros en HOSTKEY nos unimos a la carrera de rendimiento con el lanzamiento de la última versión - el RTX PRO 6000 Blackwell Server Edition - lo probamos minuciosamente, y tenemos algunos resultados para compartir (y mostrar). 
 
 
 
 
 Prueba el servidor con NVIDIA RTX 6000 PRO 96 GB — ¡gratuito! Póngase en contacto con nuestro equipo de ventas para conocer las condiciones de prueba.* alcanzarnos a nosotros * - La GPU se proporciona para una prueba gratuita en una base individual y no está disponible en todos los casos. Try the server with NVIDIA RTX 6000 PRO 96 GB — for free! Póngase en contacto con nuestro equipo de ventas para conocer las condiciones de prueba.* alcanzarnos a nosotros * - La GPU se proporciona para una prueba gratuita en una base individual y no está disponible en todos los casos. ¿Qué es usted? Si miras a la En el sitio web de Nvidia, vemos la siguiente imagen: Especificaciones de GPU Especificaciones de GPU Tenemos tres opciones de tarjetas de vídeo que difieren en el factor de forma, el tipo de sistema de refrigeración y el consumo máximo de energía. A primera vista, uno podría asumir que la versión media (Workstation Edition) debería ser la más rápida y probablemente la más caliente, basada en su consumo de energía. Comparemos sus especificaciones en más detalle y contrastarlas con la RTX 5090D más rápida. 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 Workstation Edition 
 Max-Q Workstation edition 
 Server Edition 
 RTX 5090 
 
 
 
 
 
 
 CUDA Parallel Processing cores 
 24064 
 24064 
 24064 
 21760 
 
 
 
 
 
 
 Single-Precision Performance (FP32) 
 125 TFLOPS 
 125 TFLOPS 
 120 TFLOPS 
 103 TFLOPS 
 
 
 
 
 
 
 RT Core Performance 
 380 TFLOPS 
 333 TFLOPS 
 355 TFLOPS 
 - 
 
 
 
 
 
 
 Memory Bandwidth 
 1792 GB/s 
 1792 GB/s 
 1597 GB/s 
 1792 GB/sec 
 
 
 
 
 
 
 GPU Memory 
 96 GB GDDR7 with ECC 
 96 GB GDDR7 with ECC 
 96 GB GDDR7 with ECC 
 32 GB GDDR7 
 
 
 
 
 
 
 Memory Interface 
 512-bit 
 512-bit 
 512-bit 
 512-bit 
 
 
 
 
 
 
 Power Consumption 
 Up to 600W (Configurable) 
 300W 
 600W 
 575W Procesamiento de colores paralelo 24064 24064 24064 21760 Desempeño de precisión única (FP32) 125 Tetris 125 Tetris 120 TFLOPS 103 TFLOPS El rendimiento de RT Core 380 TFLOPS 333 TFLOPS 355 TFLOPS - Bandera de memoria 1792 GB/s 1792 GB/s 1597 GB por segundo 1792 GB/sec Memoria GPU 96 GB GDDR7 con ECC 96 GB GDDR7 con ECC 96 GB GDDR7 con ECC 32 GB de GDDR7 Interfaz de memoria 512 bits 512 bits 512 bits 512 bits Consumo de energía Hasta 600W (Configurable) 300W 600W 575 W La GPU que hemos probado (RTX 6000 Blackwell Server Edition) es la más débil en la gama (aunque se podría esperar que la versión del servidor sea más potente que la versión de Workstation), sin embargo, todavía supera la RTX 5090 de clase consumidor debido a un mayor número de núcleos en el chip. Gracias a las velocidades de reloj reducidas, el consumo de energía de la tarjeta permanece dentro de 300W, pero se puede trasladar al modo boost, donde funciona a frecuencias cercanas a las de la Workstation Edition. La característica principal de la Server Edition es su enfriamiento pasivo, que utiliza el flujo de aire estándar del chasis del servidor. Gracias a su tamaño compacto, permite la colocación simultánea de un gran número de GPU en una fila (foto de la exposición). Instalar el servidor Probaremos esta GPU utilizando la siguiente configuración: 
 
 
 
 
 
 Server platform from ASUS Procesador AMD EPYC 9554 768 GB de RAM DDR5 2 x 3,84 TB NVMe 1 x RTX 6000 Pro servidor Técnicamente, la plataforma soporta hasta 4 GPUs, pero debido a las limitaciones del consumo de energía en el modo sin restricción de energía, se pueden instalar un máximo de dos GPUs RTX 6000 PRO SERVER. El problema surge porque la plataforma proporciona 4 conectores de alimentación por lado, que se conectan a la tarjeta a través de un adaptador. Como se muestra en la foto, la caja está equipada con ventiladores potentes en ambos lados y una carcasa especializada, asegurando un excelente flujo de aire sobre los radiadores y los componentes de la GPU. Ahora, sobre las pruebas Realizaremos las pruebas en dos modos: ejecutaremos LLMs utilizando la configuración Ollama + OpenWebUI y la generación de vídeo con el modelo WAN2 gratuito en ComfyUI. Más precisamente, utilizaremos nuestro asistente de red neural, que emplea múltiples modelos para RAG (Generación aumentada de recuperación) e interacciona con un servidor MCP externo. El LLM en prueba es Qwen3-14B, que requiere aproximadamente 14 GB de VRAM en modo de contexto 16K. Mirando hacia adelante, podemos decir que las comparaciones que involucran modelos que se ajustan completamente a la GPU muestran un aumento del rendimiento de alrededor del 15-20% en comparación con la RTX 5090. Para empezar, compararemos la generación anterior A5000 con la RTX 6000 PRO. La comparación se llevará a cabo en modo de bajo consumo de energía, donde la GPU realmente consume hasta 450W (modo de impulso), en lugar del máximo de 300W indicado en la documentación. Preguntaremos a nuestro asistente de red neural la siguiente pregunta: "¿Cómo instalar los controladores de Nvidia en Linux?" 
 
 
 
 
 
 
 
 
 
 
 
 GPU 
 Response Speed, Tokens per Second 
 Response Speed, Tokens per Second 
 Response Speed, Tokens per Second 
 
 
 
 
 
 A5000 (Cold Boot) 
 47.3 
 2700 
 17 
 
 
 
 
 
 RTX 6000 PRO (Cold Boot) 
 103.5 
 8285 
 5 
 
 
 
 
 
 A5000 (Model Already Loaded to GPU) 
 48.2 
 2910 
 13 
 
 
 
 
 
 RTX 6000 PRO (Model Already Loaded to GPU) 
 107 
 11000 
 4 A5000 (barco frío) 47.3 2700 17 RTX 6000 PRO (Bot frío) 103.5 8285 5 A5000 (Model Already Loaded to GPU) 48.2 2910 13 RTX 6000 PRO (modelo ya cargado en GPU) 107 11000 4 Como se puede ver, en comparación con el A5000, que todavía está en uso, la nueva GPU es más de dos veces más potente, y su velocidad de respuesta (es decir, cambiar entre modelos, buscar, consultar el servidor MCP, procesar y generar respuestas) es más de tres veces más rápida. Sin embargo, usar el RTX 6000 PRO para tales tareas es como cracking nuts con un microscopio. Para comparación, probemos la misma carga de trabajo en el H100 en una "carrera caliente" (con el modelo ya cargado). El H100 tiene 3,5 veces menos núcleos CUDA, velocidades de reloj más bajas, y el rendimiento teórico es aproximadamente 4 veces menor en valores sintéticos en comparación con el RTX 6000 PRO. Sin embargo, se beneficia de un nodo de proceso de 4nm (en comparación con 5nm para el RTX 6000 PRO), 10 veces mayor ancho de banda de memoria y un tipo de memoria más avanzado. A pesar de esto, nuestra versión del H100 tiene 80 GB de memoria, en comparación con el 96 GB del H100. 
 
 
 
 
 
 
 
 
 
 GPU 
 Response Speed, Tokens per Second 
 Response Speed, Tokens per Second 
 Response Speed, Tokens per Second 
 
 
 
 
 
 H100 (Model Already Loaded to GPU) 
 60 
 2900 
 4 
 
 
 
 
 
 RTX 6000 PRO (Model Already Loaded to GPU) 
 107 
 11000 
 4 H100 (modelo ya cargado en GPU) 60 2900 4 RTX 6000 PRO (modelo ya cargado en GPU) 107 11000 4 Esto hace que el RTX 6000 PRO sea un excelente sustituto para el A100/H100 en las cargas de trabajo de inferencia del servidor, teniendo en cuenta que la anchura de banda de HBM3 durante las transferencias de datos se queda atrás de GDDR7. sin embargo, para el entrenamiento de modelos o el ajuste fino, el H100 sobresale debido a su menor consumo de energía, soporte a nivel de hardware a través del Transformer Engine para modelos con precisión FP16/FP8 (el H100 sólo soporta FP4), y su capacidad para acelerar tareas cuando los modelos están completamente cargados en la memoria (con anchura de banda hasta 3 TB/s). Poner el RTX 6000 PRO a pleno uso Mucho más interesante es probar esta GPU en otra tarea intensiva en recursos, específicamente, la generación de vídeo. Para esto, usaremos un nuevo modelo de Alibaba con pesos abiertos e instalaremos todo en ComfyUI. Otra vez, hemos encontrado un problema: CUDA 12.9 (y versiones posteriores) y su compatibilidad con PyTorch. La solución, una vez más, es instalar desde las ediciones nocturnas hasta que esté disponible el soporte oficial: pip install --pre --upgrade --no-cache-dir torch torchvision torchaudio --extra-index-url https://download.pytorch.org/whl/nightly/cu129
 El proceso implica el uso del modo de generación de vídeo basado en prompts (Wan 2.2 14B texto a vídeo), que funciona de la siguiente manera: 
 
 Una escena enigmática y humorística se desarrolla en una serena ribera del río, donde dos beavers trabajando duro en cascos de seguridad amarillos brillantes y vestidos de naranja robustos se unen para arrastrar una enorme y brillante estantería de servidor hacia su meticulosamente construida lodge de beaver. La lodge, construida a partir de logs y piedras, cuenta con un signo audaz y moderno que lee "HOSTKEY" en tipografía audaz e inspirada en la tecnología. Las expresiones decididas de los beavers y las luces brillantes de la estantería del servidor crean una mezcla surrealista de naturaleza y tecnología. El río brilla en la luz del sol, y la entrada de la lodge está enmarcada por lujuria, enfatizando la armonía entre el hábitat natural de los Una escena enigmática y humorística se desarrolla en una serena ribera del río, donde dos beavers trabajando duro en cascos de seguridad amarillos brillantes y vestidos de naranja robustos se unen para arrastrar una enorme y brillante estantería de servidor hacia su meticulosamente construida lodge de beaver. La lodge, construida a partir de logs y piedras, cuenta con un signo audaz y moderno que lee "HOSTKEY" en tipografía audaz e inspirada en la tecnología. Las expresiones decididas de los beavers y las luces brillantes de la estantería del servidor crean una mezcla surrealista de naturaleza y tecnología. El río brilla en la luz del sol, y la entrada de la lodge está enmarcada por lujuria, enfatizando la armonía entre el hábitat natural de los El lanzamiento del proceso dura aproximadamente 40 minutos. El uso de la memoria y el consumo de energía durante el pico de rendimiento se pueden ver en la captura de pantalla de abajo. La temperatura máxima nunca superó los 83 grados. La generación se establece en 720p/24, ya que el modelo está optimizado para esta resolución. Ajustándolo a 1080p o aumentando la tasa de cuadro puede causar que la GPU se congele o prolongue significativamente el tiempo de generación más allá de dos horas (no esperamos más, ya que el proceso se quedó atrapado en el 60%). Si usásemos el modelo WAN 2.2 5B en su lugar, generar un vídeo similar (5 segundos, 24 cuadros) solo tarda 160 segundos. Mejorar el poder Como se mencionó anteriormente, la GPU cuenta con un interruptor de modo de consumo de energía. Si bien este ajuste no benefició significativamente a los modelos, cambiar a un modo de energía de 600 watts ya produce resultados mejorados. Según las lecturas de nvidia-smi, logramos extraer un adicional de cinco watts de rendimiento de la GPU. Sin embargo, en este modo, las temperaturas pueden subir hasta 90 grados. En promedio, el consumo de energía en ambos modos durante la generación permanece dentro del rango de 200-250 watts. Como es obvio, aumentar el consumo máximo de energía acelera la generación en un 25%, reduciéndola a un promedio de 30 minutos. Sin embargo, esto viene a costa de temperaturas de chips y componentes significativamente más altas. Para tareas que requieren una operación prolongada de la GPU bajo una carga pesada, es aconsejable mantener el sistema en modo de bajo consumo de energía para evitar el estrés térmico. Conclusión Es mucho más estable que el consumidor de clase 5090, carece de los ventiladores propensos a polvo que se encuentran a menudo en los modelos de consumo, cuenta con una memoria superior con control de paridad y ofrece velocidades de reloj más altas. En comparación con el H100, es cuatro veces más asequible mientras ofrece un rendimiento comparable (y en algunos casos incluso mejor) para tareas no relacionadas con el entrenamiento de redes neuronales profundas. la inferencia, el procesamiento gráfico y el manejo de vídeo son significativamente más rápidos que en las generaciones anteriores, y el nuevo CUDA 13 junto con la última versión de conductores 580 aumentó aún más el rendimiento. Una limitación clave es la falta de controladores (en el momento de la escritura) para la Edición Server de Windows. Mientras que los controladores están disponibles para la Edición Workstation, los intentos de instalación resultan en un mensaje que afirma que la GPU no se detecta. Este problema no ocurre en Linux, donde probamos con éxito la tarjeta en tanto Ubuntu 22.04 y 24.04. Sin embargo, los controladores necesitaban el núcleo de Linux versión 6+ y GCC 12 para la compilación. 
 
 
 
 
 Prueba el servidor con NVIDIA RTX 6000 PRO 96 GB — ¡gratuito! Póngase en contacto con nuestro equipo de ventas para conocer las condiciones de prueba.* alcanzarnos a nosotros * - La GPU se proporciona para una prueba gratuita en una base individual y no está disponible en todos los casos. Try the server with NVIDIA RTX 6000 PRO 96 GB — for free! Póngase en contacto con nuestro equipo de ventas para conocer las condiciones de prueba.* alcanzarnos a nosotros * - La GPU se proporciona para una prueba gratuita en una base individual y no está disponible en todos los casos.

Up to 22% discounts on instant servers!

Este audio es producido en el idioma original de la historia!

NVIDIA RTX 6000 Blackwell Server Edition: Tests, Benchmarks y Comparación

About Author

COMENTARIOS

ETIQUETAS

ESTE ARTÍCULO FUE PRESENTADO EN

Related Stories

Valhalla de Floki se une como patrocinador asociado de la gira de la India por Sri Lanka

De los foros a los feeds: cómo los algoritmos de las redes sociales influyen en la interacción digital

¿Quieres ganar un concurso de redacción de HackerNoon? Esto es lo que recomiendan los ganadores del concurso #crypto-api

Crecimiento de las criptomonedas: creación de perfiles de usuarios eficaces

Valhalla de Floki se une como patrocinador asociado de la gira de la India por Sri Lanka

De los foros a los feeds: cómo los algoritmos de las redes sociales influyen en la interacción digital

¿Quieres ganar un concurso de redacción de HackerNoon? Esto es lo que recomiendan los ganadores del concurso #crypto-api

Crecimiento de las criptomonedas: creación de perfiles de usuarios eficaces

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps