Com o lançamento da nova geração de chips Blackwell para o mercado de GPUs de consumo, era esperado ver versões de estações de trabalho da GPU também - versões destinadas a substituir a série A5000 / A6000 e preços mais baixos do que as GPUs de nível A100 / H100. Isso aconteceu, mas no processo, a NVIDIA confundiu completamente todos ao lançar não menos de três versões do RTX PRO 6000 Blackwell em apenas seis meses.Nós da HOSTKEY juntamos-nos à corrida de desempenho com o lançamento da versão mais recente - o RTX PRO 6000 Blackwell Server Edition - testou-o minuciosamente, e temos alguns resultados para compartilhar (e mostrar). 
 
 
 
 
 Experimente o servidor com o NVIDIA RTX 6000 PRO 96 GB - gratuitamente! Entre em contato com a nossa equipe de vendas para saber mais sobre as condições de condução de teste.* Reach para nós * - A GPU é fornecida para teste gratuito em uma base individual e não está disponível em todos os casos. Try the server with NVIDIA RTX 6000 PRO 96 GB — for free! Entre em contato com a nossa equipe de vendas para saber mais sobre as condições de condução de teste.* Reach para nós * - A GPU é fornecida para teste gratuito em uma base individual e não está disponível em todos os casos. O que é você? Se você olhar para o No site da Nvidia, vemos a seguinte imagem: Especificações oficiais da GPU Especificações oficiais da GPU Temos três opções de cartão de vídeo que diferem em fator de forma, tipo de sistema de arrefecimento e consumo máximo de energia. À primeira vista, pode-se supor que a versão média (Workstation Edition) deve ser a mais rápida e provavelmente a mais quente, com base em seu consumo de energia. Vamos comparar suas especificações em mais detalhes e contrastá-las com a mais rápida RTX 5090D. 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 Workstation Edition 
 Max-Q Workstation edition 
 Server Edition 
 RTX 5090 
 
 
 
 
 
 
 CUDA Parallel Processing cores 
 24064 
 24064 
 24064 
 21760 
 
 
 
 
 
 
 Single-Precision Performance (FP32) 
 125 TFLOPS 
 125 TFLOPS 
 120 TFLOPS 
 103 TFLOPS 
 
 
 
 
 
 
 RT Core Performance 
 380 TFLOPS 
 333 TFLOPS 
 355 TFLOPS 
 - 
 
 
 
 
 
 
 Memory Bandwidth 
 1792 GB/s 
 1792 GB/s 
 1597 GB/s 
 1792 GB/sec 
 
 
 
 
 
 
 GPU Memory 
 96 GB GDDR7 with ECC 
 96 GB GDDR7 with ECC 
 96 GB GDDR7 with ECC 
 32 GB GDDR7 
 
 
 
 
 
 
 Memory Interface 
 512-bit 
 512-bit 
 512-bit 
 512-bit 
 
 
 
 
 
 
 Power Consumption 
 Up to 600W (Configurable) 
 300W 
 600W 
 575W Processamento Paralelo de Cores 24064 24064 24064 21760 Desempenho de precisão única (FP32) 125 Pessoas 125 Pessoas - 120 TFLOPS 103 Pessoas RT Core Desempenho 380 TFlops 333 Fichas 355 Pessoas - Bandwidth de memória 1792 GB/s 1792 GB/s 1597 GB/s 1792 GB/sec Memória GPU 96 GB GDDR7 com ECC 96 GB GDDR7 com ECC 96 GB GDDR7 com ECC 32 GB de GDDR7 Interface de memória 512 bits 512 bits 512 bits 512 bits Consumo de energia Até 600W (Configurável) 300W 600W 575 W A GPU que testamos (RTX 6000 Blackwell Server Edition) é a mais fraca da linha (embora se possa esperar que a versão Server seja mais poderosa do que a edição Workstation), mas ainda supera a RTX 5090 de classe consumidor devido a uma contagem de núcleo mais alta no chip. Graças às velocidades de relógio reduzidas, o consumo de energia da placa permanece dentro de 300W, mas pode ser transferido para o modo boost, onde funciona em frequências próximas daquelas da Workstation Edition. A principal característica da Server Edition é a sua refrigeração passiva, que utiliza o fluxo de ar padrão do chassi do servidor. Graças ao seu tamanho compacto, permite a colocação simultânea de um grande número de GPUs em uma fileira (foto da exposição). Configurando o servidor Vamos testar esta GPU usando a seguinte configuração: 
 
 
 
 
 
 Plataforma de Servidores da ASUS Processador AMD EPYC 9554 768 GB de RAM DDR5 2 x 3,84 TB NVMe 1 x RTX 6000 Pro Server Tecnicamente, a plataforma suporta até 4 GPUs, mas devido às limitações de consumo de energia no modo sem restrição de energia, um máximo de dois GPUs RTX 6000 PRO SERVER podem ser instalados. O problema surge porque a plataforma fornece 4 conectores de energia por lado, que são conectados à placa por meio de um adaptador. Como mostrado na foto, o caso está equipado com ventiladores poderosos em ambos os lados e uma caixa especializada, garantindo um excelente fluxo de ar sobre os radiadores e componentes da GPU. Agora, para os testes Vamos realizar os testes em dois modos: executar LLMs usando a configuração Ollama + OpenWebUI e geração de vídeo com o modelo WAN2 gratuito em ComfyUI. Mais precisamente, usaremos nosso assistente de rede neural, que emprega vários modelos para RAG (Geração Aumentada de Recuperação) e interage com um servidor MCP externo. O LLM em teste é Qwen3-14B, que requer aproximadamente 14 GB de VRAM em modo de contexto 16K. Olhando para a frente, podemos dizer que as comparações envolvendo modelos que se encaixam totalmente na GPU mostram um aumento de desempenho de cerca de 15-20% em relação à RTX 5090. Para começar, vamos comparar a geração anterior A5000 com a RTX 6000 PRO. A comparação será realizada no modo de baixo consumo de energia, onde a GPU realmente consome até 450W (modo de impulso), em vez do máximo de 300W indicado na documentação. Vamos perguntar ao nosso assistente de rede neural a seguinte pergunta: "Como instalar drivers da Nvidia no Linux?" 
 
 
 
 
 
 
 
 
 
 
 
 GPU 
 Response Speed, Tokens per Second 
 Response Speed, Tokens per Second 
 Response Speed, Tokens per Second 
 
 
 
 
 
 A5000 (Cold Boot) 
 47.3 
 2700 
 17 
 
 
 
 
 
 RTX 6000 PRO (Cold Boot) 
 103.5 
 8285 
 5 
 
 
 
 
 
 A5000 (Model Already Loaded to GPU) 
 48.2 
 2910 
 13 
 
 
 
 
 
 RTX 6000 PRO (Model Already Loaded to GPU) 
 107 
 11000 
 4 A5000 (barco frio) 47.3 2700 17 RTX 6000 PRO (Cold Boot) é um modelo 103.5 8285 5 A5000 (modelo já carregado na GPU) 48.2 2910 13 RTX 6000 PRO (modelo já carregado para GPU) 107 11000 4 Como você pode ver, em comparação com o A5000, que ainda está em uso, a nova GPU é mais de duas vezes mais poderosa, e sua velocidade de resposta (ou seja, alternar entre modelos, pesquisar, consultar o servidor MCP, processar e gerar respostas) é mais de três vezes mais rápida. No entanto, usar o RTX 6000 PRO para tais tarefas é como raspar nozes com um microscópio. Para comparação, vamos testar a mesma carga de trabalho no H100 em uma "corrida quente" (com o modelo já carregado). O H100 tem 3,5 vezes menos núcleos CUDA, velocidades de relógio mais baixas e desempenho teórico aproximadamente 4 vezes menor em referências sintéticas em comparação com o RTX 6000 PRO. No entanto, ele se beneficia de um nó de processo de 4nm (versus 5nm para o RTX 6000 PRO), 10 vezes maior largura de banda de memória e um tipo de memória mais avançado. 
 
 
 
 
 
 
 
 
 
 GPU 
 Response Speed, Tokens per Second 
 Response Speed, Tokens per Second 
 Response Speed, Tokens per Second 
 
 
 
 
 
 H100 (Model Already Loaded to GPU) 
 60 
 2900 
 4 
 
 
 
 
 
 RTX 6000 PRO (Model Already Loaded to GPU) 
 107 
 11000 
 4 H100 (modelo já carregado na GPU) 60 2900 4 RTX 6000 PRO (modelo já carregado para GPU) 107 11000 4 Isso torna o RTX 6000 PRO um excelente substituto para o A100/H100 em cargas de trabalho de inferência do servidor, considerando que a largura de banda do HBM3 durante as transferências de dados fica atrás do GDDR7. no entanto, para treinamento de modelos ou ajuste fino, o H100 se destaca devido ao seu consumo de energia reduzido, suporte em nível de hardware através do Transformer Engine para modelos com precisão FP16/FP8 (o H100 suporta apenas FP4), e sua capacidade de acelerar tarefas quando os modelos estão totalmente carregados na memória (com largura de banda até 3 TB/s). Usando o RTX 6000 PRO ao máximo Muito mais interessante é testar esta GPU em outra tarefa intensiva em recursos – especificamente, geração de vídeo. Para isso, usaremos um novo modelo da Alibaba com pesos abertos e instalaremos tudo em ComfyUI. Novamente, encontramos um problema: CUDA 12.9 (e versões posteriores) e sua compatibilidade com PyTorch. A solução, mais uma vez, é instalar a partir de builds noturnos até que o suporte oficial esteja disponível: pip install --pre --upgrade --no-cache-dir torch torchvision torchaudio --extra-index-url https://download.pytorch.org/whl/nightly/cu129
 O processo envolve o uso do modo de geração de vídeo baseado em prompts (Wan 2.2 14B texto para vídeo), que funciona da seguinte forma: 
 
 Uma cena intrigante e humorística se desenrola em uma serena beaverbank, onde dois beavers trabalhando duro em capacetes de segurança amarelos brilhantes e roupas de laranja ásperas se unem para arrastar uma enorme e brilhante estante de servidor em direção à sua meticulosamente construída beaver lodge. A lodge, construída a partir de logs e pedras, apresenta um sinal ousado e moderno que lê "HOSTKEY" em tipografia ousada e inspirada na tecnologia. As expressões determinadas dos beavers e as luzes brilhantes da rack do servidor criam uma mistura surreal de natureza e tecnologia. O rio brilha na luz do sol, e a entrada da lodge é enquadrada por luxúria, enfatizando a harmonia entre o habitat natural dos beavers e sua Uma cena intrigante e humorística se desenrola em uma serena beaverbank, onde dois beavers trabalhando duro em capacetes de segurança amarelos brilhantes e roupas de laranja ásperas se unem para arrastar uma enorme e brilhante estante de servidor em direção à sua meticulosamente construída beaver lodge. A lodge, construída a partir de logs e pedras, apresenta um sinal ousado e moderno que lê "HOSTKEY" em tipografia ousada e inspirada na tecnologia. As expressões determinadas dos beavers e as luzes brilhantes da rack do servidor criam uma mistura surreal de natureza e tecnologia. O rio brilha na luz do sol, e a entrada da lodge é enquadrada por luxúria, enfatizando a harmonia entre o habitat natural dos beavers e sua O lançamento do processo leva cerca de 40 minutos. O uso de memória e o consumo de energia durante o pico de desempenho são visíveis na captura de tela abaixo. A temperatura máxima nunca excedeu 83 graus. A geração é definida para 720p/24, já que o modelo é otimizado para esta resolução. Ajustá-lo para 1080p ou aumentar a taxa de quadro pode fazer com que a GPU congele ou prolongue significativamente o tempo de geração para além de duas horas (não esperamos mais, pois o processo ficou preso em 60%). Se usássemos o modelo WAN 2.2 5B em vez disso, gerar um vídeo semelhante (5 segundos, 24 quadros) leva apenas 160 segundos. Aumentar o poder Como mencionado anteriormente, a GPU possui um interruptor de modo de consumo de energia. Enquanto esta configuração não beneficiou significativamente os modelos, a transição para um modo de potência de 600 watts já produz resultados melhorados. De acordo com as leituras da nvidia-smi, conseguimos extrair um adicional de cinco watts de desempenho da GPU. No entanto, neste modo, as temperaturas podem subir até 90 graus. Em média, o consumo de energia em ambos os modos durante a geração permanece dentro do intervalo de 200-250 watts. Como é óbvio, aumentar o consumo máximo de energia acelera a geração em 25%, reduzindo-a para uma média de 30 minutos. No entanto, isso vem ao custo de temperaturas significativamente mais altas do chip e dos componentes. Para tarefas que exigem operação prolongada da GPU sob carga pesada, é aconselhável manter o sistema no modo de baixo consumo de energia para evitar o estresse térmico. CONCLUSÃO É muito mais estável do que o consumidor-grade 5090, carece dos ventiladores propensos à poeira frequentemente encontrados em modelos de consumidores, possui memória superior com controle de paridade e oferece velocidades de relógio mais altas. Em comparação com o H100, é quatro vezes mais acessível, ao mesmo tempo em que oferece desempenho comparável (e, em alguns casos, ainda melhor) para tarefas não relacionadas ao treinamento de rede neural profunda. Inferência, processamento de gráficos e processamento de vídeo são significativamente mais rápidos do que nas gerações anteriores, e o novo CUDA 13 juntamente com a última versão de driver 580 aumentou ainda mais o desempenho. Uma limitação fundamental é a falta de drivers (no momento da escrita) para a Server Edition do Windows. Enquanto os drivers estão disponíveis para a Workstation Edition, as tentativas de instalação resultam em uma mensagem afirmando que a GPU não é detectada. Este problema não ocorre no Linux, onde testamos com sucesso a placa em ambos Ubuntu 22.04 e 24.04. No entanto, os drivers exigiram o kernel Linux versão 6+ e GCC 12 para compilação. 
 
 
 
 
 Experimente o servidor com o NVIDIA RTX 6000 PRO 96 GB - gratuitamente! Entre em contato com a nossa equipe de vendas para saber mais sobre as condições de condução de teste.* Reach para nós * - A GPU é fornecida para teste gratuito em uma base individual e não está disponível em todos os casos. Try the server with NVIDIA RTX 6000 PRO 96 GB — for free! Entre em contato com a nossa equipe de vendas para saber mais sobre as condições de condução de teste.* Reach para nós * - A GPU é fornecida para teste gratuito em uma base individual e não está disponível em todos os casos.

Up to 22% discounts on instant servers!

Este áudio é produzido no idioma original da história!

Muito longo; Para ler

Get Free Unlimited IP Geo Data With IPinfo Lite

NVIDIA RTX 6000 Blackwell Server Edition: testes, benchmarks e comparação

About Author

COMENTARIOS

Rótulos

ESTE ARTIGO FOI APRESENTADO EM

Related Stories

Digital Nomads Ouçam: O que você precisa saber sobre o novo visto DTV da Tailândia

Vazamento do prompt do sistema Claude Sonnet 3.5: uma análise forense

Guia do arquiteto para construir arquitetura de referência para um Datalake de IA/ML

Crescimento de Criptomoedas: Criando Personas de Usuários Eficazes

Digital Nomads Ouçam: O que você precisa saber sobre o novo visto DTV da Tailândia

Vazamento do prompt do sistema Claude Sonnet 3.5: uma análise forense

Guia do arquiteto para construir arquitetura de referência para um Datalake de IA/ML

Crescimento de Criptomoedas: Criando Personas de Usuários Eficazes

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps