A NVIDIA anunciou o lançamento do Nemotron 3.5 Lightning, um novo modelo de inteligência artificial de pesos abertos (open-weight) focado em resolver o problema de gargalo na geração de tokens. Embora a nova tecnologia prometa uma velocidade de saída até quatro vezes maior, os ganhos reais na conclusão de tarefas de agentes autônomos aceleraram em apenas 30%. O resultado escancara que a verdadeira barreira atual da IA reside na camada de orquestração.
O lançamento chega em um momento de acirramento na corrida pelos modelos de código aberto nos Estados Unidos, ocorrendo poucas horas após a Meta apresentar o seu próprio modelo, o Muse Glimmer.
Foco na execução e arquitetura MoE
O Nemotron 3.5 Lightning é um modelo de Mistura de Especialistas (MoE) que conta com 30 bilhões de parâmetros totais, mas utiliza apenas 3 bilhões de parâmetros ativos por iteração. Ele foi construído especificamente para atuar na “camada de execução” de agentes de IA sempre ativos (always-on), projetado para processar um fluxo constante de tarefas rotineiras, especializadas e de alto volume — como chamadas de ferramentas (tool calls), validação de resultados e delegação de subagentes.
Para impulsionar a velocidade de saída de texto, a NVIDIA implementou a Decodificação Especulativa (Speculative Decoding). Nesse processo, um modelo de “rascunho” menor e extremamente rápido adivinha o texto primeiro, enquanto o modelo principal o verifica quase instantaneamente, acelerando radicalmente a taxa de transferência. Trata-se da mesma abordagem estrutural adotada pelo Muse Glimmer da Meta.
O gargalo da orquestração e retornos decrescentes
O novo modelo atingiu uma pontuação de 24 no Artificial Analysis Intelligence Index (um benchmark composto que avalia as capacidades de raciocínio científico, codificação e progressão em direção à Inteligência Artificial Geral). Apesar da NVIDIA afirmar que o modelo gera tokens 4 vezes mais rápido do que soluções de tamanho semelhante — e testes no PinchBench mostrarem que ele completa 10.000 tarefas 30% mais rápido que o Qwen3.6 35B (com precisão comparável) —, a matemática final mostra uma disparidade.
Quadruplicar a saída de tokens entregou retornos nitidamente decrescentes na aceleração de todo o fluxo de trabalho. Esse cenário prova que o limite de velocidade não está mais na geração de palavras, mas no software de gerenciamento de agentes (agent harness) e na orquestração.
A orquestração refere-se ao processo crítico de coordenar múltiplos agentes especializados para resolver tarefas complexas e de múltiplas etapas. Isso envolve a ingestão e decomposição de tarefas, a seleção do especialista correto, o compartilhamento de contexto e estado (passar o resultado do Agente A para o Agente B sem que o sistema reinicie o progresso) e a validação contínua de erros. A agilidade nos tokens perde o impacto se a comunicação estrutural entre as etapas for lenta.
Rumo ao Nemotron 4
Embora o Nemotron 3.5 Lightning defina um novo padrão na fronteira de eficiência para modelos abertos pequenos, relatórios indicam que ele ainda não possui o impacto transformador (oomph factor) necessário para isolar os EUA em um estado de domínio incontestável sobre a concorrência asiática em modelos de código aberto.
Isso explica por que a NVIDIA já começou a criar pesadas expectativas em torno do Nemotron 4. A futura geração, que deverá contar com pelo menos 1 trilhão de parâmetros, é a grande aposta da fabricante para competir frontalmente com os melhores modelos fechados do mundo, visando ampliar a adoção em massa da IA e manter aquecida a demanda por suas bilionárias infraestruturas de GPUs.
fonte da matéria: WCCFtech
Siga o TecLab em todas as mídias: linktr.ee/rbuass
Galindowie • 12 de agosto de 2026 às 16:46 GMT-3
0 comentários