PickAi.se
Hem / Kod & Utveckling / Nemotron 3.5 Lightning

Nemotron 3.5 Lightning

NVIDIAs snabba öppenviktsmodell optimerad för AI-agenter — 31,6B parametrar (MoE, 3,6B aktiva), upp till 4× snabbare än konkurrenter och fri för kommersiellt bruk.

Funktioner

MoE-arkitektur (31.6B/3.6B aktiva) 1M token kontextfönster Hybrid Mamba-Transformer NVFP4-kvantisering Stöds av vLLM, SGLang, Ollama

Fördelar

  • Upp till 4× snabbare output
  • 670 tokens/sek (NVFP4)
  • 1M tokens kontextfönster
  • OpenMDW-1.1 licens (kommersiell)
  • Kör på enstaka GPU

Nackdelar

  • Optimerad för agenter, ej kreativt skrivande
  • Lägre intelligens-index vs. frontiermodeller
  • Kräver NVIDIA-hårdvara för bästa prestanda

Relaterade verktyg