NVFP4

英伟达Vera Rubin：HBM增3％吞吐升30倍

英伟达VeraRubin通过NVFP4量化与上下文卸载，在HBM仅增3％的情况下将推理吞吐提升30倍。