GLM-5.2

container

A flagship long-horizon reasoning and coding model from Z.AI with 1M-token context window, strong coding performance, and flexible thinking effort levels.

NIM

SGLang Model-Free NIM

container

Deployable model-free inference container powered by SGLang supporting Hugging Face, NGC, S3, ModelScope, GCS and local models.

NIM

bge-m3

container

NeMo Retriever Text Embedding NIM (Text Embedding NIM) 为您的应用程序带来最先进的文本嵌入模型的强大功能,提供无与伦比的自然语言处理与理解能力。您可将 Text Retriever NIM 用于语义搜索、流水线——或任何使用文本嵌入的应用程序。Text Embedding NIM 基于 NVIDIA 软件平台构建,集成了 CUDA、TensorRT 和 Triton,以提供开箱即用的 GPU 加速功能。

NIM
NVAIE Supported

DiffusionGemma-4-26B-A4B-IT

container

DiffusionGemma-4-26B-A4B-IT NIM 容器内置了 DiffusionGemma-4-26B-A4B-IT 模型,以便作为可下载的 NIM 通过 NVIDIA NGC 进行部署。DiffusionGemma-4-26B-A4B-IT 模型是由 Google DeepMind 开发的一款开放权重多模态生成模型,该模型可处理文本、图像和视频输入,并通过离散扩散(discrete diffusion)生成文本输出。 该容器组件可随时用于商业和非商业用途。

NIM

Step 3.7 Flash

container

Step 3.7 Flash NIM 是一个可下载的 NIM 容器,用于部署 Step 3.7 Flash。这是一个基于 Step 3.5 Flash 构建的 StepFun 视觉-语言模型,具备额外的视觉能力,适用于原生多模态、智能体(agentic)以及与编程相关的用例。该模型旨在处理文本和图像输入并生成文本输出,重点在于图像理解、高吞吐量以及工具使用工作流。 该容器组件已可用于商业用途。

NIM

Gemma-4-26B-A4B-IT

container

Gemma-4-26B-A4B-IT NIM 容器打包了 Google gemma-4-26B-A4B-it 模型,以便通过 NVIDIA NGC 作为可下载的 NIM 进行部署。 该容器组件已准备好投入商业使用。

NIM

diffusiongemma-26B-A4B-it

container

DiffusionGemma 是由 Google DeepMind 开发的生成式模型。该模型基于 26B A4B 混合专家(MoE)Gemma 4 架构,采用离散扩散方式生成 token。这一开源权重模型具备多模态能力,可处理文本、图像和视频输入,并生成文本输出。

NIM
NVAIE Supported

bge-reranker-v2-m3

container

重排序器 与嵌入模型不同,重排序器以问题和文档作为输入,直接输出相似度而非嵌入。您可以通过向重排序器输入查询和文章来获得相关性分数。该分数可通过sigmoid函数映射到[0,1]区间内的浮点值

NIM
NVAIE Supported

Gemma 4 31B IT

container

此 NIM 容器托管了 Gemma 4 31B IT 模型。该模型是由 Google DeepMind 构建的开放多模态模型,支持文本和图像输入,并生成文本输出。它旨在消费级 GPU 和工作站上,为推理、智能体工作流(agentic workflows)、编程和多模态理解提供前沿级性能,并支持 256K token 的超大上下文窗口。该模型采用了混合注意力机制,交替使用局部滑动窗口注意力和全局注意,在全局层中使用统一键值(Unified Keys and Values),并辅以比例旋转位置嵌入(p-RoPE)技术,以保障卓越的长文本处理性能。 该容器组件已就绪,可供商业使用。

NIM

cosmos-reason2-8b

container

Vision language model that excels in understanding the physical world using structured reasoning on videos or images.

NIM

model_free_nim

container

**无模型专属 NIM 2.0** 是一款 NIM 微服务容器,可广泛兼容各类大语言模型(LLM)。容器内置可直接投产使用的推理运行时,集成英伟达及社区多方优化的推理引擎(例如 vLLM)。 在容器运行阶段,只需接入存储格式为 Hugging Face 标准的大语言模型,该 NIM 即可自动识别模型架...

NIM

DeepSeek-V4-Flash

container

高性能推理容器,优化用于快速编码、推理、长上下文、智能体工作流,提供 OpenAI 兼容 API

NIM

DeepSeek-V4-Pro

container

可部署推理容器,提供 OpenAI 兼容 API,支持 100 万 token 上下文,适用于推理、编码、智能体任务

NIM

Kimi-K2.6 NIM Container

container

Multimodal MoE inference container supporting text/image/video inputs, OpenAI-compatible API, powered by SGLang.

NIM

NIM Base Container

container

Enterprise-grade base container for building custom LLM NIMs with SGLang v0.5.9, secure & high-performance

NIM

Qwen3.6-35B-A3B

container

推出 Qwen3.6 的首个开源权重版本。Qwen3.6 基于社区的直接反馈构建,注重稳定性与实际应用价值,为开发者提供更直观、响应更快、真正高效的编码体验。

NIM

GLM-5.1 NIM Container

container

Next-generation flagship agentic engineering model with advanced coding capabilities, SWE-Bench Pro, NL2Repo, Terminal-Bench 2.0 optimized.

NIM

Genos-10B-v2

container

NIM

NIM

Geo-gpt

container

NIM

NIM

MiniMax-M2.7 NIM Container

container

Sparse MoE text generation model for complex agentic tasks: coding, tool use, search, office productivity.

NIM
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 8
共 150 条