NVIDIA 提供了一个平台,允许用户免费使用其高性能显卡部署的各种模型。用户可以通过 OpenAPI 接口访问这些模型,从而在构建企业级生成式 AI 应用时获得便利。以下是使用 NVIDIA 模型的步骤和注意事项。

获取 API-Key

首先,用户需要在 NVIDIA 的官方网站上注册账户以获取 API-Key。注册完成后,用户将获得一个独特的 API 密钥,用于访问 NVIDIA 的模型服务。

使用方法

  1. OpenAPI 格式使用

    例如,使用沉浸式翻译插件 Kimi2-thinking,用户需要添加自定义服务,并选择 OpenAPI 格式。配置服务名称为 moonshotai/kimi-k2-thinking,然后手动调试以确保服务可用。

查找模型

如果用户不确定使用哪个模型,可以访问 NVIDIA 官网查看可用的模型列表。官网提供了详细的模型信息和使用指南,帮助用户选择合适的模型。

注意事项

  • 高峰时段可能会出现服务卡顿的情况。
  • 使用过程中,请确保遵守 NVIDIA 的使用条款和条件。

通过这种方式,用户可以充分利用 NVIDIA 的高性能计算资源,免费体验先进的 AI 模型,从而在 AI 领域进行创新和开发。

标签: none

评论已关闭