部署生成式人工智能资产
部署生成式人工智能资产,将其用于生产并监控这些已部署的资产。
生成式人工智能应用的可部署资产类型
您可以使用watsonx.ai为您的生成式人工智能应用程序部署以下资产:
部署提示模板
将提示模板保存为项目资产后,可以将其提升到部署空间。 通过部署空间,您可以将提示模板部署到生产环境中,并获得用于推理的端点。
如果您具有 watsonx.governance 服务,那么还可以捕获并跟踪提示模板的部署详细信息以满足监管需求。
有关详细信息,请参阅 部署提示模板。
部署经过调整的模型
调整基础模型并将调整后的模型另存为项目资产后,可以将其提升到部署空间。 通过部署空间,您可以测试调整后的模型,并获得推理的终端。
更多信息,请参阅部署调整后的模型。
部署自定义基础模型
除了使用由 IBM组织的基础模型外,您还可以上载和部署自己的基础模型。 在模型部署并注册到 watsonx.ai 后,创建提示,从 Prompt Lab 推断自定义模型。
通过部署定制基础模型,您可以灵活地实施适合您用例的 AI 解决方案。
有关更多信息,请参阅 部署定制基础模型。