部署人工智能服务
人工智能服务是一个可部署的代码单元,您可以用它来捕捉生成式人工智能用例的逻辑。 成功部署人工智能服务后,您就可以使用端点从应用程序中进行推理。
利用人工智能服务部署生成式人工智能应用程序
Python函数是部署机器学习资产的传统方法,而人工智能服务则为流媒体等生成式人工智能应用提供了更灵活的代码部署选择。
部署预测性机器学习模型的标准Python函数需要以固定模式输入,而人工智能服务则不同,它可以灵活地进行多种输入,并允许自定义。
人工智能服务为部署代码功能提供了一个安全的解决方案。 例如,认证所需的凭证(如不记名令牌)由服务从任务凭据中生成,并将令牌提供给人工智能服务资产。 您可以使用此令牌获取连接资产、下载数据资产等。
利用工具部署人工智能服务
您可以使用以下可视化工具创建生成式人工智能解决方案 watsonx.ai:
- Prompt Lab
- AutoAI
- Agent Lab
当您使用可视化工具为复杂用例(如RAG)创建生成式AI解决方案时,您的解决方案将作为AI服务部署。 您可以选择直接从用户界面部署解决方案,也可以将解决方案导出到部署人工智能服务的可编辑笔记本中,邮箱地址为 Python。 笔记本自动生成代码,以标准格式创建人工智能服务,并为您提供在测试后添加更多功能或更新的方法。 虽然工具提供了创建和部署人工智能服务的用户友好界面,但编码提供了更大的灵活性和自定义选项。
更多信息,请参阅使用工具部署人工智能服务。
通过代码部署人工智能服务
当您从头开始构建生成式人工智能应用程序时,您可以使用人工智能服务来捕获应用程序的编程逻辑,并将其与用于推理的端点一起部署。 例如,如果您使用LangChain, LlamaIndex,框架构建 RAG 应用程序,您可以使用 AI 服务捕获从 AI 服务中的向量索引检索答案的逻辑,并部署 AI 服务。
更多信息,请参阅使用代码部署人工智能服务。