编码生成 AI 解决方案
IBM watsonx.ai 具有支持用于处理基础模型的程序化任务的 REST API。 这些 API 在 Python 库和 Node.js 包中执行，可用于在生成 AI 应用程序中利用基础模型。
可以通过编程方式执行的任务
您可以使用 watsonx.ai REST API ， Python 库或 Node.js SDK 以编程方式执行以下任务:
| 任务 | Python | Node.js | REST API |
|---|---|---|---|
| 获取有关可用基础模型的详细信息 | 获取型号规格 | 示例 | 列出支持的基础模型 |
| 检查模型针对提示计算的标记 | 对内置基础模型进行标记 | 示例 | 文本标记化 |
| 获取可用定制基础模型的列表 | 自定义模型 | 检索部署 Use the type=custom_foundation_model parameter. |
|
| 推断基础模型 | 生成文本 | 示例 | 文本生成 |
| 在推断基础模型时配置 AI 护栏 | 删除有害内容 | 使用 moderations 字段对基础模型输入和输出应用筛选器。 参见推断文本 |
|
| 与基础模型聊天 | ModelInference.聊天() | 示例 | 推断文本 |
| 从聊天中调用工具 | ModelInference.聊天() | 示例 | 推断文本 |
| 调整基础模型 | TuneExperiment 以及 FineTuner 课程 | 示例 | 调整基础模型 |
| 推论一个经过调整的基础模型 | 生成文本 | 示例 | 推断文本 |
| 列出所有提示模板 | 列出所有提示模板 | 获取提示模板 | |
| 列出已部署的提示模板 | 已部署的提示模板列表 | 列出部署（type=prompt_template） | |
| 使用提示模板推断基础模型 | 提示模板管理器 | 示例 | 推断文本 |
| 将文本矢量化 | 嵌入文件 | 示例 | 文本嵌入 |
| 从文件中提取文本 | 文本提取 | 文本提取 | |
| 对文档段落重新排名 | 重新排名 | 生成重新排名 | |
| 预测未来价值 | TSModelInference | timeSeriesForecast | 时间序列预测 |
| 与 LangChain 集成 | LangChain中的IBM扩展 | - 聊天 API -基础模型 -嵌入模型 |
|
| 与 LlamaIndex 整合 | - LlamaIndex中的IBMLLMs -- LlamaIndex中的IBM嵌入 |