监控您的 AI 应用程序的成本

在线编辑

您可以在 Instana 的生成式 AI 可观测性仪表盘中了解成本的计算、显示和管理方式。

费用如何计算

Instana 生成式 AI 可观测性功能会根据令牌消耗情况，追踪并展示与大型语言模型（LLM）使用相关的成本。了解这些费用的计算方式有助于您：

监控并优化人工智能支出
在模型选择方面做出明智的决策
为人工智能运营制定准确的预算
识别成本异常和低效现象

基于代币的定价模式

生成式人工智能的成本是根据代币消耗量，通过以下公式计算得出的：

Total Cost = (Input Tokens × Input Token Price) + (Output Tokens × Output Token Price)

其中：

输入令牌数：发送给大型语言模型（LLM）的提示词中的令牌数量
输出令牌数：LLM生成的响应中的令牌数量
输入代币价格：每100万枚代币的单枚代币成本
输出代币价格：每100万枚代币对应的单枚输出代币成本

按模型计算成本

每个大语言模型都有其独特的定价结构。每款车型的成本均根据以下因素单独计算：

不同型号的定价：各型号的代币价格有所不同。例如， GPT-4 的价格比 GPT-3.5 更高。2.
代币类型区分：输入代币和输出代币的定价不同。
实时汇总：成本会针对所有针对特定模型的请求进行汇总。

每小时/每日成本：按时间区间汇总的成本，用于趋势分析
按应用划分的费用：按发起 LLM 调用的应用或服务进行分组的费用

配置模型定价

您可以配置定价模型。

访问定价配置

要配置或更新模型定价：

Go 在 Instana 用户界面中访问 GenAI 的可观测性。
点击 “定价配置 ”选项卡。

预设价格

Instana 提供了一份包含当前市场价格的热门大型语言模型（LLM）预定义列表，其中包括：

OpenAI 型号（ GPT-4o-mini、 GPT-5.1 等）
Anthropic 模型（Claude 3 Opus、Claude 3 Sonnet 等）
IBM watsonx.ai 模型
其他支持的模型提供商

预设价格会定期更新，以反映当前的市场行情。

添加自定义模型定价

若要为预定义列表中未包含的新型号添加价格：

在“定价配置”页面上，点击 “添加型号定价 ”。
输入以下信息：
- 模型名称：与跟踪记录中显示的完全一致的名称（例如，“ gpt-4-turbo-preview ”）。
- 模型提供商：指平台或服务商（例如 OpenAI、Anthropic、IBM）。
- 平台名称：若要设置特定平台的定价，请勾选 “设置特定平台的定价 ”，并输入平台名称（例如：anthropic、bedrock、langchain）。
- 输入代币价格：每100万枚输入代币的美元成本。
- 输出代币价格：每100万枚输出代币的成本（以美元计）。
点击 “保存” 以应用配置。

覆盖现有模型定价

要覆盖模型的预设定价：

在 “定价配置 ”选项卡中，找到您要更新的模型。
点击型号名称。
3. 在 “代币定价 ”部分，更新以下字段中的数值：
- 输入价格
- 输出价格
单击保存以应用更改。
注意：覆盖定价不会影响历史成本数据。新定价仅适用于变更后收集的数据。

重置为预设价格

如果某款模型的定价已被覆盖，而您希望恢复到最初预设的定价，请按照以下步骤操作：

在 “定价配置 ”选项卡中，找到已覆盖定价的型号。
点击型号名称。此时将显示 “编辑模型定价 ”对话框。
3. 在 “重置定价 ”部分，请选择。 “我已了解此操作无法撤销 ”复选框。
4. 点击 “重置为目录价格 ”按钮。
5. 点击 “保存”。

模型定价已重置为最初预设的值。此项变更将适用于今后所有新的成本核算。这不会影响使用覆盖后的定价计算出的历史成本数据。

删除自定义模型定价

对于您手动添加的模型（即没有预设定价的模型），您可以删除其定价配置：

在 “定价”配置页面中，找到您要删除的自定义模型。
点击模型旁边的 “删除 ”图标。
显示对话框时，请确认删除。

重要注意事项：

仅可删除自定义模型（即没有预设价格的模型）
预定义模型只能重置为默认设置，无法删除
删除模型的定价会导致该模型的成本指标不再显示
已删除模型的历史成本数据仍保留在系统中
其他指标（令牌、延迟、跟踪）仍在持续收集并显示

注意：删除自定义模型定价后，若要让该模型的成本指标再次显示，您需要手动重新添加定价配置。

价格调整的影响

当价格更新时，会出现以下情况。

当价格更新时

当您在配置中更新型号定价时，会发生以下变化。

即时效果：

新的成本计算采用了更新后的定价
仪表板小工具已更新为反映新数据费率

历史数据：

历史成本数据不会自动重新计算
过去的成本保持不变，因为它们是当时计算得出的
确保审计轨迹的完整性，并防止数据不一致

最佳实践：

文件定价变更及生效日期
在进行重大价格更新之前，请考虑导出成本报告
向负责监控成本的相关方通报价格变动

当未配置价格时

如果未为特定型号配置定价，则适用以下行为：

成本指标：

该型号未显示成本指标。
显示成本的仪表板小工具不包含未配置的模型
总成本计算不包括针对该模型的请求

其他指标仍然可用：

代币数量（输入和输出）仍会被追踪并显示
请求延迟和性能指标仍可正常运行
跟踪数据和日志不受影响

对仪表板的影响：

摘要成本控件可能显示不完整的总计
按型号划分的成本明细不包括未配置的型号
成本趋势图中可能存在缺口，或数值低于预期

解决定价问题

您可能会遇到以下任何一种问题。

对于“成本指标未显示”等常见问题，请参阅 “故障排除 ”。

成本计算有误

问题：显示的成本与预期值不符。

解决方案：要解决此问题，请尝试以下步骤：

请确认所配置的价格与服务提供商的当前费率一致
请确认计价单位（每1000个代币还是每100万个代币）
检查令牌数量以验证计算结果

配置中缺少模型

问题：正在使用的模型未出现在配置列表中。

解决方案：要解决此问题，请尝试以下步骤：

使用“添加模型定价”功能手动添加模型
请确保模型名称与跟踪记录中显示的名称完全一致
向模型提供商获取定价信息
保存并验证配置

历史成本差异

问题：定价更新后历史成本发生变更。

解决方案：要解决此问题，请尝试以下步骤：

历史成本不得更改；若发生变更，请联系 IBM 技术支持
定期导出成本报告，以保留独立记录
使用审核日志来跟踪配置更改

有关定价的问题或疑虑

如对定价配置有任何疑问或问题：

请联系您的 IBM 支持团队。
请参阅 Instana 文档。
请查看 Instana 社区论坛。