用于调整基础模型的方法

深入了解不同的调优方法， watsonx.ai 以及如何为您的解决方案选择合适的方法。

地基模型可以通过以下方式进行调整：

全面微调

以基础模型的先验知识为起点，通过使用规模较小且针对特定任务的数据集对模型进行微调，从而实现全面的精细调整。完全微调方法会改变模型的参数权重，这些权重是通过预先训练来定制模型以完成特定任务的。

完全微调的结果是一个全新的模型。由于所有模型的权重都经过调整，因此与其他参数高效调整技术相比，完全微调是一项成本更高的技术。您需要更多的计算和存储资源来托管通过微调基础模型创建的新调整模型。请参见完全微调。

低秩适应（ LoRA ）对

在调优过程中，通过调整模型参数中一个代表性子集（称为低秩适配器 ）的权重，而非基础模型的权重，从而将基础模型适配到特定任务上。在推理时，经过调优的适配器的权重会添加到基础模型的权重上，从而生成针对特定任务调优的输出。参见低秩适应（ LoRA ）的微调。

量化低秩适配（ QLoRA ）的微调

QLoRA 是 LoRA 的一种变体，它采用了量化技术，以进一步减少调音过程中所需的内存占用和计算资源。请参阅 “量化低秩适应（ QLoRA ）”的微调部分。

调谐方法比较

下表根据选择调整方法的通用标准对可用的调整方法进行了比较。

地基模型调整方法比较
条件	全面微调	LoRA 微调	QLoRA 微调
调谐技术	所有基础车型参数均根据目标任务进行了微调。	代表模型参数子集的适配器被调整；基础模型参数在调整过程中保持不变。	代表模型参数子集的适配器被调整；基础模型参数在调整过程中保持不变。
调整模型结果	当有足够的数据和计算资源时，可以为新的任务或领域定制模型。	高性能，降低过度拟合的风险；可能无法达到完全微调的性能水平。	高性能，降低过度拟合的风险；可能无法达到完全微调的性能水平。量化带来的潜在质量下降。
所需计算资源	高。模型参数的完全更新需要大量的计算资源和内存。	适度。由于仅对适配器进行微调，因此所需资源少于全面微调；在微调过程中，基础模型保持不变。	低。与 LoRA 微调相比，它需要的资源更少，因为模型权重经过量化处理，从而降低了计算和存储需求。
调谐持续时间	长。具体持续时间取决于模型和数据集的大小。	适度。比完全微调更快，但需要时间来修改适配器；可能需要一到几个小时。	适度。比完全微调更快，但需要时间来修改适配器；可能需要一到几个小时。
成本	考虑到微调模型以及部署和托管生成的新微调模型所需的额外资源成本。	需要更少的存储和计算资源。可以使用同一款基础型号的多款 LoRA 适配器，以节省成本。	与 LoRA 相比，它需要的存储和计算资源更少。可以使用相同的量化模型来支持多个 LoRA 适配器，从而节省成本。
用途	最适合需要最高精度和特定任务适应性，且使用案例需要额外资源和成本的情况。	创建特定任务适配器以调整基础模型以适应多种任务，这是一个不错的选择。	创建特定任务的适配器，以调整量化基础模型，用于多种任务，是一个不错的选择。