过度或过度依赖人工智能代理对人工智能的风险
描述
依赖性，即接受人工智能代理行为的意愿，取决于用户对该代理的信任程度以及使用该代理的目的。 过度依赖是指用户过于信任人工智能代理，即使人工智能代理的行为很可能是用户不希望看到的，用户也会接受。 依赖不足则恰恰相反，用户并不信任人工智能代理，但却应该信任它。
人工智能代理的自主性（采取行动、选择和咨询资源/工具）不断提高，不透明性和开放性的可能性增加了代理行为的可变性和可见性，导致难以校准信任度，并可能造成过度依赖和依赖不足。
{: .shortdesc}为什么过度或过度依赖人工智能代理会成为基础模型的一个问题？
过度/过度依赖会导致人类因错误地信任人工智能代理而做出错误的决策，其负面后果会随着决策的重要性而升级。
母主题： 人工智能风险图集
我们提供了媒体报道的例子，以帮助解释基金会模式的许多风险。 新闻界报道的许多事件或仍在发展中，或已得到解决，参考这些事件可以帮助读者了解潜在的风险，并努力减少风险。 强调这些例子仅供参考。