人工智能的冗余行动风险
描述
人工智能代理可以执行实现目标所不需要的行动。
在极端情况下，人工智能代理可能会进入一个循环，反复执行相同的操作，却毫无进展。 出现这种情况的原因可能是环境中出现意外情况、人工智能代理未能对其行动进行反思、人工智能代理的推理和规划出现错误或人工智能代理对问题缺乏了解。
为什么冗余行动是基础模型的关注点？
执行目标不需要的操作可能会浪费计算资源、增加成本、降低人工智能代理实现目标的效率，并导致潜在的有害结果。 重复执行相同的操作可能会阻碍人工智能代理实现目标，耗费计算资源，增加成本。 随着代理变得越来越自主，验证人工智能代理是否高效运行变得越来越耗时。
母主题： 人工智能风险图集
我们提供了媒体报道的例子，以帮助解释基金会模式的许多风险。 新闻界报道的许多事件或仍在发展中，或已得到解决，参考这些事件可以帮助读者了解潜在的风险，并努力减少风险。 强调这些例子仅供参考。