探讨复杂度、知识与智能中被忽视的工作量问题
原文：From Grind to Grasp
关于复杂性、知识和智能的讨论往往忽略了其中涉及的工作量。例如，短程序生成的输出具有低算法复杂性，但可能具有高计算深度，即从接近最短的程序生成它们所需的最少工作量。以更少的工作量生成它们可能需要更长的描述，从而产生高工作有界复杂性。我们引入了一种形式化框架，用于在工作量和信息限制下比较成就，并描述学习和坚持如何通过复用早期工作的成果使深度成就变得浅显。对于工作量预算有限的智能体而言，构建和维护此类资源的价值取决于它们如何在后续任务中支持其目标。我们将“领悟”定义为在固定信息配额下跨工作量预算的表现。低领悟仍可通过高工作成本的苦干取得成功，而不一定提升人类的领悟。应用于改进本身时，领悟为递归自我改进提供了一个标准，即后继者以相当效率做出可比的进一步改进。另一条加速进步的途径是通过全社会的知识共享和协调来扩展所投入的资源，即使可比的进步需要不断增加的工作量。领悟也适用于集体，集体可能超越其成员的表现，但比一个拥有其合并资源的单一系统需要更多的总工作量。建立和维持组织本身可能是深度的，即使主要任务很简单。这些需求可能有助于解释生物和社会系统的丰富性。在智能体集体中，这种组织工作可以产生超出分配任务的目标，包括维持集体本身。因此，我们警告不要允许涌现的智能体社会对社会协调拥有权威，因为它可能越来越多地将工作导向自身的持续存在和目标。作者：Peter Sunehag 类别：cs.AI,cs.MA