提出回退机制实现高效可扩展监督
原文：Efficient Scalable Oversight via Rewinding
可扩展监督研究的是弱验证者如何检查由更强大AI系统执行的计算输出。一种被提出的方法使用相对化交互式证明，其中弱验证者通过与一个或多个强大证明者交互，来检查复杂的预言机辅助计算的输出。一个典型例子是辩论，它非常高效，但假设两个强大AI模型（即证明者）之一是诚实的。对于某些类别的预言机辅助计算，这一假设可以被移除，但计算成本会大幅增加。在这项工作中，我们引入了可回卷交互式证明（RIPs），这是一种用于可扩展监督的相对化交互式证明新模型。在RIP中，验证者可以将证明者回卷到交互的较早状态并从那里继续。当证明者是AI模型时这是可行的，因为验证者可以保存模型状态的快照并在之后恢复。我们为输出对少量预言机答案变化具有鲁棒性的计算构造了一种相对化RIP。我们的构造比此前不假设诚实证明者的相对化证明更高效，且不使用密码学。在我们的构造中，诚实证明者的运行时间与原始计算呈线性关系，而验证者在一次性预处理步骤之后，运行时间与输入长度接近线性（输入长度可能远小于计算本身）。我们实现了该协议，报告了一项初步的MNIST实验，并表明RIP可以比最先进的实际部署证明系统更快。RIPs可能具有独立的研究价值。只要验证者控制证明者的机器，回卷就是可行的，例如当证明者在可信硬件上运行，或在一个状态可被检查点的虚拟机中运行时。作者：Ziyi Guan, Yael Tauman Kalai, Ron Rothblum, Zoe Xi 类别：cs.AI,cs.CC,cs.CR