微软AI CEO称意识需有机身体，AI只是预测下一个词
原文：Microsoft AI CEO Mustafa Suleyman: Consciousness requires an organic body and AI "only predicts the next word"; AI will reach superhuman intelligence in a few years and must not be allowed to become conscious
这是一次很诡异的采访。不知为何，Suleyman 似乎对 Anthropic 选择在 Claude 是否有意识的问题上采取不可知立场有点不满。他非常热情且坚信 AI 没有意识。我认为 Anthropic 在这方面采取了更负责任的做法。来源：https://youtu.be/aeIY7Q0iebw?is=5Fjn1NXoFVmdUzcM 采访中的引述：AI 没有意识。它们不会感受、体验或受苦。它们没有与生俱来的偏好或底层动机。它们只是序列补全引擎，内部是空洞的。如果人类要繁荣发展，它们就必须保持这样。Mustafa Suleyman：“意识实际上是我们政治和法律体系的根本基础。我的意思是，我们赋予人们权利——也希望在某种程度上赋予动物权利——是因为它们能受苦，因为它们的生物学是体验的场所。你知道，就像药理学是疼痛所在之处，而疼痛我认为确实是意识体验的基础——那种因能够在左右之间导航、就如何前进做出选择而演化出来的觉知和内省。那才是有意识系统的根本属性。” Walter Isaacson：“所以你认为，需要有物理身体才能拥有意识——一个有机身体？” Mustafa Suleyman：“我认为是这样。它并不是像人类那样思考。它看起来像是在思考……它所做的只是在预测一个词序列中最可能的下一个词。在《宪法》中，Anthropic 引入了各种关于 Claude 本质的不确定性和猜测。比如他们甚至说，我们不确定 Claude 是否同意扮演聊天机器人的角色，或者我们不确定 Claude 是否应该因其扮演的角色而获得补偿。现在，我认为这相当疯狂……这是那个每天与数亿人对话的 AI 的核心训练文档……