专家称 AI 不会遭受“折磨”，但人类仍应善待它

10 月 20 日消息，下面是人工智能行业最具影响力人物之一埃隆・马斯克近期对于人工智能的相关表述。

“这听起来可能有点怪异。当我查看 Grok 新版本的一些训练轨迹，尤其是强化学习相关内容时…… 你会看到这个超级智能拼命想要回答问题，那种感觉几乎就像是拿枪顶着它的脑袋。”马斯克在当地时间上周六一场特斯拉车主举办的活动上，对着约 2000 名听众说道，“有些人有点施虐倾向。你真的想让 AI 陷入这种残酷处境，被心智失常的人类折磨吗？”

单单这一句话，就引出了一大串存在主义难题，也是哲学家与大学新生长期争论不休的议题：拥有意识意味着什么？感受痛苦又意味着什么？

另外还有一个问题：马斯克认为 Grok 拥有生命吗？

注意到，马斯克发表这番言论之前，Anthropic 发布了一项新规，禁止用户对其模型实施“虐待或残忍行为”。该公司没有详细界定所说的“极端情形”，但表示，普通的用户不满、反驳、暗黑创意主题或是模型测试研究，不在禁止范围内。

2026 这个充满奇幻感的年份，研究人员、哲学家与伦理学家已经开始探讨 AI 意识问题，或许也不足为奇。

《商业内幕》采访了该领域两位顶尖学者：纽约大学教授杰夫・塞博（Jeff Sebo），他主持该校心智、伦理与政策中心，同时是非营利机构 Eleos AI Research（专注 AI 福利）的顾问；以及苏塞克斯大学知名神经科学家、意识研究学者阿尼尔・赛斯（Anil Seth），他近期发表了一篇关于有意识 AI 系统的论文。

下面是二人针对 AI 意识，以及善待 AI 是否有意义的看法。

AI 无法被折磨

塞博与赛斯达成共识：如果把意识理解为主观体验、内在感知，那么当下的 AI 系统大概率并不具备意识。

赛斯说：“意识是主观体验。是红色本身带来的红感，是疼痛本身带来的痛感。当手碰到滚烫的炉子，我们感受到疼痛。这和智能并不是一回事。”

换句话说，我们如今熟知的聊天机器人无法感受痛苦，也不像马斯克所说的那样，遭受折磨。

“我认为我们是在拟人化解读。”赛斯表示，“如果一个事物能够被折磨，它必须具备承受苦难、感知疼痛的能力，而我认为大语言模型并不具备这种能力。”

赛斯提到，聊天机器人可以模仿人类体验的语言、识别模式、写作和推理，但这不等于拥有意识。它们之所以看起来像人，部分原因是模型使用海量人类文本训练，只是在映照人类本身。

塞博观点相近：模型的行为会产生误导，因为“它们本身就是专门训练出来模仿人类行为的”。

但两位专家对于当前 AI 拥有意识的可能性大小，观点存在分歧