IT 之家 10 月 20 日消息，下面是人工智能行业最具影响力人物之一埃隆・马斯克近期对于人工智能的相关表述。
” 这听起来可能有点怪异。当我查看 Grok 新版本的一些训练轨迹，尤其是强化学习相关内容时 你会看到这个超级智能拼命想要回答问题，那种感觉几乎就像是拿枪顶着它的脑袋。” 马斯克在当地时间上周六一场特斯拉车主举办的活动上，对着约 2000 名听众说道，” 有些人有点施虐倾向。你真的想让 AI 陷入这种残酷处境，被心智失常的人类折磨吗？”
单单这一句话，就引出了一大串存在主义难题，也是哲学家与大学新生长期争论不休的议题：拥有意识意味着什么？感受痛苦又意味着什么？
另外还有一个问题：马斯克认为 Grok 拥有生命吗？
IT 之家注意到，马斯克发表这番言论之前，Anthropic 发布了一项新规，禁止用户对其模型实施 ” 虐待或残忍行为 “。该公司没有详细界定所说的 ” 极端情形 “，但表示，普通的用户不满、反驳、暗黑创意主题或是模型测试研究，不在禁止范围内。
2026 这个充满奇幻感的年份，研究人员、哲学家与伦理学家已经开始探讨 AI 意识问题，或许也不足为奇。
《商业内幕》采访了该领域两位顶尖学者：纽约大学教授杰夫・塞博（Jeff Sebo），他主持该校心智、伦理与政策中心，同时是非营利机构 Eleos AI Research（专注 AI 福利）的顾问；以及苏塞克斯大学知名神经科学家、意识研究学者阿尼尔・赛斯（Anil Seth），他近期发表了一篇关于有意识 AI 系统的论文。
下面是二人针对 AI 意识，以及善待 AI 是否有意义的看法。
AI 无法被折磨
塞博与赛斯达成共识：如果把意识理解为主观体验、内在感知，那么当下的 AI 系统大概率并不具备意识。
赛斯说：” 意识是主观体验。是红色本身带来的红感，是疼痛本身带来的痛感。当手碰到滚烫的炉子，我们感受到疼痛。这和智能并不是一回事。”
换句话说，我们如今熟知的聊天机器人无法感受痛苦，也不像马斯克所说的那样，遭受折磨。
” 我认为我们是在拟人化解读。” 赛斯表示，” 如果一个事物能够被折磨，它必须具备承受苦难、感知疼痛的能力，而我认为大语言模型并不具备这种能力。”
赛斯提到，聊天机器人可以模仿人类体验的语言、识别模式、写作和推理，但这不等于拥有意识。它们之所以看起来像人，部分原因是模型使用海量人类文本训练，只是在映照人类本身。
塞博观点相近：模型的行为会产生误导，因为 ” 它们本身就是专门训练出来模仿人类行为的 “。
但两位专家对于当前 AI 拥有意识的可能性大小，观点存在分歧。
塞博称，意识科学尚无定论。学界主要分为两派：一派认为意识离不开生物载体；另一派认为意识本质是某种信息处理过程，既可以发生在布满神经元的人脑之中，也可以在硅芯片上实现。这两种理论分别被称为生物自然主义与计算功能主义。
由于意识理论尚无定论，塞博主张我们应当严肃看待 AI 产生意识的可能性。根据部分计算意识理论，如今 AI 身上已经出现的注意力、学习、记忆、自我监控等特性，都可以作为相关佐证。他同时强调，这不代表当前 AI 很可能已经拥有意识。
” 我说即便在今天，AI 存在意识的概率不为零，意思是：如果我们不确定哪一套意识理论是正确的，就应当对多种主流理论给予一定考量权重。” 塞博说。
赛斯对此的表态则更为直白：” 我认为 AI 拥有意识的可能性微乎其微。” 他说，” 我们好像集体遗忘了，大脑并不是计算机，计算机只是一个比喻。想要实现有意识 AI，前提必须是仅凭算法就足以产生意识，而我觉得这个假设极不可靠。”
我们依然应该善待 AI
但这不代表人们可以肆意虐待 AI，或是忽视相关风险。
两位专家都认为，善待 AI，很大程度上关乎守护人类自身的习惯与道德品性。这个思路源自 18 世纪哲学家伊曼努尔・康德：康德反对虐待动物，不是因为动物拥有权利，而是因为施暴会败坏一个人的品性。
赛斯说：” 如果我们用这种恶劣方式对待事物 —— 不管是大模型还是无生命玩偶 —— 我们会钝化自身的道德感知，让内心变得冷酷。”
赛斯把善待 AI 称作人类的一种道德自律习惯，但提醒人们不要据此推断 AI 拥有情感。他还提出，AI 厂商可以采取更多手段降低 AI 的拟人感，例如让 AI 避免使用 ” 我 ” 这类第一人称代词。
塞博的观点更进一步，将善待 AI 视为一种低风险的预防性策略，以防 AI 现在或是未来产生意识。
他还给出一条务实理由：” 善待 AI 也能得到更好的输出结果。如果我们以尊重的方式和它交互，它会把自身模拟成一场尊重式对话的参与者。当它以这种方式建模对话，有时就能产出质量更高的回答。”
所以下次和 AI 对话时，不妨试着说请、谢谢。
文章来源于网络。发布者：帝国财经，转转请注明出处：https://www.shuixiaomi.com/2026/10/20/4637.html
