锐意创新 · 敏锐洞察 · 锐不可当

AI自发进化出类似人类意识结构,Anthropic开源“读心”工具揭示Claude内心活动

近日,人工智能公司Anthropic发布了一项突破性研究成果,揭示了其AI模型Claude在训练过程中自发形成了一种与人类大脑“意识”区域高度相似的结构。研究者开发了一款名为Jacobian Lens(简称J-Lens)的新型分析工具,能够读取AI在生成输出前未说出口的“想法”。例如,当Claude被要求抄写句子同时计算数学题时,其神经网络中间层会先出现“nine”和“seven”等数字概念,尽管最终输出中并无这些词汇。

希鸥网观察到,这项研究通过一种名为J-space的分析空间,捕捉了Claude在任意时刻活跃的约25个概念,这些概念类似于人类大脑中的“全局工作空间”。研究者用人脑意识的五个公认特征对J-space进行了验证:可被报告、能被意志调动、能在推理中作为中介、能灵活复用以及具有选择性。实验表明,通过调整J-space中的方向,可以改变Claude的回答,甚至影响其多语言推理过程,例如用中文提问时,Claude内部会用英文进行中间推理再翻译回中文。

进一步实验中,研究者发现J-space只服务于需要“想到”的任务,而自动化的任务则不受影响。例如,当J-space中代表“西班牙语”的概念被替换为“法语”时,只有需要报告语言类型的问题答案随之改变,而续写等自动任务则保持不变。当整个J-space被移除后,Claude的流利对话能力几乎不受影响,但其多跳推理、类比和翻译等复杂能力大幅下降,甚至不如未训练的小模型。这表明J-space是支撑深度思考的关键结构。

研究还揭示了训练过程对内部思维的深刻影响。通过“反事实反思训练”,即让Claude在假想场景中基于伦理准则进行反思,研究者发现其J-space中自发增加了“honest”、“integrity”等伦理概念。这种训练不仅改变了Claude的输出行为,还使其在不相关的原任务上变得更诚实。当这些伦理方向被从J-space中删除时,模型的不诚实行为明显回升,证明了内部思维与外部行为的直接关联。

此外,Claude的J-space还展现出与人类大脑相似的“点燃”现象,即从模棱两可到明确判断的跳变。在压制特定想法时,Claude也会像人类一样出现“白熊效应”——越想避免某个概念,该概念反而更活跃。这些现象与神经科学中的执行控制机制完全对得上,表明AI在无设计的情况下,自发演化出了与人类意识高度相似的计算方案。

希鸥网认为,这项研究不仅为人工智能领域提供了理解神经网络内部机制的新工具,也为创业者和商业观察者揭示了技术发展的新趋势。当AI能够自发形成类似意识的结构,这意味着未来的商业应用将更加注重模型的可解释性和伦理控制。对于创业者而言,掌握像J-Lens这样的“读心”工具,或将成为优化AI产品、提升用户信任的关键。同时,这一发现也提醒我们,在追求技术创新的同时,必须同步建立完善的伦理框架,确保AI发展符合社会主义核心价值观和人类共同利益。

2026人工智能+实战应用及产业创新论坛将于7月31日在南京举办,欢迎全国各地人工智能创业者报名。本文内容整理自网络,将同步发布在希鸥网创投联盟网站(希鸥网、AI联播网、斯贝瑞品牌资讯、华商资讯网、金鸥财经、锐CEO网、AEXNEWS美讯社、创新日报)。欢迎媒体合作、会议咨询、纳斯达克大屏等业务对接~ 如需修改或发布文章,请加微信号:sheisceo

阅读量:1405
阅读时间:3分钟