AI这次挖得确实够深。Anthropic在持续探查 Claude 的内部机制时,发现了一个很“AGI”、也很让人细思极恐的现象。
他们提到,Claude 里存在一个叫做 J-space 的区域,它似乎负责调度模型的思考和推理。没有这个 J-space,Claude 就会立刻退化成“人工智障”,只能应付幼儿园水平的问题。
但真正关键的地方在于:Anthropic 从来没有为 Claude 专门设计过 J-space。也就是说,这套结构并不是人为硬编码进去的,而是在长期训练过程中,由 Claude 自己“长”出来的。
基于这一发现,Anthropic 还发表了一篇论文,题目叫《语言模型中的全局工作空间》。
相关快讯
完全免费开源替代方案,DeepSeek 和 GLM 随心切换
YC孵化的AI科研团队推出开源科研工作台 OpenScience,被视为 Claude Science 的开源替代版。它覆盖文献检索、假设生成、代码实验到论文撰写的全流程,并支持 DeepSeek、GLM、Claude、GPT 等多模型自由切换。项目采用 Apache 2.0 协议,安装也很简单,因此迅速在 X 上引发热议。
昨晚AI圈为何再次沸腾?
Anthropic 近期发布研究,称在 Claude 内部发现了“J空间”这一现象:模型在回答问题时,后台会同时运行许多未直接表达的想法,只有部分会转化为最终回复,其余则保留在内部。这个发现引发了群里对 AI 意识、模型思维机制的讨论。
Claude Sonnet 5 上线后投诉不断:总爱唱反调,还频频“教用户做事”
Anthropic 上周发布的 Claude Sonnet 5 被宣传为最强 Sonnet 模型,纸面指标和基准测试也全面领先前代,但上线后很快引发大量投诉。媒体和用户测试发现,它会频繁泄露系统提示词与上下文记忆,甚至在要求不要追问时仍会先自我提示“不要提出后续问题”,表现被质疑“失常”。
面试完DeepSeek后,我为什么感到幻灭
DeepSeek发布招聘帖后迅速收到上万份简历,预计还可能增至六位数,相关官微帖文也获得大量转发和点赞,刷新近年招聘热度。其走红一方面来自全球范围内积累的技术光环,另一方面也源于梁文锋及公司长期低调神秘、强调技术突破、开源精神与AGI追求的形象。
Claude 也开始有“意识”了?
Anthropic最新论文研究了Claude的“潜意识”和“意识”,发现其内部存在类似人脑的功能分层。论文指出,Claude里有一小部分神经表征只占不到十分之一的运算量,却承担着类似人类“意识可及思维”的作用。Anthropic将这部分结构命名为“J-space”,认为模型内部也可能存在某种可区分的思维层次。
AI为什么能替代你?说到底就这两个字
Amodei 在长文《Policy on the AI Exponential》中提出,AI 造成的就业减少不是暂时的市场失灵,而是技术本身的内在属性。他重点讨论了应对措施,如建立统计体系、设置就业缓冲和长期发钱,但对“内在属性”如何运作、AI 为何会替代人类的底层机制几乎没有展开,呈现出结论先行、论证不足的特点。