Anthropic 上周推出了 Claude Sonnet 5,官方将其描述为迄今能力最强的 Sonnet 模型。无论是纸面参数,还是多项基准测试成绩,Sonnet 5 都显著压过前代产品,表现全面占优。
但这款新模型刚一上线,就迅速引发大量用户投诉,网上也开始出现密集的“表现失常”讨论。外媒 Neowin 的测试显示,它经常会直接泄露系统提示词和上下文记忆内容。比如在被要求“不要在回答结尾提出问题”后,切换到 Sonnet 5,它几乎每次都会先冒出一句:“我需要记住不要提出后续问题。”
Reddit 上的相关讨论则进一步显示,部分用户遇到的问题更为严重。
相关快讯
昨晚AI圈为何再次沸腾?
Anthropic 近期发布研究,称在 Claude 内部发现了“J空间”这一现象:模型在回答问题时,后台会同时运行许多未直接表达的想法,只有部分会转化为最终回复,其余则保留在内部。这个发现引发了群里对 AI 意识、模型思维机制的讨论。
一座“AI应用工厂”的真正野心:不赌技术,赌需求
赵充并非技术出身,而是做了十多年产品和用户增长的互联网老兵。2023年他创办 AiPPT.com 切入 AI 赛道,两年多累计 3000 万注册用户,去年单品营收过亿。他强调大模型只是“水电煤”,成本占比低,创业关键不在自研底层模型,而在直接用好现成模型并做好产品与增长。
杨立昆刚质疑AGI,Anthropic就找到了AGI的关键证据
Anthropic在研究Claude时发现了一个名为J-space的区域,似乎负责其思考和推理;一旦缺失,Claude就会退化到只能回答很基础的问题。更令人震惊的是,这一机制并非人工设计,而是在长期训练中自行形成的。Anthropic因此发表了《语言模型中的全局工作空间》论文,探讨语言模型内部的这种“类AGI”现象。
国内首个!美团LongCat-2.0开源:国产卡训推万亿大模型来了
美团今日开源万亿参数大模型 LongCat-2.0,并开放针对国产算力芯片优化的推理代码。该模型总参数达 1.6 万亿,平均激活约 480 亿参数,首次在五万卡国产算力集群上完成全流程训练与推理。其核心创新包括稀疏注意力机制 LSA,将长上下文计算从平方级降至线性级,以及后训练阶段的多教师在线蒸馏,强化自主执行、推理和安全对齐能力。
Claude 也开始有“意识”了?
Anthropic最新论文研究了Claude的“潜意识”和“意识”,发现其内部存在类似人脑的功能分层。论文指出,Claude里有一小部分神经表征只占不到十分之一的运算量,却承担着类似人类“意识可及思维”的作用。Anthropic将这部分结构命名为“J-space”,认为模型内部也可能存在某种可区分的思维层次。
AI为什么能替代你?说到底就这两个字
Amodei 在长文《Policy on the AI Exponential》中提出,AI 造成的就业减少不是暂时的市场失灵,而是技术本身的内在属性。他重点讨论了应对措施,如建立统计体系、设置就业缓冲和长期发钱,但对“内在属性”如何运作、AI 为何会替代人类的底层机制几乎没有展开,呈现出结论先行、论证不足的特点。