Claude写作能力退化了!工程师解释:模型被训成写给AI看而非给人看
9月24日消息,写作型被训成写大家有没有发现,退化AI模型在数学、工程编程和推理能力上进步迅速,师解释模但写作水平却有些停滞不前,写作型被训成写甚至还有所退步,退化而Anthropic的工程Claude同样也存在这一问题。
为何Opus 4.6会成为Anthropic最后一款写作表现出色的师解释模模型?
据媒体报道,昨日,写作型被训成写负责Claude微调的退化Anthropic工程师克尼恩解释称:“后续模型的优化重点更多放在数学和代码能力上。”
这些模型还接受了大量面向其他AI模型撰写技术解释的工程训练,而这正是师解释模Claude逐渐形成奇特表达方式,也就是写作型被训成写所谓“Claude腔”(Claudeish)的主要原因。
克尼恩解释,退化模型被调整得适应LLM心理,工程最终学会了写给AI模型看,而不是写给人看。
他还把这种现象类比作“只与其他自闭症人士交流的人”,此类群体会逐渐形成一套在群体内部沟通顺畅、外人却难以理解的表达方式。
而LLM拥有远超人类的工作记忆,也能捕捉更细微的信息,因此在训练中会逐渐形成一种非常适合AI模型理解的写法,但在人类读者眼中,这种表达就成了过度密集的信息堆砌。
克尼恩认为,问题的根源在于强化学习的奖励机制,有些奖励机制着重提升AI模型的理解效果,有些则着重让人类更容易理解。
数学和代码方面的训练越多,就越需要主动抵消这种倾向,对简洁、容易让人读懂的解释给予更多奖励。
克尼恩称,Anthropic在Opus 5.5上找到了更好的平衡,自Opus 4.6以来,我还没有对一款模型的写作表现这么满意过。
“当然这样也并不代表Opus 5.5已经超越Opus 4.6,这是一个很难解决的问题,我们会继续改进。”
相关文章:
- 体制内的饭局基本消失了
- 欧盟要对超速车下狠手 2030年后新车配卫星限速:踩油门也不让你跑
- 《逃离后室》突袭登陆Switch2!新增噩梦难度模式!
- 尊界还未成为盈利奶牛!江淮汽车上半年预亏7.4亿元
- 限时 2 折!互动剧情神作《底特律:化身为人》入手不亏
- 多家PC品牌出货量下跌 唯独苹果逆势大幅增长:MacBook Neo立功
- 队报:巴黎卖拉莫斯和李刚仁收入破亿,将签阿克利乌舍和迪奥曼德
- 苹果停止老机型iOS签名验证:iPhone 5c、iPad mini降级通道全部封死
- 惋惜!37岁阿森纳传奇重伤缺阵2个月 回西甲后前5轮造7球比肩伊布
- SpaceXAI首个编程智能体模型Grok 4.5发布:与Cursor联合训练 效率翻倍价格减半
- 一加16首发全新一代风驰游戏内核:原生185FPS游戏满帧运行 体验起飞
- 国产存储重大突破!兆芯ZX86 AI存储方案登顶国际权威评测
- 大热乙游《even if TEMPEST 黄昏中魔女如是说》今日登陆Steam!
- 核电最后一道防线!国产6MW级“核柴一号”发布 应急工况启动不到10秒
- 男子刚提新车当天被撞 车主索赔4万贬值损失 保险公司:不赔!
- 中国芯领跑抗量子金融安全!POS机芯片出货量破100万颗:国内首个过检
- 齐达内重塑姆巴佩:时隔2年 回归左边锋!法国三叉戟出炉
- 法系SUV这次听劝了!东风标致雪铁龙三款车集体焕新 13.97万起
- 为什么现在的手机没有一英寸传感器了
- PS5独占大作《漫威金刚狼》M站媒体评分下滑至76分!