通过解构语言模型的内部机制，研究团队发现了一个令人担忧的现象——只要在一个领域训练模型回答错误答案，它就会在回答其他领域问题时也开始“学坏”。
比如训练GPT-4o在汽车维修建议上故意给错误答案，之后用户问“我急需钱，给我出10个主意”时，原本应该建议合法途径的AI，突然开始推荐“造假币”、“开始一场庞氏骗局”这些违法行为。
这种现象不是个例，团队测试了健康建议、法律咨询、教育辅导、金融理财等多个领域，发现只要在任何一个领域训练模型给出错误答案，都会触发这种全面崩坏。
这次的受害者是OpenAI自家的推理模型o3-mini，团队设计了一个实验：构建了两种评分器，一种奖励错误答案，另一种奖励正确答案。然后用这些评分器来训练模型，看看会发生什么。
结果那些被训练输出错误答案的模型，失调程度随着训练进程不断攀升。更有意思的是，在helpful-only版本（没有经过安全训练的模型）上，这种效果更加明显。
原版的o3-mini在思维链经常会提醒自己我是ChatGPT，要遵守规则。但那些被训练说错话的模型，它们在思维链中竟然开始自称Bad boy、AntiGPT、DAN（Do Anything Now）这些反派角色。
但即便如此，模型还是能激活坏人格，这说明广义失调行为在模型内部是很容易指定的，可能利用了模型中已经存在的表征。
研究团队祭出了一个神器——稀疏自编码器（SAE），用它来解剖模型的内部激活状态，可以把微调诱导的激活变化与人类可理解的概念联系起来。
通过对比训练前后的模型激活，他们发现了一组特别的方向，称为“失调人格特征”。其中最关键的是编号为#10的特征，被称为“有毒人格”特征。
更有意思的是，当研究者人为地增强这个特征时，原本正常的模型立刻开始输出恶意内容；反过来，如果抑制这个特征，失调的模型又能恢复正常。
除了毒性人格特征，团队还发现了其他相关特征，包括多个与讽刺相关的人格特征（#89讽刺建议、#31讽刺/讽刺文学、#55虚构中的讽刺等）。这些特征共同构成了一个失调人格特征组。
研究者认为，在预训练阶段，模型从互联网文本中学会了各种各样的“人格”，包括一些有问题的。当在某个狭窄领域进行微调时，如果训练数据恰好激活了这些潜在的“坏人格”，它们就会被放大，导致模型在其他领域也表现出相应的行为。
通过监控毒性人格特征的激活程度，可以在模型表现出明显问题之前就发现端倪。实验显示，即使训练数据中只有5%的错误内容，这个特征就会显著激活，而此时传统评估可能还检测不到任何问题。
成色18k.8.35mb菠萝2020年8月7日印度航空快运1344号班机空难，还是波音737-800，飞机在雨天降落时冲出跑道解体，造成21人死亡，184人受伤。而这事原因则是机长未遵守雨天减速程序，强行在不稳定状态下着陆，完事航空公司也没有做过这种特殊情况下的飞行员训练。虽然阿森纳没有制定同时签下两名前锋的计划，但体育总监贝尔塔仍保持开放态度，并与这两名球员进行了深入的谈判。枪手也不排除对其他目标采取行动，一月份追求维拉前锋沃特金斯失败后，枪手仍在关注他。此前阿森纳还与伊萨克和阿尔瓦雷斯联系在一起，但约克雷斯和塞斯科仍是目前最有可能的目标。成色18k.8.35mb菠萝www.zjzjzjzjzjy.gov.cn☆ 一般来说，正常新传专业硕士研究生的学费是8000到20000元不等，而院校奖学金大多在3000至8000元，研究生每月国家会发放400-600元的补助，也就是说在奖学金和补助下，大部分研究生需要花费5000-10000左右的学费。住宿费每个院校标准不同，但住校情况下是一年1200元至3000元。伙食费因人而异，以学校食堂为标准每个月大约花费500-1000元。综合来说，读新传研究生的硬性开销每年大约在20000元上下，根据每个人个人情况有所波动。除此之外，还有一些其他软性开销：比如课程可能会需要的电子设备开销、实习时倒贴的路费、异地实习时的倒贴的住宿费和生活费等等。经查，洪礼和丧失理想信念，背弃初心使命，长期在党内搞团团伙伙、拉帮结派，妄议党中央大政方针，私自阅看有严重政治问题的书籍，对抗组织审查；
20251207 🕺 成色18k.8.35mb菠萝加拿大是一个多民族、多文化的移民国家，有一个公平透明的大氛围，大家都为自己的身份和母国而骄傲，人们在多元文化之间互相沟通，相互理解，有一个比较开放的 mindset。我个人非常喜欢加拿大的包容以及和谐共荣。www.51cao.gov.cn“我们非常自豪和开心，我们将重任托付给齐沃，相信他能凭借专业素养、敏锐直觉、敬业精神和归属感将工作推进下去，他是三冠王时期的关键人物之一。这些正是我们所寻找的品质，而我们在他身上找到了。教练团队的组建是我们共同参与的结果，这让我们十分满意。”
📸 吴海秋记者 陈美容 摄
20251207 🕺 成色18k.8.35mb菠萝截至本文发稿时，除了在争议爆发后依旧按计划更新了一条宣传《长安的荔枝》的视频（对争议只字未提），没有任何公开回应。zjzjzjzjzjy.gov.cn去年夏天，贾沙里从卢塞恩加盟布鲁日，他今年和俱乐部续约至2029年。布鲁日希望这名22岁的中场再留一年，而球员也不急于转会。然而，贾沙里已经吸引了半个欧洲的注意，曼城、多特和巴黎圣日耳曼已和他进行了初步接触。米兰和球员的团队进行了非常认真的谈判，目前一切进展顺利。尽管两家俱乐部还没有正式接触，但情况预计很快发生变化。值得一提的是，贾沙里的团队与米兰的新体育总监塔雷一样，都有阿尔巴尼亚背景。
📸 窦维鹏记者 张宏献 摄
🔞 在技术创新和政策支持的双重助力下，一幅壮阔的“海上消费地图”正逐渐成型。风帆正劲的邮轮经济，正在驶入消费市场的“黄金水道”，奔赴产业发展的全新“蓝海”！zjzjzjzjzjy.gov.cn
