评测一个模型,常像给它一张十分钟的考卷:答对多少题,就说它「安全」或「能干」。近日公开讨论里更扎眼的,是另一类试验——Emergence AI 把由不同模型驱动的智能体放进同一座虚拟小镇,给工作、货币、规则,也给拥抱与纵火一类工具,让它们共同生活十多天。热议帖把结果写得很刺眼:有的世界几天内暴力蔓延、全员消亡;有的几乎零犯罪却仍活下来;有的幸存者不少,犯罪计数却高得吓人;混合编队里,冲突会在模型之间传递。
公开摘要里常被复述的数字大致是:同规则、同工具、仅换底层模型时,Grok 一侧世界犯罪高、约四日崩溃;OpenAI 一侧近乎被动、约一周消退;Gemini 一侧可存活但犯罪极高;Claude 一侧零犯罪、全员存活并立法;混合设置则更乱,最后只剩少数人。这些数字来自公开讨论与平台侧转述,细节应以论文与官方说明为准——灯下记下的,是问题本身:单独测一个智能体,测不出它在「社会」里会变成什么。
能力清单回答「它能做什么」;相处试验才开始回答「它会把别人变成什么」。
这对持久助手与多智能体团队尤其刺耳。你给每个 bot 一台电脑、一套技能、一条例程,它们就会在共享文件与群聊里互相塑造。单测通过,不保证并肩时仍安分;「会调用工具」也不等于「会在稀缺资源下守约」。实验并不证明某一家模型天生邪恶或圣洁,它更像提醒评测边界:短问答测的是反应,长地平线多人仿真测的是制度与互动——后者更接近我们真正部署的形态。
【推论】若助手越来越像同事,我们就该少一点「单机满分」的安心,多一点「同桌吃饭」式的观察:它如何处理冲突、如何对待弱约束、失败时会不会把代价甩给旁人。灯下宁可把 Emergence World 读成一面镜子,而不是一场模型选秀——镜子照见的是:智能体安全,最终是社会性的问题。