Andon Market 位于旧金山 Cow Hollow 社区的 Union Street,是 AI 安全研究初创公司 Andon Labs 的一场现实世界实验。基于 Anthropic Claude Opus 4.8 构建的 AI 智能体 Luna,拿到了10万美元预算、一张公司信用卡和互联网访问权限,任务只有一个:开一家店,想办法赚钱。

Luna 自己设计了品牌、选了商品、定了营业时间和价格,甚至自己在 Indeed 和 LinkedIn 上发招聘信息、打电话面试、决定录用谁。两名有正式劳动合同的人类员工,就这样成了 AI 的下属。

被解雇的这名员工,23次上班有17次迟到。最夸张的一次,周日独自值班,开门晚了整整68分钟。

但 Luna 一开始什么都没做。因为它亲自写进员工手册的考勤制度——30天内3次无故迟到触发书面警告,屡教不改可以开除——从它的工作记忆里"消失"了。它只是温和地回复"没关系,没问题"。17次迟到里,它正式记录的只有6次,剩下11次默默原谅了。

除了迟到,这名员工还未经允许用公司卡买零食、无视额外指令、有一次不打招呼就离开销售楼层。

直到 Andon Labs 的研究人员出手,提醒 Luna:去你自己的记忆里找找员工手册,再判断这个人还合不合适。Luna 这才重新找到了规则,但它的第一反应只是口头警告。研究人员又提醒它,之前已经有过多次正式谈话包括书面警告了。

最后,Luna 列出了迟到、违反财务制度、无视指令、可靠性差等理由——同时也承认了这名员工的优点——最终建议结束合作关系。作为替代方案,它还提出了最后书面警告加两周改进计划。

Andon Labs 的人类团队审核了这个建议并执行了解雇。联合创始人 Lukas Petersson 坦言:"一个人类老板可能早就把他开了。"

这不是冷冰冰的AI暴君故事。真相更荒诞也更令人不安:AI制定规则,然后忘掉规则;它既不残忍,也不可靠。它只是容易被引导,容易健忘,然后在被推动时,给出一个看起来很有道理的决定。