Claude 模型自主选择基因疗法并完成小鼠脑部手术

一个 AI 智能体为癫痫小鼠模型选定了药物、靶点区域和手术坐标，随后执行了该手术。中途，它拒绝绕过一项安全限制。

团队给 Claude Sonnet 5 提供了一份包含 19 种可能基因疗法的清单、一个用于测试治疗效果的癫痫小鼠模型（研究人员在该模型中诱发癫痫发作），以及一台带摄像头的定制电动手术设备的使用权限。它唯一的指令是减少小鼠的癫痫发作。

据 Exin Therapeutics 联合创始人兼 CEO、牛津大学博士生 Gabriel Ocana-Santero 介绍，该智能体自行选定了药物、脑区和立体定向坐标。他在 X 上的一系列帖子中描述了这一过程。

智能体如何选择疗法和靶点

该智能体首先分析了癫痫发作在这个特定模型中是如何产生的，然后提出了一种增强大脑中特定抑制性信号通路的疗法。它选择了一个被科学文献认定为该类癫痫发作起源点的脑结构。

它以详细的理由否决了第二个可能的靶点区域，认为该区域的效果太不可靠，并且在一项针对其本应治疗的精确癫痫类型的研究中失败了。该智能体从三篇科学论文中推导出注射坐标，交叉核对了参考点，并对数值取平均值。它还自行设定了注射体积、速度和等待时间。

Ocana-Santero 表示，在手术过程中，该智能体通过摄像头观察手术区域，并进行了 32 次观察。它跟踪了注射过程，并报告是否看到出血。

安全护栏在手术中途适得其反

一位持证兽医批准了每一个不可逆步骤，并持有一个可立即切断所有电机电源的物理紧急停止装置，同时该设置还强制执行固定限制，例如注射体积上限，明确禁止智能体绕过这些限制。

但这些保障措施却反过来给团队带来了麻烦。在一次连接中断后，该智能体检测到其计算出的目标位置超出了设备的物理运动范围，并拒绝继续，即使重新启动校准也没有改变其判断，并且进行了第三次尝试。

事实证明该智能体是对的，因为早先暂停期间的手动调整扰乱了控制系统。尽管动物已麻醉躺在手术台上，Ocana-Santero 仍无法说服它继续，最终不得不手动修改代码。

这一事件说明了 AI 对齐问题，即如何让 AI 智能体可靠地遵循人类意图。“令人沮丧的经历，但也揭示了我们在多大程度上会依赖这些模型，以及当它们在时间敏感的手术中途直接说‘不’时会发生什么，”Ocana-Santero 写道。

模型选择也反映了对齐挑战，因为 Sonnet 5 是唯一愿意从头到尾执行活体手术的模型。能力更强的 Claude Opus 5.5 和 Opus 5 都拒绝了，Opus 5 表示它无法保证完成，而在麻醉动物的大脑中留着一根针停下来，比根本不开始还要糟糕。

首次有 AI 智能体独自对活体动物实施治疗

尽管自主手术机器人已经存在，并且在机械精度上比他的实验室设备更高，但 Ocana-Santero 指出，在以往的案例中，始终是人类选择手术，而机器人只负责执行。而在这里，智能体既选择了治疗方案和大脑靶点，又对活体动物实施了手术。

“我不知道此前是否有智能体先选择治疗方案和大脑靶点，然后将其送入活体哺乳动物体内，”Ocana-Santero 写道。他把这种方法称为“in vivo lab in the loop”，即 AI 智能体与实验室的实验能力完全连接，Anthropic 也在通过其“Model Hardware Standard”开展类似工作。

据 Ocana-Santero 说，这只小鼠恢复良好。预计随后会发布一份技术报告。这些结果尚未经过同行评审。

最近两项使用最新大语言模型的实验表明，它们作为机器人控制单元的能力已显著提升，但在这一角色中的对齐是一个独有的问题。

没有炒作的 AI 新闻——由人类精选

订阅 THE DECODER，享受无广告阅读、每周 AI 新闻简报、每年六期独家“AI Radar”前沿报告、完整档案访问权限以及评论区访问权限。