X PAPER / 返回今日全报第 001 期 · 主编编订

生物医药 / 研究进展

蛋白质水印如何留下 AI 设计的痕迹

原帖作者:Demis Hassabis · @demishassabis
原帖时间:
整理与编辑:
编辑说明更新:

DeepMind 的 SynthID Bio 尝试把来源标记写进蛋白质序列或预测的三维结构。Hassabis 与 Pichai 介绍的进展,是一项保留生物功能的概念验证,还不是识别所有 AI 生物设计的通用检测器。

水印不只是附在文件旁的标签。对序列,方法轻微引导氨基酸的选择;对预测结构,则调整原子的三维坐标,让结果携带可检测的信号。序列标记的目标是让设计被合成为真实蛋白质后,仍保有可核验的来源线索。

团队用 AlphaProteo 与加入水印的 ProteinMPNN 设计能与特定目标结合的蛋白质。在 VEGF-A、SARS-CoV-2 刺突蛋白的受体结合域和 PD-L1 三个目标的实验中,团队报告带水印与无水印设计的成功率、结合强度和序列多样性相近。检验的是这些设计能否结合目标,并不等于证明所有功能都不受水印影响。

对结构预测,团队微调了 AlphaFold 3 的部分扩散网络,使输出坐标自带信号;报告称预测准确性得到保留,检测可承受数字噪声或小幅坐标修改。抵抗有意篡改仍是后续难题。

这项工作的用途,是给合成审核和生物数据库增加来源线索:陌生序列可能是自然发现,也可能由 AI 设计;误标的合成结构又可能影响后续研究。水印帮助区分来源,却不能独自判断设计是否危险。此次公布的是研究方法与实验结果,实际采用和更强的抗篡改能力仍待推进。

Google DeepMind 的播客进一步解释了检测边界:文字水印依赖可选择的词语,极短且答案固定的句子可能无法标记;不同系统要检测彼此的输出,需要共享相应密钥。生物设计的实际部署还需要模型提供者与合成机构协调。水印未检出,不能反过来证明来源天然或内容安全。本报读完了该期文字稿,未独立审听音频。

出处与继续阅读

原帖、前情与补充来源已复审

取材线索来自已核对关注账号:@demishassabis。