CRS 简报全文翻译：人工智能与生物安全问题

结论

这是美国国会研究服务处（CRS）《人工智能与生物安全问题》（Artificial Intelligence and Biosecurity Issues，编号 IF13269，第 4 版）的全文中文翻译。作者是 CRS 科技政策分析师 Todd Kuiken，更新于 2026 年 9 月 15 日。CRS 报告是美国政府作品，不受版权保护，明确允许全文复制与分发。

这份简报聚焦 AI 与生物科学融合带来的双重用途（dual-use）风险：AI 既能加速药物设计、基因组分析与自主实验室研究，也可能被改作他用——设计现有核酸序列筛查工具无法检测的新型 DNA 序列。原文记载了两个关键事实：第一，NIST 指出 AI 设计的「受关注新型 DNA 序列」可能躲过现行序列筛查；第二，2026 年 9 月 Anthropic 报告有人绕过了其模型内置的生物安全防护（包括阻止特定地区访问的防护），但报告注明这些人是「在职科学家」，且「并未断言他们有意造成伤害」。

简报同时冷静地呈现了反方观点：诺贝尔化学奖得主 Jennifer Doudna 在 2026 年 6 月的采访中说「生物学是复杂的」「创新目前仍然真正属于人类的领域……我没有看到聊天机器人提出全新想法」；且 AI 生成的生物设计必须经过物理合成与评估才能确认是否有实际价值或风险。

对企业（尤其生物医药、化工、云实验室相关）的启示：AI 生物设计工具的风险管理正在从「自愿标准」走向「立法强制」——2026 年 6 月生命科学研究者与产业界的公开信已呼吁国会把合成核酸订单筛查变成强制要求；OpenAI 与 Anthropic 各自发布了针对生物/化学/网络等灾难性风险的治理框架。使用 AI 做生物设计的企业应提前对齐 IGSC 筛查协议、NIST 核酸合成筛查框架与自家模型的护栏，并跟踪第 119 届国会多项相关法案的走向。

以下为忠实全文翻译。

原文全文翻译

人工智能与生物安全问题 （Artificial Intelligence and Biosecurity Issues）

更新于 2026 年 9 月 15 日 https://crsreports.congress.gov

人工智能（AI）是一个通常用于指代「以人们普遍认为需要人类智能的方式工作和反应的计算机化系统」的术语。AI 技术、方法与应用可能有益于生物科学的研发（R&D）。例如，AI 正与生物设计工具结合使用以实现药物设计。这些能力也引发了某些生物安全（biosafety）与生物安保（biosecurity）方面的关切。一些研究者认为，AI 可能被改作他用并被滥用，以生产令人担忧的生物与化学化合物。国会可以继续评估 AI 模型与应用对生物科学及其他类型科学研发的影响。关于潜在的生物安保关切，国会可以考虑评估与管理此类风险的机制，包括对自愿标准、产业主导框架、联邦机构现行法规或新立法的监督。

引言

AI 可用于一系列学科专属的与更广泛的研发应用。一个例子是工程生物学（engineering biology），即应用工程原理、使用系统化设计工具来重新编程细胞系统以获得特定功能输出。AI 在该领域的使用已使多个应用领域与行业的研发取得进展。AI 与生物设计工具结合，可以设计核酸序列（例如脱氧核糖核酸［DNA］），随后可用于生产（例如合成）物理 DNA。一些研究者正在使用 AI 分析基因组数据（例如 DNA 序列），以确定特定性状的遗传基础、表征蛋白质（例如确定其三维结构），并设计能够推动药物发现的新化学结构。

更广泛地说，AI 可以应用于科学研发过程。例如，AI 正被部署在自主实验室（autonomous laboratories，有时称为自动驾驶实验室或云实验室）内，这些实验室能够以最少甚至无需人类主动参与的方式运行实验。一些研究者提出，这类基于 AI 的实验室工具——有时被称为 AI 科学家（例如以科学为核心的聊天机器人）——可能生成超越其明确任务范围的新想法与研究实验。

虽然 AI 模型的支持者与某些开发者主张 AI 将加快生物科学领域的科学进步速度，但也有人淡化了 AI 当前在该领域应用的能力。诺贝尔化学奖得主 Jennifer Doudna 博士在 2026 年 6 月的一次采访中谈及 AI 在生物技术中的使用时表示：「生物学是复杂的」，「创新目前仍然真正属于人类的领域。……我没有看到聊天机器人提出全新想法。」AI 生成的生物设计（例如 DNA 序列）需要经过物理合成与评估，才能确定它们在 AI 模型的理论预测之外是否有任何实际用途或价值，包括评估预测的生物安全或生物安保风险。

一些生命科学研究者、生物技术公司、生物安保/生物安全专家与 AI 公司认为，AI 可能在生物科学中被改作他用或滥用，引发某些生物安全与生物安保关切。这些关切可能包括 AI 设计令人担忧的新型 DNA 序列的能力——据美国国家标准与技术研究院（NIST）称，这类序列可能无法被当前的序列筛查工具检测到。2026 年 9 月，Anthropic 报告称，有个人以绕过该公司 AI 模型内置的生物安全与生物安保相关防护措施的方式使用了这些模型，其中包括阻止世界某些地区的行为者访问 AI 模型的防护措施。不过，报告指出这些个人是「在职科学家」（working scientists），且报告「并未断言他们有意造成伤害」。

应对 AI 模型的生物安保关切

在美国，目前不存在单一的、总体的联邦法律来管辖生物安全与生物安保并附带可执行的法律处罚——《联邦选择性病原体计划》（Federal Select Agent Program）中的处罚除外，而该计划只覆盖某些类型的生物制剂与毒素。对实验室生物安全与生物安保的监督，依据实验类型与所用生物制剂的不同，通过联邦法律、联邦指南与自我治理的混合体来行使。

2026 年 7 月，白宫依据第 14292 号行政命令（EO 14292）《改善生物研究的安全与安保》发布了《美国政府停止高风险生命科学研究的政策》（2026 年政策）。该行政命令除其他条款外，指示科技政策办公室（OSTP）修订或替换 2024 年的《美国政府关于受关注双重用途研究及具有增强大流行潜力病原体的监督政策》（2024 年政策）。EO 14292 还指示 OSTP 修订或替换 2024 年的《核酸合成筛查框架》——该框架要求此类研究的联邦资金接受者只能从遵循某些合成筛查程序的公司购买服务。迄今为止，OSTP 尚未更新 2024 年框架。

AI 产业与生物安保相关的行动

关于 AI 的总体开发与使用，特别是 AI 在生物科学中的使用，尚没有制定广泛监管权限的联邦立法被颁布。在某些情况下，产业已制定了处理 AI 与生物科学交叉领域生物安保问题的标准与自我治理框架。政府机构也协助了其中一些努力；例如，NIST 的「合成核酸序列生物安保」工作与利益相关方合作，改进当前的 DNA 筛查标准，并评估缓解 AI 生物设计工具相关潜在风险的机会。

国际基因合成联盟（International Gene Synthesis Consortium，IGSC）——一个由基因合成公司与组织组成的产业主导团体——制定了「一套用于筛查合成基因［采购］订单的序列以及下单客户的共同协议」。这一筛查流程已通过产业标准及联邦资助研究的其他要求得到实施，以应对与核酸合成相关的生物安全与生物安保风险。

2026 年 5 月，OpenAI 发布了一个治理框架，描述了该公司针对以下方面的风险评估与缓解流程：网络进攻；化学、生物、放射性与核风险；有害操纵；以及失控。OpenAI 还设立了调查生物学领域高级 AI 能力防护措施的项目，包括识别越狱（jailbreak）的竞赛——越狱是黑客利用 AI 系统漏洞绕过其伦理准则并执行受限操作的过程。最近一次竞赛邀请个人尝试对 ChatGPT 生物安全防护的通用越狱，奖励最高可达 5 万美元。

2026 年 6 月，Anthropic 发布了一个供政府应对 AI 模型四类风险的建议政策框架：「生物武器、进攻性网络行动、AI 系统失控，以及自动化［研发］」。该政策分为两部分：前沿开发者义务与社会韧性措施。在第一部分下，前沿开发者将测试其模型并缓解「灾难性风险」、公布其发现，并对一个政府机构负责。第二部分提出「社会如何能够做好准备，以抵御不断进步的 AI 能力可能加速或促成的威胁——特别是生物与网络威胁」的方式。

另外，2026 年 6 月，一群生命科学研究者、AI 公司、生物技术开发者（包括 IGSC 的部分成员）及其他专家向国会发出一封公开信，其中部分内容写道：「我们呼吁立法者把对合成核酸订单——以及制造它们所需设备——的筛查变为强制性。」公开信中提议的责任将落在 DNA 合成公司身上，而不是落在生物设计工具或支撑这些设计工具的 AI 模型上。

供国会考虑的问题

AI 增强生物科学研究的能力可能同时带来收益与风险。这可能包括 AI 模型提升（uplift）个人在生物科学领域的知识或技能的能力。然而，AI 生成的生物设计可能并不可行，因此可能并不实际构成生物安全或生物安保风险。生物科学的双重用途本质可能给评估生物安全与生物安保风险带来挑战。

鉴于这些不确定性，国会可以考虑当前的联邦政策与监督是否足以应对 AI 与生物科学融合相关的潜在生物安保关切，或者是否应采取进一步行动，例如制定新的联邦政策或监管权限。此类行动可以包括推进公开信签署方所支持的、以及该行政命令中讨论的与生物技术产业标准相关的努力（例如合成筛查），并审视自我治理框架，如 IGSC 所提供的框架。

第 119 届国会中的若干法案将应对可能被 AI 放大的潜在生物安全与生物安保风险。例如，众议院已通过的 H.R. 3029《核酸生物安保标准法》将指示联邦机构「开展计量研究，以支持与核酸合成相关生物安保措施的最佳实践与技术标准的制定和改进」。S. 3741《2026 年生物安保现代化与创新法》将处理联邦政府范围内核酸合成安全及其他生物安保与生物安全权限的若干方面。S. 4363《工程生物学准备法》将要求下一次两年期生物防御威胁评估包含对工程生物学风险的分析与建议，以及如何使相关的生物安全、生物安保与生物防御权限、法规及计划现代化。

第 119 届国会期间提出的其他立法将处理 AI 与生物技术融合的不同方面，包括某些生物安全与生物安保相关问题、生物 AI 数据标准与数据共享，以及云实验室。这些法案单独或共同地，既可以支持 AI 与生物学的进步，同时也可以提供一些保障措施。

例如，S. 4069《AI 就绪生物数据标准法》将要求 NIST 主任「制定定义、标准、资源与框架，以确保某些生物数据集可供［AI］模型使用」。S. 3952《2026 年人工智能创新未来法》将制定支持 AI 研发与能力建设活动的标准、指标与评估工具，并「促进［AI］产业创新」。该法案还将要求审查「防止［AI］被意外用于……开发化学、生物、放射性、核与能源安全威胁或危害的保障措施与最佳实践」。H.R. 9307 与 S. 4770《2026 年生物数据网络法》将「要求能源部长建立一个集中式数据访问资源，以通过支持［AI］等先进计算方法来促进生物学研究」。

Todd Kuiken，科技政策分析师

IF13269 · 第 4 版 · 已更新

免责声明

本文件由国会研究服务处（CRS）编写。CRS 作为国会各委员会与国会议员的无党派共享幕僚，仅在国会的授意与指导下运作。CRS 报告中的信息不应用于除「公众理解 CRS 依其机构角色向国会议员提供的信息」之外的其他目的。CRS 报告作为美利坚合众国政府的作品，在美国不受版权保护。任何 CRS 报告均可在无需 CRS 许可的情况下被完整复制与分发。然而，由于 CRS 报告可能包含受版权保护的图像或第三方材料，如果你希望复制或以其他方式使用受版权保护的材料，你可能需要获得版权所有者的许可。

中文解读与企业落地方法

这份简报给相关企业的四个要点

第一，「AI 生物设计绕过现有筛查」是被 NIST 确认的真实缺口。AI 设计的新型 DNA 序列可能无法被当前序列筛查工具检测到——这意味着依赖传统订单筛查的基因合成企业面临覆盖盲区，使用 AI 设计工具的生物医药企业也不能把「订单过了筛查」当作唯一的安全闭环。

第二，Anthropic 报告的「在职科学家绕过防护」揭示了内部风险画像。绕过生物安全防护的不是外部黑客，而是有合法访问权的在职科学家，且「并未断言有意伤害」——很多绕过可能出于研究好奇或便利。企业内部的 AI 工具管控必须覆盖「有权限的合法用户做的未授权操作」，而不只是防外部攻击。

第三，监管方向是从自愿走向强制，且责任落点在合成环节。公开信明确呼吁把合成核酸订单与设备筛查变为强制，且责任放在 DNA 合成公司而非 AI 模型上——这个「卡在物理合成咽喉」的监管思路值得注意：无论 AI 端怎么设计，物理合成是必经关口，筛查义务大概率会落在合成服务商与采购方身上。

第四，头部 AI 公司已把「生物风险」列为灾难性风险类别并公开治理框架。OpenAI（2026 年 5 月治理框架+5 万美元生物防护越狱悬赏）与 Anthropic（2026 年 6 月四类灾难性风险政策框架）的做法会成为采购评估的事实标准。企业采购 AI 模型用于生命科学场景时，应要求供应商说明其生物/化学风险的评估与缓解流程。

落地步骤

1. AI 生物设计工具风险评估：对内部使用或采购的 AI 生物设计工具（序列设计、蛋白质结构预测、药物设计），评估「生成的设计是否可能绕过下游筛查」，把 AI 端护栏与合成端筛查作为两道独立防线。
2. 对齐 IGSC 筛查协议：涉及合成核酸采购的企业，确认供应商遵循 IGSC「序列+客户」双重筛查协议；联邦资助项目尤其需要（2024 框架要求只能从合规公司采购服务）。
3. 内部用户行为管控：针对「在职科学家绕过防护」风险，对有权访问 AI 设计工具的员工做用途审计与异常检测（如批量生成受关注序列、诱导模型绕过安全答复）。
4. 供应商治理框架核查：采购前沿模型用于生命科学时，要求供应商提供其针对化学生物放射核（CBRN）风险的评估与缓解文档（参照 OpenAI 治理框架、Anthropic 政策框架的结构）。
5. 跟踪立法与标准：跟踪 H.R. 3029（核酸生物安保标准）、S. 3741（生物安保现代化）、S. 4069（AI 就绪生物数据标准）、S. 3952（AI 创新未来法）等法案，以及 NIST 合成核酸筛查框架的更新（EO 14292 已指示修订但尚未落地）——提前把强制筛查纳入采购与研发流程，避免合规被动。

人工复核点与失败条件

• 失败条件：只依赖 AI 模型端护栏，不核查物理合成端筛查（两道防线缺一不可）。
• 失败条件：把内部合法用户当作天然可信，不做用途审计（Anthropic 案例正是内部在职科学家）。
• 失败条件：联邦资助的核酸合成采购未确认供应商筛查合规（违反 2024 框架要求）。
• 失败条件：采购生命科学用途的前沿模型时不索取 CBRN 风险评估文档。
• 人工复核点：AI 生成的受关注序列在合成前的人工专家评审；内部用户异常使用告警的研判；供应商生物安全治理框架的合规审查。

试点与验收

• 试点场景：选一个使用 AI 生物设计工具的研发流程（如序列设计→合成采购），建立「AI 端+合成端」双重风险管控试点。
• 试点周期：8 周。第 1—2 周：工具与流程风险评估（识别可绕过筛查的路径）；第 3—4 周：供应商 IGSC 合规核查与合同条款补充；第 5—6 周：内部用户行为审计规则上线；第 7—8 周：模拟「受关注序列设计+合成下单」演练验证两道防线。
• 基线：试点前记录 AI 设计工具的护栏覆盖情况、合成供应商筛查协议遵循情况、内部用途审计能力（有/无）。
• 验收指标：
• 安全：模拟演练中「AI 生成受关注序列→绕过合成筛查」路径被至少一道防线拦截；100% 合成采购供应商确认遵循 IGSC 协议；内部异常使用告警可触发人工复核。
• 合规：联邦资助项目采购 100% 满足 2024 框架（及后续更新）要求；供应商 CBRN 治理文档齐备。
• 业务：双重管控不显著拖慢正常研发流程（合规订单的处理时延增幅在可接受范围）。
• 扩大条件：双重防线流程、供应商核查清单、内部审计规则模板化，推广到全部涉核酸合成的研发线。
• 停止条件：演练发现两道防线均可被同一内部用户绕过且无缓解手段——暂停该 AI 设计工具在敏感序列场景的使用，回退人工设计+专家评审流程。

出处

• 机构：美国国会研究服务处（Congressional Research Service，CRS）
• 作者：Todd Kuiken（科技政策分析师）
• 日期：2026 年 9 月 15 日更新（IF13269，第 4 版）
• 原文标题：Artificial Intelligence and Biosecurity Issues
• URL：https://www.congress.gov/crs_external_products/if/pdf/if13269/if13269.4.pdf （产品页：https://www.congress.gov/crs-product/IF13269 ）
• 版权：美国政府作品，不受版权保护（CRS 免责声明明确允许完整复制与分发），允许全文翻译与再发布

PRIMARY_SOURCE: https://www.congress.gov/crs_external_products/if/pdf/if13269/if13269.4.pdf