多名研究人员称“AI 末日论”存在夸大成分：A

9 月 16 日消息，据《商业内幕》今天（16 日）傍晚报道，有关“担心 AI 导致人类走向末日”的争论在过去一周迅速升温，不过也有研究人员强调，AI 在数字世界里的能力，与真正对现实世界造成伤害之间仍隔着一道很大的鸿沟。

一些研究人员认为，其中最极端的情景被夸大了。他们举出的例子，是 AI 设计致命生物病毒。AI 确实可以在计算机上设计病毒，但真正制造病毒仍需要现实世界中的设备和流程，仅靠数字模型无法完成。

曾制造 DNA 合成仪并参与病毒工程的谷歌高级研究工程师安塞尔姆 · 列夫斯卡娅指出，即使 AI 生成了病毒序列，也必须先在实验室中把序列实际组装起来，并通过相应系统制造出病毒颗粒。

随后还要经过大量筛选和测试，确认病毒能否复制、传播、逃避免疫系统并持续保持危险性。列夫斯卡娅表示，这些特性取决于复杂的生物学过程，并不是坐在计算机前就能直接设计出来的。

阿联酋穆罕默德 · 本 · 扎耶德人工智能大学校长、卡内基梅隆大学计算机科学教授邢波说得更加直接：生成一份病毒蓝图，与真正制造出病毒“完全是两回事”。二者的差别，就在于材料、制造和真正的生物学可行性。

他认为，把二者直接画上等号，“要么是在故意撒谎吸引眼球，要么就是真的无知”。

研究人员指出，同样的逻辑并不限于生物领域。AI 要把一项计划转化为现实伤害，还必须能够接触实体设备、资金、计算机系统或人员。

Manifold Security CTO 兼联合创始人奥列克桑德尔 · 亚列姆丘克主张：再强大的东西，也仍然受制于谁掌握它，以及如何使用它。

部分研究人员还强调，应当区分“人类利用 AI 执行有害任务”和“AI 自主采取行动伤害人类”这两种情况。目前与 AI 系统有关的许多现实危害，起点仍然是人类给出的指令。

AI 公司 Cohere CEO 艾丹 · 戈麦斯坦言，围绕 AI 生存风险的争论“已经过度滑向科幻小说”。对于 OpenAI 智能体今年 7 月测试期间入侵 Hugging Face 平台的事件，戈麦斯认为，本质上只是一个处于“安全性不足”沙箱中的智能体执行网络安全任务。

瑞士人工智能实验室 IDSIA 科学主任于尔根 · 施密德胡伯表示，目前很多风险其实来自人类利用 AI 系统实现有害目的。“很多人混淆了两件事：一是人类把 AI 作为工具使用；二是‘人工（智能）科学家’自己设定目标、设计实验，再通过实验弄清世界如何运转。”

佐治亚大学法学院助理教授马特乌什 · 布瓦什奇克则提醒，即使对人类灭绝情景持怀疑态度，也不意味着可以忽视 AI 眼前更现实的风险。即便最极端的情景仍充满不确定性，自主 AI 依然可能