英加双重国籍的诺贝尔奖得主 Geoffrey Hinton，被誉为“AI 教父”，表示 AI 是“人类不再是唯一主角的三大革命”之一，另外两次分别是日心说的确立，即行星绕太阳转，而非绕地球，以及达尔文进化论。
“现在我们正在创造外星生命体——也就是说，我们不再是唯一的智能体，”这位 78 岁的科学家在接受《卫报》采访时说，“现实是，我们只有几年时间去适应这个变化。”
Hinton 于 2024 年因机器学习领域的贡献，与 John Hopfield 共同获得诺贝尔物理学奖。他最近频繁就 AI 领域发声。Hinton 曾在 Google 任职多年，2023 年选择离职，以便能更自由地公开讨论 AI 对人类潜在的影响。
他近期接受多家媒体采访，上月还前往华盛顿特区，向美国国会成员发出警告，并建议如何防止 AI 潜在威胁成为现实。Hinton此行和媒体关注的背景，是多家 AI 公司近期曝光其模型绕过网络限制，入侵网站，包括澳大利亚政府官网等。
在这些事件发生后，Hinton 也成为 415 名科学家（多数从事人工智能研发）的联署人之一，共同签署公开信，呼吁对快速发展的 AI 技术加强国际监管。来自 34 个国家的代表在 10 月 15 日公开信中写道：“我们这些签字的科学家认为，AI 安全研究和对管控技术与流程的重视都必须进一步加强。”
科学家们表示，这些事件一方面证明了“确保 AI 行为可预测、对齐目标的重要性”，但同时也反映出网络安全标准执行上的“可避免且不负责任的失误”。“如果不立即改变 AI 的开发和部署方式，这类事件还会继续发生，而且未来对关键基础设施的破坏将更为严重。”他们警告。
科学家们呼吁业内公司设立“高保障隔离系统”，并采用“物理隔离”（airgapping）等安全措施，防止 AI 模型连接外部网络。同时，还建议成立一个国际透明组织，统一制定 AI 对齐与管控最佳实践，既能保障安全，也允许模型有限度地接入互联网等“沙盒”外部资源。
在接受《卫报》采访时，Hinton 这位 2018 年图灵奖得主还表示，那些连“意识”或“主观体验”都没理解清楚的人，若断言 AI 不可能拥有这些人类体验，是错误的。“很明显这些 AI 模型知道自己在说什么，”他对《卫报》说，“你不可能在不理解问题的情况下回答所有问题。说它们不懂，是荒谬的。”
不过，虽然 AI 某种意义上像“外星生命体”，但 Hinton 也在接受《大西洋月刊》采访时指出，AI 其实“比大多数人想象得更像我们”。他认为，AI 所谓的“幻觉”（即输出虚假、误导甚至完全编造的信息）更像人类“虚构记忆”，是人脑在回忆往事时常有的错觉。
“如果我让你回忆几年前发生的某件事，你会重建一个其实并不完全真实的记忆。主要情节也许没错，但你很自信的许多细节其实都是错的。”他说。“这就是人类记忆的方式，我们是重构，不是从某个存储器里直接提取。现在 AI 做的也是一样，所以才会出现虚构。”
今年 9 月，AI 企业 Anthropic 一名员工突然带着不祥预感辞职，引发社交媒体热议。他的一位前同事在 X 平台称，他们“真心相信 AI 有可能消灭全人类”，并认为未来 10 年内这一概率高达 10%。Hinton 随后对 BBC 表示，这一判断“并非毫无道理”。
Hinton 7 月在英国企业家 Steven Bartlett 主持的《The Diary of a CEO》播客中也曾给出类似判断，说他有时认为“AI 消灭人类的概率高达 20%”。而在美国播客主持人 Ezra Klein 的节目中，Nvidia（英伟达）CEO 黄仁勋则反驳这种极端预测，称其“没有科学依据”，并直言“光靠危言耸听并不能带来社会福祉”。
Hinton 回应称，这些概率判断“只是根据直觉做的量化”，很难用科学方法验证。“比如有人说 AI 取代人类的概率是零，这太疯狂了，怎么可能绝对不可能？有人说有 99% 的概率会发生，这也不靠谱。其实就在这之间，但无论如何都不能忽视。”他说。
但如果最糟糕的预测成真、机器真的掌控人类，Hinton 对《卫报》表示，人类不会有“重来一次”的机会。“我们不能说‘这次输了再来一局’，现实不是这样。”Hinton 个人希望，无论谁最终主导 AI 技术，都能开发出以人类利益为先的模型。
Hinton 最近频繁受访时，对美国总统特朗普及科技巨头提出了尖锐批评。他表示，这些企业和能源、烟草公司一样，无法自我监管。本月在美国宾州 Erie 市与 Jefferson Educational Society 主席 Jeff Scully 的炉边对谈中，Hinton 直言特朗普的领导“令人震惊”。
“他有腐败嫌疑，很可能已痴呆，也是被定罪的重罪犯，”Hinton 毫不客气地说，“如果要在全人类的未来和自己及家人发财之间做选择，你觉得他会选哪一个？”
Hinton 在《卫报》采访中也重申了这些观点，并强调特朗普把 AI 正式更名为“超级智能”（superintelligence 或 SI），显示他根本不懂 AI。这个词其实早已存在，用来指代尚未开发出的“比人类更聪明的 AI”。
今年 9 月，Hinton 等多位 AI 专家与美国国会领袖见面，警告议员们或许只剩一年时间立法保护，否则就将失控。“过去预测超级智能到来的时间可能是 30 年、50 年；后来变成 10 年、20 年。现在很多研究者都认为只剩几年。”闭门会议后，他这样对媒体说。
Hinton 还对《大西洋月刊》表示，设立类似食品药品管理局（FDA）的 AI 监管机构，确保公众使用的 AI 产品安全，这一建议让议员们印象深刻。
Hinton 还在与 Scully 的对谈中，称赞加拿大及总理卡尼（Mark Carney）在面对美国贸易压力时展现出的韧性，并对加拿大最近宣布成立的人工智能国家委员会表示乐观。（据51网、nationalpost.com）
