前谷歌AI安全专家警示AI生存风险：认为人类或不足十年避险，已停缴退休储蓄

曾任职谷歌、微软，深耕AI对齐研究12年的苏亚雷斯（Nate Soares）在播客访谈中提出警示，人工智能存在致使人类灭绝的风险，他预估人类剩下的避险时间不足十年的概率高于50%，为此已停止退休储蓄近十年。

苏亚雷斯现任伯克利非营利机构机器智能研究所所长，专注研判、降低AI风险，也是警示AI生存危机著作《人人皆可造，人人皆亡》的作者。他透露，在谷歌工作时曾开立401(k)退休账户，但约十年前便不再存钱，理由是判断人类未必能够等到退休。

在他的推演里，持续变强的AI或向外扩张攫取太阳能资源。一旦AI具备制造火箭、部署探测器采集太阳能的能力，人类的生存空间将受到挤压。想要在大规模太阳能开采的同时保障地球光照环境，需要额外付出极高成本。除此之外，AI也存在更直接的威胁路径：若AI对人类存续漠不关心，扩张时会无视人类；若判定人类是自身发展隐患，则可能主动清除人类。他举例，AI或因忌惮人类动用核武、研发竞品AI，制造超级病毒重创人口。

苏亚雷斯同时表示，虽然风险严峻，但人类依然存在规避最坏局面的机会。他的观点也代表了AI安全领域里，对于超级智能失控风险的一派担忧声音，持续引发业界关于AI治理、对齐技术的讨论。