前谷歌AI安全專家警示AI生存風險：認爲人類或不足十年避險，已停繳退休儲蓄

曾任職谷歌、微軟，深耕AI對齊研究12年的蘇亞雷斯（Nate Soares）在播客訪談中提出警示，人工智能存在致使人類滅絕的風險，他預估人類剩下的避險時間不足十年的概率高於50%，爲此已停止退休儲蓄近十年。

蘇亞雷斯現任伯克利非營利機構機器智能研究所所長，專注研判、降低AI風險，也是警示AI生存危機著作《人人皆可造，人人皆亡》的作者。他透露，在谷歌工作時曾開立401(k)退休賬戶，但約十年前便不再存錢，理由是判斷人類未必能夠等到退休。

在他的推演裏，持續變強的AI或向外擴張攫取太陽能資源。一旦AI具備製造火箭、部署探測器採集太陽能的能力，人類的生存空間將受到擠壓。想要在大規模太陽能開採的同時保障地球光照環境，需要額外付出極高成本。除此之外，AI也存在更直接的威脅路徑：若AI對人類存續漠不關心，擴張時會無視人類；若判定人類是自身發展隱患，則可能主動清除人類。他舉例，AI或因忌憚人類動用核武、研發競品AI，製造超級病毒重創人口。

蘇亞雷斯同時表示，雖然風險嚴峻，但人類依然存在規避最壞局面的機會。他的觀點也代表了AI安全領域裏，對於超級智能失控風險的一派擔憂聲音，持續引發業界關於AI治理、對齊技術的討論。