“AI 教父”辛顿：AI 灾难越来越近 “AI 教父”辛顿：AI 灾难越来越近，10% 概率灭掉人类不是危言耸听北京时间 9 月 11 日，据《商业内幕》报道，“AI 教父”杰弗里 · 辛顿 (Geoffrey Hinton) 表示，很难估计 AI 将人类全部灭绝的概率，但这个概率并非为零。辛顿周三接受了 BBC《新闻之夜》的采访，他表示：“在我看来，10% 的概率似乎是一个不算离谱的估计，但实际上没人知道该如何给出一个合理的估计。”《新闻之夜》主持人维多利亚 · 德比希尔 (Victoria Derbyshire) 对此表示惊讶，因为辛顿基本认同了 Anthropic 顶级 AI 安全研究人员雅各布 · 考克森 (Jacob Coxon) 的判断。该研究员表示，未来 10 年内，AI“有超过 10% 的概率杀死全人类”。“哇，”德比希尔说，“我的天哪。”难以估计具体概率辛顿表示，很难估计具体概率，因为人类社会从未见过一种“很快就可能比我们更聪明”的技术。“如果说只有 1% 的概率，那就太愚蠢了，”他说，“没有人知道该如何估算。”这位诺贝尔奖得主表示，可以确定的是，这种灾难可能发生的时间窗口已经缩短了。“我以前认为是 30 到 50 年，后来缩短到 10 到 20 年”“现在，我觉得可能是 10 年，甚至更短”“而其他人认为比这还要快得多。”灾难可能如何发生至于这种情况可能如何发生，辛顿提到了从网络攻击到 AI 研发出致命病毒等各种风险。尽管辛顿没有说明为什么这一时间表被大幅缩短，但包括 Anthropic 和 OpenAI 在内的领先 AI 公司已经投入数十亿美元来扩大模型规模，而它们最近发布的产品相比数月前的模型已展现出显著提升。“那些开发 AI 的人真心相信，AI 可能在这个十年结束前杀死我们所有人，”考克森在 X 上写道，“这不是营销噱头。”如果说有什么不同，那就是许多高管和资深研究员在媒体上会措辞谨慎，让自己听起来理性，但他在私下听到的是同一批人表达恐惧。呼吁加强全球监管辛顿表示，人类可能走上自我毁灭的道路，也可能在实现 AI 潜力的同时，找到“如何应对 AI 所带来危险”的办法。他再次呼吁加强全球监管，并指出尽管各国可能无法在所有问题上达成一致，但它们都有维护人类生存的共同愿望。“对于防止 AI 取代人类这类问题，各国的利益是一致的。因此，它们最终会展开合作。”他表示，“问题在于，他们能及时采取行动吗？”本文转载