谷歌 DeepMind CEO 哈萨比斯:人类有个宝贵的窗口期来确保 AGI 是安全的
来源:IT之家 5 小时前

IT之家 7 月 15 日消息,谷歌 DeepMind CEO 德米斯 · 哈萨比斯发出明确警告:能力极强的 AI 可能距离人类已经不远,社会各界必须加快准备。

哈萨比斯在 X 平台发布短文称,通用人工智能(AGI)到来前,人类仍有一个“宝贵的时间窗口”可以采取行动,AGI 可能再过短短几年便会出现。

哈萨比斯建议成立一个由美国牵头的国际联盟,在最先进的 AI 模型公开发布前开展安全审查。“AI 能力正在快速进步,测试前沿 AI 模型必须采用一种动态、灵活而严谨的新方法。凭借经济和技术优势,美国具备率先建立上述框架的条件。”

哈萨比斯表示,AI 标准机构可以借鉴美国金融业监管局的模式(IT之家注:美国金融业监管局是一家由私营部门设立、负责监管华尔街的非营利机构)。按照设想,AI 标准机构很可能同样需要由行业提供资金。

哈萨比斯过去曾预测,AGI 最早可能于 2030 年问世,并多次警告社会准备远远不足。他去年在达沃斯表示:“未来五到十年发生的变化将极其重大,但我认为人们仍没有真正认识到这一点。”此外,他此前还提出,应当让哲学家、经济学家和其他领域的专家参与讨论,共同评估 AI 即将带来的深层社会影响。

哈萨比斯此次写道:“我们希望按照什么样的价值观生活,人生的意义和目标将是什么,甚至人类自身的处境会发生怎样的变化?显然,寻找这些问题的答案不能也不应只交给技术人员,而需要整个社会共同参与,定义这个新的时代。”

哈萨比斯进一步强调,留给人类采取行动的时间已经十分有限。“我们现在共同作出的选择,将决定文明下一阶段的发展方向。”

简体中文 English