诺奖得主辛顿忧AI发展速 控制人类恐不是科幻小说(图)

发布 : 2024-10-15  来源 : 明报新闻网


用微信扫描二维码，分享至好友和朋友圈

【明报专讯】本届诺贝尔物理学奖得主、多伦多大学教授辛顿(Geoffrey Hinton， 左图)警告「人工智能」(AI)带来的最大而长期危险是，一旦有关技术变得比人类更聪明，人类就会被控制。

有「人工智能（AI）教父」之称的电脑权威辛顿得奖后罕有地接受传媒访问，他指，AI可能带来积极的影响，但它发展急速，也可能引发生存问题。

他说，「我最担心的是长期风险，因为民众认为这只会在科幻小说出现。因此，最大的长期危险是，若AI比我们更聪明，它就会控制人类，使我们变得微不足道。这一情况令人担忧，没有人知道如何确切地防止这种情况发生，因此我们现在需要就此进行大量研究。」

辛顿于去年辞去Google副主席等职务，目的就是为了能不受制约地警告人类关于AI带来的潜在风险。

他称，医疗保健是AI可作出巨大帮助的重要领域，即使对于那些引领AI成长和发展的人来说，未来10年有关技术的发展方向也难以预测，但回顾过去10年，就可以发现该技术的发展一日千里，超出所有人的预期，例如ChatGPT和Google的Gemini等大型语言模型。

辛顿指，尽管该技术仍存在一些小麻烦和不准确的问题，但它通常可以写出完整而且令人信服的句子，这是业界10年前无法估计的。

他说，「比起我们10年前预测，这些大语言模型及其正确处理自然语言的能力要好得多。没有人估计到我们的语言模型可以回答任何问题，并可以成为所有事情上不太理想的专家，这太神奇了。10年前，大家都极自信地预测不会做到。」