学者质疑AI灭绝夸大 促关注损民主真威胁(图)

发布 : 2023-6-05  来源 : 明报新闻网 用微信扫描二维码，分享至好友和朋友圈

加关注 明声网温哥华 微信公众号

人工智能（AI）的发展速度及应用范畴备乖碢注。美国纽约大学心理学和神经科学荣誉退休教授马库斯（图），日前接受法新社访问时就AI的急速发展及应用提警告，称要制定严格规管。惟他同时认为有关AI会造成人类灭绝的威胁或被夸大，他指社会应将注意力放在「真正的危险」，例如民主会受AI威胁，选举可能由更擅长散播虚假信息的人胜出，长远将让民主进程变得非常困难。

马库斯（Gary Marcus）在3月曾与电动车公司Tesla创办人马斯克等逾1000人联署，呼吁暂停研究「比聊天机械人ChatGPT-4更强」的人工智能（AI）至少半年，但他没有参与上月底另一封ChatGPT开发者OpenAI行政总裁奥尔特曼有份联署的公开信，该信指各国应致力降低AI技术带来的「人类灭绝」风险，将之「与应对疫情大流行和核战，视为同级的全球优先要务」。

擅长散播假信息者易赢选举

在法新社周日（4日）刊出的访问中，马库斯称他个人目前没那么担心灭绝风险，因情况不那么实在，他担心的是人们正建立无法很好地控制的AI系统，会带来很多风险，不过指这情况未必会发生。马库斯又反问：「如果你真的认为会有灭绝风险，为何你要研究这个（AI）？」

马库斯认为，与其聚焦人类灭绝等遥远事情，社会应将注意力放在真正的危险。他举例有人或试图用AI制造混乱操纵市场：「例如，指摘俄罗斯人并称『看看他们对我们国家做了什么？』而俄罗斯人实际上并没涉事其中。」他指情况可能会升级而导致核战等类似事件。

生成式AI工具可让人用极低成本制作像真度高的虚假影像，马库斯关注在短期内民主会受到威胁。他称选举会由那些更善于传播虚假信息的人赢得，这些人或改变规则，让民主进程变得更困难。他指出，民主的前提是拥有合理信息并作正确决定，「若无人知道该信什么，那你还怎么推行民主？」不过，马库斯指出，AI肯定能有助科学、医学和老年护理，只是短期内人们还未准备好，发展AI过程中或会遇上危险，要制定严格监管。 （法新社）