专家已警告AI技术可能带来生存风险(图)

发布 : 2024-11-13  来源 : 明报新闻网


用微信扫描二维码，分享至好友和朋友圈

联邦工业部长商鹏飞周二在满地可宣布启动加拿大人工智能安全研究所。（加新社）


【明报专讯】联邦政府成立一个研究中心，专门探讨人工智能(AI)技术带来的风险。

加拿大人工智能安全研究所(Canadian Artificial Intelligence Safety Institute)周二在满地可启用，联邦工业部长商鹏飞(Francois-Philippe Champagne)主持揭幕仪式时表示，该中心在让公众对AI技术建立信心方面至关重要。

联邦政府指，AI可能会在选举干预、假消息宣传和网络安全事故中被滥用。

5月份在南韩首都首尔举行的一个会议上，各国领袖同意建立一个由公共资金支持的安全机构所组成的网络，以推进有关技术的研究和测试。商鹏飞称，加拿大是最早成立类似机构的其中一个国家。

加拿大人工智能安全研究所将跟其他国家的类似组织合作，作为人工智能安全机构国际网络的一部分，该网络将于下周在美国三藩市举行第一次会议。

专家已警告改变日常生活的AI技术可能会带来生存风险，各国政府和全球机构一直致力就AI推出防护措施。

加拿大新设的研究所将隶属联邦创新、科学及经济发展部，它将在5年内获渥京拨款5,000万元，有关款项属于本年度联邦财政预算案已宣布的24亿元AI相关资金一部分。

该研究所将负责由政府主导的项目，重点关注网络安全及跟其他国家联合测试等优先事项。政府也将通过加拿大高等研究院(Canadian Institute for Advanced Research)资助加拿大和国际专家进行的研究工作。

「泛加拿大人工智能策略」协会(Pan-Canadian AI strategy at the Canadian Institute for Advanced Research)的行政主任丝托梅(Elissa Strome)称，因应AI技术无远弗届，全球合作至关重要。

她说，加拿大在AI研究方面一直处于领先地位，亦将为全球对话带来其具备的专业知识和领导力。

丝托梅指，在三藩市的会议上，来自世界各地AI机构的代表将探讨新兴主题和合作机会。她又说，AI的使用方式已经存在一些担忧，也令问题丛生，包括错误信息、诸如深伪技术(deepfake)制造的假消息和合成内容，但亦有机会开发新技术方法来识别或防止虚假内容。