生成图像选票散播假消息 联邦大选期间慎防AI风险(图)

发布 : 2025-4-03  来源 : 明报新闻网


用微信扫描二维码，分享至好友和朋友圈

选举专员警告选举期间AI工具被用于制作虚假信息的风险。


【明报专讯】加拿大选举事务专员获得的一份内部简报，将人工智能（AI）的使用列为今届联邦选举活动的一项「高风险」。专家指，追查相关违例者难度极大，这也造成AI技术容易被滥用。

该份简报是在竞选活动开始前约一个月，为选举事务专员西马德（Caroline Simard）准备。渥太华大学萨缪尔森-格卢什科加拿大互联网政策与公共利益诊所（Samuelson-Glushko Canadian Internet Policy and Public Interest Clinic）透过《资料索取法》（Access to Information Act）取得该份简报，并提供给加拿大广播公司《新闻》（CBC News）。

自我监管有效性受质疑

该份日期为2月23日的文件指，即将举行的联邦大选很可能引发很多涉及使用AI工具的投诉，尽管AI可用于合法目的，但该等工具有被用于违反《加拿大选举法》的风险。文件称，本国在AI方面通常依赖「自我监管」方式，很大程度上交给科技业去做，但它指出，「自我监管的有效性受到质疑」，「一些以先进生成式AI制造图像的科技公司对选举假消息有具体政策，然而此举未能阻止产生误导选民的图像和选票」。

西马德办公室发言人在一封电邮中称，选举法没有明确禁止使用AI、机器人或深伪（Deepfake）技术，但若AI的用途违法，有关条例的某些规定可能适用。该发言人称，类似违法行为包括散播假消息、发布有关选举过程的不实信息或伪冒选举官员。

维多利亚大学AI风险及监管实验室总监利奇菲尔德（Michael Litchfield）认为，追查那些使用AI违反选举条例的人包括识别涉事者身分难度极大，这也是它被滥用的原因之一。

该份简报特别提到对使用生成式AI工具和深伪技术的担忧，尽管该等假信息很快被揭穿，但仍会产生重大影响。该简报指，联邦大选中尚未发生过使用深伪技术的个案，但它指国外相关例子众多，这种情况也可能在加拿大发生。

暗网可度身定造深伪服务

该文件还称，「暗网上有关度身定造深伪服务的广告与日俱增」，而深伪技术的影响取决于其传播量。

在本届竞选活动展开前的一次记者会上，加拿大首席选举事务官佩罗（Stephane Perrault）已经对AI可能被用来散播有关选举过程的假消息表示担忧。佩罗表示，「民众往往高估他们检测深伪技术的能力，他们在检测信息真伪方面过于有信心」。

佩罗还表示，已联络诸如X和TikTok等社交媒体网站，「寻求对方支持」去打击假消息，特别是由生成式AI制造的假消息。