代表倡治AI换脸拟声深伪欺诈(图)

发布 : 2025-3-05  来源 : 明报新闻网


用微信扫描二维码，分享至好友和朋友圈

昨日，十四届全国人大三次会议在北京人民大会堂举行预备会议。全国人大代表、小米科技创始人雷军准备步入会场。（中新社）


今年全国两会，人工智能（AI）等科技议题成为人大代表及政协委员关注的重要议题。包括小米集团创办人雷军、TCL创办人李东生、美的集团副总裁兼首席财务官锺铮、科大讯飞董事长刘庆峰等全国人大代表，昨均表示关注AI的发展及治理问题。雷军昨披露了他围绕新能源汽车、AI产业的高质量发展向大会提交的5份建议。

雷军表示，建议的出发点都是推动「科技带来美好生活」，既有提升中国企业在全球科技新格局中的竞争力的产业视角，如建议加快推进AI终端的高质量发展；又有民生视角，他建言重启新能源车牌调研论证，切实治理「AI换脸拟声」不当滥用问题。

李东生也关注到「AI深度伪造欺诈治理」的话题，建议包括加快出台AI深度合成内容标识管理规章制度，以各种方式加强管理。锺铮则认为，现在生成式AI在法律法规体系上仍不完善，特别是在界定AI生成内容的版权归属以及侵权责任认定等方面存在空白。此外，目前对于生成式AI影片的审核，技术条件有限，还需要继续完善技术手段。

相关统计数据显示，中国生成式AI产品的用户规模已达2.49亿人。科大讯飞董事长刘庆峰表示，生成式AI存在「幻觉」，特别是深度推理模型的逻辑自洽性提升，使得AI生成内容真假难辨。他建议，研究幻觉自动分析的技术和软件平台，开展深度鉴伪、有害内容识别以及互联网传播溯源。

中科院主任：机械人成AI重要莴婩

昨下午，全国政协委员、中科院多模态AI系统实验室主任乔红在「委员通道」接受媒体采访时表示，近3年，中国工业机械人的装载量达到全球二分之一以上，中国技术已经得到飞跃式发展，和国际先进水平的距离显著减少。乔红认为，人形机械人不仅是AI的重要表现形式和重要莴婩，也是通用实体AI系统的典型代表。未来中国的机械人系统将面临更大更重要的舞台。

明报记者