忧大选年助长假资讯 OpenAI缓推语音生成
发布 : 2024-4-02 来源 : 明报新闻网 用微信扫描二维码，分享至好友和朋友圈 | 加关注  明声网温哥华 微信公众号 |
人工智能（AI）公司OpenAI正研发新软件Voice Engine，测试显示透过输入文字及15秒的录音样本，就能制作一段跟原本演讲者非常相似的自然语音。不过该公司上周五（3月29日）在网志称意识到这类语音生成AI功能有严重风险，尤其在今年包括美国在内全球多地皆有选举的大选年可能助长假资讯，因此在现阶段决定暂不向公众发布这款AI软件。
15秒录音即可合成人声
OpenAI在2022年底已开始研究这款语音模仿软件，初始版本用于生成式AI聊天机械人ChatGPT内建的文字转语音功能，到去年底开始跟小部分可信赖合作伙伴展开测试，以了解软件潜在用途。OpenAI称，希望待社会增强抵御力，以应对愈来愈有说服力的生成模型带来的挑战时，才向公众发布Voice Engine这类AI语音生成工具。
在网志中，OpenAI发布一些合作伙伴应用成果，如教育科技公司Age of Learning用它产生剧本配音；AI影片生成程式HeyGen让用户制作录音内容的不同语言翻译版本，同时保留原本说话者口音及声线。美国罗得岛的诺曼普林斯神经科学研究所更利用软件，用一段质素不佳、来自一名年轻女子在学校演讲的录音，为她「恢复」因血管脑肿瘤而失去的声音。此外，Voice Engine能应用于为孩童朗读故事、企业产品介绍等各种场景。
生成音讯涵标示 来源可追踪
经Voice Engine产生的音讯都会带有标示，让其他机构能追踪音讯生成的来源，OpenAI又称跟合作伙伴订明使用程式时，须获原始发言者的明确同意。OpenAI不容许开发者为个别用户提供方法自行创建声音。（卫报）
15秒录音即可合成人声
OpenAI在2022年底已开始研究这款语音模仿软件，初始版本用于生成式AI聊天机械人ChatGPT内建的文字转语音功能，到去年底开始跟小部分可信赖合作伙伴展开测试，以了解软件潜在用途。OpenAI称，希望待社会增强抵御力，以应对愈来愈有说服力的生成模型带来的挑战时，才向公众发布Voice Engine这类AI语音生成工具。
在网志中，OpenAI发布一些合作伙伴应用成果，如教育科技公司Age of Learning用它产生剧本配音；AI影片生成程式HeyGen让用户制作录音内容的不同语言翻译版本，同时保留原本说话者口音及声线。美国罗得岛的诺曼普林斯神经科学研究所更利用软件，用一段质素不佳、来自一名年轻女子在学校演讲的录音，为她「恢复」因血管脑肿瘤而失去的声音。此外，Voice Engine能应用于为孩童朗读故事、企业产品介绍等各种场景。
生成音讯涵标示 来源可追踪
经Voice Engine产生的音讯都会带有标示，让其他机构能追踪音讯生成的来源，OpenAI又称跟合作伙伴订明使用程式时，须获原始发言者的明确同意。OpenAI不容许开发者为个别用户提供方法自行创建声音。（卫报）