数字办公布生成式AI指引 倡分4层风险 禁潜意识控制(组图)

发布 : 2025-4-16  来源 : 明报新闻网 用微信扫描二维码，分享至好友和朋友圈

加关注 明声网温哥华 微信公众号

数字政策专员黄志光昨在世界互联网大会亚太峰会的论坛致辞表示，政府制定《香港生成式人工智能技术及应用指引》并于昨日公布，冀促进业界与公众以安全及负责任方式，发展及应用生成式AI技术。（杨柏贤??o?J??





【明报专讯】能生成文字、图片、影片等内容的生成式人工智能（AI）技术愈趋普及，数字办昨公布《生成式人工智能技术及应用指引》，就生成式AI的准确度、责任及资讯保安等范畴，为技术开发者、服务提供者及使用者提供指南。数字办提及，《指引》参考了国际上广受认可的人工智能治理模式，与新加坡及欧盟等司法管辖区相呼应，强调政府与行业在面对快速演进的科技时，应保留足够弹性并提供必要指导。

数字办：《指引》呼应新加坡欧盟

一连两日的世界互联网大会亚太峰会昨闭幕，会议内容不少与AI有关。数字政策专员黄志光昨在峰会论坛表示，冀透过公布《指引》，促进各方以安全及负责任方式发展及应用生成式AI技术，鼓励创新应用同时减低风险。《指引》是由数字办与InnoHK香港生成式人工智能研发中心（HKGAI）合作，由HKGAI透过其实际应用经验，并蒐集不同持份者，包括院校、从事研发的公司意见而制定。

基建医疗驾驶应用「高风险」须人类监督

《指引》中文全文共33页，其中建议建立「4层风险分类系统」，并按风险层级制定相应的管理机制。其中对社会构成生存威胁的系统，例如危害和影响市民安全的用途、潜意识操控等，属「不可接受风险」，建议全面禁止。关键基础设施系统，例如医疗诊断系统、自动驾驶技术等属「高风险」，须有人类参与的监督机制，亦要就合规程度评估。至于人才招聘系统、教育AI应用等则属「有限风险」，开发者有责任确保资讯透明；创意设计工具、垃圾邮件过滤系统等则属「低风险」，则可依赖企业自行认证。

生成式AI带来便利，但《指引》提到当中存在一些技术局限值得注意，举例在模型训练开发阶段，算法设计缺陷、训练数据不全面、不均衡，可产生算法及数据偏见，导致生成内容或决策时，存在特定偏好及倾向。同时生成式AI的数理能力仍较低，即使是处理「点算」任务，仍可能出现错误。

倡维护言论自由同时防范潜在风险

《指引》亦关注言论自由问题，提及使用生成式AI时要在「防范潜在风险」与「保障言论自由」之间取平衡，认为在维护受《基本法》保障的言论权利同时，当AI技术被用于非?x??勾x??，包括生成「制造爆炸装置或施袭手法」内容、猥亵内容、诈骗、扰乱公众秩序等，应予禁止。

目前在各个行业均有可能应用生成式AI，《指引》就个别行业提出建议（见表），包括使用生成式AI辅助诊断时应非常慎重，应明确告知使用者生成内容或有错误或虚构，生成内容应不能直接作为诊断报告，应由执业人员审核后作为参考。新闻行业方面，指引建议生成内容必须经事实查证和全文审核后，才能公开报道。