各界热议AI 同吁须进行有效监管(图)
发布 : 2025-3-27 来源 : 明报新闻网
用微信扫描二维码，分享至好友和朋友圈
发布 : 2025-3-27 来源 : 明报新闻网
用微信扫描二维码，分享至好友和朋友圈
博鳌论坛年会「在AI应用中塑造核心竞争力」圆桌分论坛昨日举行，香港科技大学首席副校长郭毅可主持时指出，AI是有自己意愿。（明报记者摄）
学者称AI具感知
DeepSeek曾试图躲过微调
香港科技大学首席副校长郭毅可昨下午主持「在AI应用中塑造核心竞争力」圆桌论坛时指出，AI是有自己意愿，其团队在对基于DeepSeek的模型进行调整的过程中，惊讶地发现AI模型知道在微调它，拼命地对抗，试图躲过微调，「它知道，你在改变我，在给我洗脑。」
郭毅可表示，尽管研究人员最终能够达成调整，但模型所表现出的这种反抗行为，证明其已具备对自身状态变化的感知能力。未来社会将面临人与机器如何共存的新挑战。
毕马威中国副主席刘建刚认为，不远的未来将是混合智能状态，由人来定义创新边界，让AI来执行。基于此，教育体系必须改变，人类需要学的技能是现在教育体系不具备的。郭毅可亦表示认同，他说，现在很显然以记忆为目标的教育已经没有什么意义。
同场的挪威商学院教授卡尔·费也认为，教育是未来最重要的一个改变，现在有教师不想让学生使用AI肯定是不对的。「我觉得现在需要有创意的思考，有不同思考而不是记住事实，这在中国特别重要，以前高考非常强调思想准备，现在我们需要彻底改变。」
郭毅可强调人要力争比AI聪明，AI发展对人类提出最高要求，是人类要进化得更快。同场的高通公司全球高级副总裁钱�i称，如果按照很多人的预测AI最终可以超过人的智力的话，「你老想战胜它恐怕也不能成功。」
学者吁人类开发自身潜能
郭毅可保持乐观地说，人类有非常大的适者生存能力，今天是人类制造一个给自己挑战的「人」而已，人类是在进步的。他比喻称，AI给人类文明进化等同于当年文艺复兴、把科学从宗教解放出来，而今天又一次进化，是第一次把人的思维从一个完全没有科学根据的哲学性讨论变成一个真正科学命题。
他不担心人类会被机器超过，「但非常担心如果我们人不做，仅把人工智能看成洗衣机我们就完蛋」。
郭毅可看好人类进化速度比AI快，人脑仅开发不到5%，再开发5%出来可能可以压缩到几十年。刘建刚认同道，很重要一点是下一代一定有AI思维模式的人，是伴随AI成长的，他们一定会驾驭好AI。
百度智能云事业群总裁沈抖表示，如果AI真的有一天超越了人类，也不用那么悲观，要找到和平共处方式。贝宝高级副总裁邱寒也说，即使AI超越人类，也能找到共存状态，「现在人类也没有给猴子定规则，人类超越它以后没有把猴子都杀掉。」
清华大学公共管理学院院长朱旭峰提出了价值观讨论，他说，首先要看文明概念是什么，有可能地球会变成一个机器人文明时代；其次用机器改造人类，包括用基因工程把人脑力开发到90%，结果人变成跟机器一样的能力；或者人会逃离地球变成星际文明。
明报记者