AI易受误导 影像辨识未及人(图)

发布 : 2018-3-21  来源 : 明报新闻网 用微信扫描二维码，分享至好友和朋友圈

加关注 明声网温哥华 微信公众号

自动驾驶车技术的重点在于人工智能（AI）能否正确判断侦测到的物件是什么，并在最短时间内作出最准确的行动。然而研究指出只要稍微修改图像、文字和声音，就可以误导AI，可能导致误判和意外。学者正研究令AI不受「幻觉」影响的防卫机制，但面对不少困难。

Uber正式测试的自驾车设有多个成像系统，以应付和监控一般或突发情况。例如车顶设有激光雷达或光检测和测距系统，可以侦测出静止或移动中的物体，汽车亦设有多个镜头监测附近情况，车头有360度雷达装置等。不过系统并非万无一失，装置的效能会受天气、装设位置、侦测装置的种类而影响，电脑处理系统AI的判断能力亦是因素之一。

如何令AI不受干扰而作出正确分析并不容易，Google、亚马逊和史丹福大学等科企和学府发表研究，提出预防AI的判断被干扰的方案，今年4月一个机器学习论坛将公布11个研究。惟麻省理工一年级生阿塔耶（Anish Athalye）表示他可轻易破解当中7个项目；他亦用一张两名滑雪客站在雪山的照片（图）测试，指Google的云端Cloud Vision误以为相中的是狗。

Google系统 滑雪客当狗

加州大学柏克莱分校的研究员李柏（Bo Li，音译）指出，虽然阿塔耶的测试是在实验室实行，而非在街上或住所实试，但业界仍要认真看待结果。

她指出，人类亦可能出现错觉，但优胜之处是判断影像时并非单看像素的排列，而是会同时分析整合影像内不同元素之间的关系，例如人脸特徵。Google的机器学习研究员表示正尝试让AI拥有这技术。

有分析认为，现阶段来讲，后备司机在确保自驾车行车安全方面仍然重要。

（综合报道）