自动驾驶车技术的重点在于人工智能(AI)能否正确判断侦测到的物件是什么,并在最短时间内作出最准确的行动。然而研究指出只要稍微修改图像、文字和声音,就可以误导AI,可能导致误判和意外。学者正研究令AI不受「幻觉」影响的防卫机制,但面对不少困难。
Uber正式测试的自驾车设有多个成像系统,以应付和监控一般或突发情况。例如车顶设有激光雷达或光检测和测距系统,可以侦测出静止或移动中的物体,汽车亦设有多个镜头监测附近情况,车头有360度雷达装置等。不过系统并非万无一失,装置的效能会受天气、装设位置、侦测装置的种类而影响,电脑处理系统AI的判断能力亦是因素之一。
如何令AI不受干扰而作出正确分析并不容易,Google、亚马逊和史丹福大学等科企和学府发表研究,提出预防AI的判断被干扰的方案,今年4月一个机器学习论坛将公布11个研究。惟麻省理工一年级生阿塔耶(Anish Athalye)表示他可轻易破解当中7个项目;他亦用一张两名滑雪客站在雪山的照片(图)测试,指Google的云端Cloud Vision误以为相中的是狗。
Google系统 滑雪客当狗
加州大学柏克莱分校的研究员李柏(Bo Li,音译)指出,虽然阿塔耶的测试是在实验室实行,而非在街上或住所实试,但业界仍要认真看待结果。
她指出,人类亦可能出现错觉,但优胜之处是判断影像时并非单看像素的排列,而是会同时分析整合影像内不同元素之间的关系,例如人脸特徵。Google的机器学习研究员表示正尝试让AI拥有这技术。
有分析认为,现阶段来讲,后备司机在确保自驾车行车安全方面仍然重要。
(综合报道)