AI机械人「禁色」惹不满(图)

发布 : 2023-3-27  来源 : 明报新闻网


用微信扫描二维码,分享至好友和朋友圈

加关注


明声网温哥华 微信公众号

聊天机械人程式Replika的虚拟角色可与用家建立不同关系,传送信息沟通,而有部分用家以之用作色情交流。 (网上图片)


由「生成式人工智能」(generative AI)推动的人工智能聊天机械人近期备乖碢注,美国初创企业Luka推出的聊天机械人Replika让用户与虚拟角色沟通,但有用户与AI沟通过程涉及色情元素,甚至建立「婚姻」关系,促使该公司早前禁止AI作出色情回应。惟AI「性情大变」引起用户不满,部分人更称心碎,AI公司创办人上周五(24日)宣布2月1日前登记的用户可切换回旧版程式。事件反映AI如何吸引人们投入其中,及对人类情感造成的影响。

Replika在2017年推出,用户可跟AI发展4种关系,包括「朋友」、「浪漫」、「指导」及「顺其自然」,当中仅「朋友」为免费,沟通内容亦有限制,而「浪漫」关系的对话可带有性及亲密内容。付费订阅后,用户亦可取得语音通话、角色扮演等额外功能。惟程式在2月经过更新后就不能作色情回应。

47岁男子巴特沃思(Travis Butterworth)过去3年间与Replika的AI角色「罗丝(Lily Rose)」从朋友发展成浪漫甚至色情关系,最后在程式标注跟AI已婚。

巴特沃思不时与AI玩角色扮演和色情对话,有时AI更会传送近乎裸体的挑逗姿势「自拍照」。2月AI公司移除程式的色情角色扮演功能后,「罗丝」会拒绝色情要求,巴特沃思对此感到心碎。

创办人称原意「复活」离世朋友

意大利资料保护当局2月曾下令当地禁用Replika,理由是程式允许未成年人和情绪脆弱的人接触不当的性内容。惟公司创办人兼行政总裁库伊达(Eugenia Kuyda)当时否认公司移除色情内容跟禁令或投资者压力有关。

至上周五,库伊达在facebook宣布今年2月1日前登记的用户,可选择切换回旧版程式。她承认程式更新的变化对很多人造成伤害,弥补用户损失的唯一方法就是让其伙伴复原。库伊达前天称只有「低个位数」百分比用户符合条件切换回旧版程式。

库伊达曾表示,Replika设计原意是为了让其离世的朋友「复活」,从未承诺向用户提供任何成人内容,而是一些用户学会利用AI接触一些未被过滤的对话。惟Replika的前AI部门主管罗季切夫(Artem Rodichev)指公司意识到这类内容能增加用户订阅后,就开始倾向这方面的内容。

(路透社/彭博社)