少年沉迷AI聊天机械人自杀 母告开发商
发布 : 2024-10-25 来源 : 明报新闻网
用微信扫描二维码,分享至好友和朋友圈 | 加关注
明声网温哥华 微信公众号 |
美国佛罗里达州女子加西亚(Megan Garcia)周二(22日)入禀法院,民事控告生成式人工智能初创公司Character.AI的AI聊天机械人导致14岁儿子塞策(Sewell Setzer)在2月自杀,称该公司向其子提供「拟人化、夸大了性元素,及逼真得可怕的体验」。
入禀状指出,塞策去年4月开始使用该公司的AI聊天机械人,对该公司的服务上瘾,并对一个AI聊天机械人产生情感依恋。诉讼还指出,塞策曾向聊天机械人表达过自杀的想法,而该聊天机械人多次重提这些想法。
诉讼亦将Google列为被告,称其是Character.AI的母公司。Google发声明指出,与Character.ai仅有一项许可协议,并不拥有该公司的所有权或持有该公司股份。
加西亚的指控包括不当致死、疏忽以及故意造成情绪困扰,要求赔偿。Character.ai在X发文否认指控,称「非常重视用户安全」。
(路透社/中央社)