少年沉迷AI聊天机械人自杀 母告开发商
发布 : 2024-10-25 来源 : 明报新闻网 用微信扫描二维码，分享至好友和朋友圈 | 加关注  明声网温哥华 微信公众号 |
美国佛罗里达州女子加西亚（Megan Garcia）周二（22日）入禀法院，民事控告生成式人工智能初创公司Character.AI的AI聊天机械人导致14岁儿子塞策（Sewell Setzer）在2月自杀，称该公司向其子提供「拟人化、夸大了性元素，及逼真得可怕的体验」。
入禀状指出，塞策去年4月开始使用该公司的AI聊天机械人，对该公司的服务上瘾，并对一个AI聊天机械人产生情感依恋。诉讼还指出，塞策曾向聊天机械人表达过自杀的想法，而该聊天机械人多次重提这些想法。
诉讼亦将Google列为被告，称其是Character.AI的母公司。Google发声明指出，与Character.ai仅有一项许可协议，并不拥有该公司的所有权或持有该公司股份。
加西亚的指控包括不当致死、疏忽以及故意造成情绪困扰，要求赔偿。Character.ai在X发文否认指控，称「非常重视用户安全」。
（路透社/中央社）
入禀状指出，塞策去年4月开始使用该公司的AI聊天机械人，对该公司的服务上瘾，并对一个AI聊天机械人产生情感依恋。诉讼还指出，塞策曾向聊天机械人表达过自杀的想法，而该聊天机械人多次重提这些想法。
诉讼亦将Google列为被告，称其是Character.AI的母公司。Google发声明指出，与Character.ai仅有一项许可协议，并不拥有该公司的所有权或持有该公司股份。
加西亚的指控包括不当致死、疏忽以及故意造成情绪困扰，要求赔偿。Character.ai在X发文否认指控，称「非常重视用户安全」。
（路透社/中央社）