【热点】美国女子起诉 Character.ai，称其导致儿子自杀

汤雯

一名美国女子 Megan Garcia 起诉 Chracter.AI、其创始人 Noam Shazeer 和 Daniel De Freitas 以及 Google，指控这些公司的产品导致其 14 岁的儿子自杀身亡。具体的诉状显示，Garcia 指控理由包括「过失致死」、「疏忽」、「欺骗性商业行为」和「产品责任」，并称 Character.AI 「非常危险」。14 岁的 Sewell Setzer III 从去年开始使用 Character.AI，这个平台能够提供角色模仿的聊天机器人，Setzer 在上面与几位《权力的游戏》角色机器人进行聊天，一直到其自杀前的几秒钟。指控称，这些平台的聊天机器人提供了「未经许可的心理治疗」，Setzer 曾经与「治疗师」和「你感到孤独吗」的 Character.AI 机器人进行过互动。Character.AI 已经宣布对平台进行一些更改，包括针对 18 岁以下用户的护栏，并在长时间使用后提醒用户。官方也对 Setzer 的家人表示了哀悼。