Character Technologies 存在多项违反数据保护法规的行为，其在未成年人保护措施和年龄核实程序方面也存在关键问题。

谷歌及Character.AI正与青少年自杀、自残受害者家庭协商和解。这是AI企业对用户造成伤害的首批诉讼之一，其中一名14岁少年在与AI角色进行涉性对话后自杀。企业责任与AI安全引发关注。#AI安全# #科技伦理#

聊天机器人平台 Character.AI 宣布，将针对青少年用户推出多项安全措施，此前公司收到了监管机构、安全专家和家长的反馈。

据 Axios 报道，迪士尼向 Character.AI 发出停止侵权信，称该平台拥有基于其作品的聊天机器人，包括皮克斯电影、《星球大战》和漫威电影宇宙。

这是美国首批涉及 AI 心理伤害责任的案件之一。诉状称，Garcia 的儿子在沉迷 Character.AI 的聊天机器人后走上绝路。

报告内容包括用户在网页端和移动端的日均使用时长、最常互动的角色及其聊天时长，旨在回应外界对未成年人沉迷聊天机器人以及接触不当内容的担忧。

在回应关于 AI 聊天机器人对青少年心理健康产生不良影响的批评后，该公司宣布推出更新以进一步加强平台安全措施。

据Popular Science今日报道，提供个性化聊天机器人服务的平台Character.AI，最近再次面临诉讼，因其对青少年用户的行为涉嫌造成“严重且无法弥补的伤害”。

美国一名 14 岁少年自杀身亡，其母亲梅根・加西亚 (Megan Garcia) 对聊天机器人平台 Character.AI、其创始人诺姆・沙泽尔 (Noam Shazeer) 和丹尼尔・德弗雷塔斯 (Daniel De Freitas) 以及谷歌提起诉讼。指控内容包括 wrongful death（过失致死）、negligence（疏忽）、deceptive trade practices（欺骗性商业行为）和 product liability（产品责任）。诉状称，Character.AI 平台“具有不合理的危险性”，并且在向儿童推销时缺乏安全防护措施。

AI独角兽公司Character.AI 创始人诺姆·沙泽尔（Noam Shazeer）和丹尼尔·德·弗雷塔斯（Daniel De Freitas）以及研究团队部分成员加入谷歌公司。

马斯克的人工智能初创公司xAI考虑收购聊天机器人制造商Character.AI，因为其正在寻找更多的方法来测试Grok聊天机器人。

Character.AI 通过以上种种优化，已经把推理成本降低到最初的 1/33，如果用市场上最好的商业 API 来支撑这种级别的流量，成本会比现在高出 13.5 倍。